Investigadores da própria Anthropic — empresa na linha da frente da IA — já colocam o risco de extinção humana acima de 10% na próxima década, e um ex-funcionário da empresa saiu a alertar que muitos dos que constroem esta tecnologia temem, em privado, que ela possa matar-nos a todos ainda antes de 2030. Ninguém sabe controlar de facto estes sistemas, nem os próprios engenheiros que os criam compreendem totalmente o que se passa lá dentro. E, mesmo assim, a corrida para os tornar cada vez mais poderosos não pára.
Fonte: IA (Claude)
Entre as ameaças associadas à inteligência artificial, há uma que se distingue das restantes pela sua natureza especulativa — e, precisamente por isso, pela intensidade do debate que gera: o risco de que sistemas de IA cada vez mais capazes se tornem, a dada altura, incontroláveis ou persigam objectivos desalinhados com os interesses humanos.
O tema deixou de ser confinado a artigos académicos ou a cenários de ficção científica. Em Junho de 2026, a Anthropic — uma das principais empresas de investigação em IA — pediu publicamente aos grandes laboratórios do sector que ponderassem abrandar o ritmo de desenvolvimento, alertando que os sistemas estão a avançar tão depressa que podem em breve começar a melhorar-se a si próprios sem supervisão humana significativa.
Esta preocupação não é inédita. Já em 2023, o Future of Life Institute publicara uma carta aberta, assinada por um número considerável de investigadores e figuras públicas, a pedir uma pausa na investigação de IA em larga escala. Meses depois, centenas de personalidades proeminentes do sector assinaram uma declaração de uma única frase, afirmando que mitigar o risco de extinção associado à IA deveria ser tratado como prioridade global, ao lado de pandemias e de guerra nuclear.
Números que dividem os especialistas
O que torna este debate particularmente difícil de arrumar é a disparidade de estimativas entre os próprios especialistas. Geoffrey Hinton, galardoado com o Nobel da Física em 2024 pelo seu trabalho pioneiro em IA, tem afirmado publicamente que a probabilidade de a inteligência artificial provocar a extinção da humanidade nas próximas três décadas se situa entre 10% e 20%.
Mais recentemente, em Setembro de 2026, a saída de Jacob Coxon — antigo investigador da Anthropic e anteriormente da OpenAI, com cerca de três anos de experiência no sector — reacendeu a discussão. Ao anunciar a sua demissão, Coxon afirmou acreditar que pessoas directamente envolvidas na construção destas tecnologias consideram seriamente possível que a IA provoque uma catástrofe até ao final da década. A afirmação teve ampla repercussão nas redes sociais.
opovo
Na sequência dessas declarações, Evan Hubinger, investigador de alinhamento na própria Anthropic, apresentou a sua avaliação pessoal, situando o risco acima dos 10% para a próxima década — um número que, importa sublinhar, reflecte a opinião de um indivíduo e não uma posição institucional consensual.
Estas estimativas contrastam com análises mais cépticas. Segundo uma verificação factual publicada em 2026, mesmo instituições que questionam a plausibilidade do risco — como a Brookings Institution — não negam que ele exista; argumentam antes que é demasiado especulativo para dominar as prioridades de decisão política.
O que está, de facto, em causa
Na sua essência, a preocupação assenta num problema técnico chamado "alinhamento": a dificuldade de garantir que um sistema de IA, à medida que se torna mais capaz, continua a perseguir objectivos genuinamente compatíveis com os valores humanos — e não apenas versões superficialmente parecidas, mas subtilmente distorcidas, desses objectivos.
O problema agrava-se porque os modelos mais avançados são, em larga medida, "caixas negras": os próprios criadores admitem não compreender inteiramente os mecanismos internos que determinam o comportamento destes sistemas. Se um modelo se tornar significativamente mais capaz do que os seus supervisores humanos, a capacidade de detectar e corrigir um eventual desvio de objectivos poderá diminuir precisamente no momento em que mais seria necessária.
Um debate sem consenso — mas também sem silêncio
Convém não confundir a existência do debate com a existência de consenso científico. Não há, actualmente, nenhum acordo estabelecido sobre a probabilidade real, o horizonte temporal ou sequer o mecanismo concreto pelo qual um cenário catastrófico se poderia materializar. Grande parte da literatura científica emprega linguagem condicional — "poderá", "tem potencial para" — em vez de descrever um percurso demonstrado.
Ainda assim, o facto de investigadores de topo, incluindo alguns que trabalham dentro das próprias empresas que desenvolvem estes sistemas, expressarem publicamente este tipo de apreensão, é em si significativo. Nem sempre se trata de alarmismo externo: parte da pressão para maior regulação e cautela vem de dentro do próprio sector.
Em paralelo, iniciativas como o Singapore Consensus on Global AI Safety Research Priorities, reunindo investigadores internacionais, têm procurado transformar esta preocupação difusa numa agenda de investigação concreta — sinal de que, independentemente da probabilidade exacta atribuída ao cenário mais extremo, a questão do controlo de sistemas cada vez mais poderosos passou a ser tratada como um problema de engenharia e de governação a resolver, e não apenas como um exercício de especulação filosófica.
Sem comentários :
Enviar um comentário