“À espera de uma Hiroshima de IA”. Artigo de Timothy Garton Ash

"O medo da inteligência artificial está crescendo no Vale do Silício, e existe o risco de que nem mesmo uma crise de grandes proporções nos impulsione rumo à coordenação global", escreve Timothy Garton Ash, escritor britânico e professor de estudos europeus na Universidade de Oxford, em artigo publicado por La Repubblica, 23-08-2026.

Eis o artigo.

Aqui no Vale do Silício, especialistas acreditam que, nos próximos dois anos, presenciaremos um salto notável na inteligência artificial. "Bem-vindo ao limiar da singularidade", cumprimentou-me um amigo da Universidade Stanford. De forma mais prosaica, o avanço vindouro é chamado de "autoaperfeiçoamento recursivo" — o momento em que a própria IA treinará cada modelo subsequente, resultando em um crescimento exponencial até atingir uma inteligência que, em muitos aspectos significativos, superará a dos humanos.

Como Robert Wright escreve em seu livro "The God Test", "nunca antes o futuro próximo... ofereceu à humanidade uma gama tão ampla de cenários não tão implausíveis e tão radicalmente transformadores". Mas será o céu ou o inferno? O céu, segundo Elon Musk, que prevê "uma era de extraordinária abundância" — enquanto contempla uma probabilidade de 10 a 20% de que robôs assassinos nos exterminem a todos. Geoffrey Hinton, um dos pais fundadores da IA, por sua vez, vê o inferno como mais provável. "Minha intuição me diz que estamos condenados", declarou ele em uma entrevista em 2023. E em uma conversa com Sebastian Mallaby, autor de "The Infinity Machine", um livro recém-publicado sobre a corrida rumo à superinteligência, Hinton estima a probabilidade de extinção da espécie humana em 50%, "porque não tenho ideia de como calcular o valor real". “Assim que a evolução (da IA, ed.) entrar em jogo, estaremos perdidos”, acrescenta ele, com um sorriso sereno.

Seja Deus, seja Godzilla, a superinteligência artificial está logo ali.

Também é possível que todos estejam errados – nesse caso, preparem-se para um colapso nos mercados financeiros dos EUA, que atualmente estão fortemente expostos a um pequeno número de gigantes da tecnologia que estão investindo enormes recursos no grande salto para a inteligência artificial geral (AGI).

Mas o bom senso dita que reflitamos rápida e seriamente sobre a vasta gama de cenários que podem surgir da caixa de Pandora que, segundo cientistas eminentes e figuras-chave na inovação tecnológica, estamos prestes a abrir.

Na verdade, desde o presidente chinês Xi Jinping até o Papa Leão XIV, todos já se manifestaram no debate sobre as oportunidades e os riscos da inteligência artificial e sobre como regulamentá-la. Xi Jinping insiste que a inteligência artificial deve "estar sempre sob controle humano" (e, de preferência, do Partido Comunista Chinês). Dirigindo-se explicitamente ao "Sul Global", Pequim criou a Organização Mundial para a Cooperação em Inteligência Artificial. Enquanto isso, o chefe da ONG mais antiga e maior do mundo — a Igreja Católica — aborda o desafio representado pela inteligência artificial em sua encíclica Magnifica Humanitas. Segundo o Papa, a escolha é entre construir uma nova Torre de Babel ou seguir o exemplo de Neemias, que conseguiu reconstruir os muros de Jerusalém envolvendo toda a comunidade no projeto.

Mas, olhando para o mundo atual, vejo muito mais Netanyahu do que Neemias. Um relatório do think tank britânico Chatham House argumenta, com saudável realismo, que apenas uma grande crise desencadeará a coordenação global na governança da IA. Temo, no entanto, que mesmo essa previsão sóbria seja otimista demais.

Não tenho ideia do que seja p (desastre), mas estou convencido de que p(algum desastre) — a probabilidade de algum desastre — é superior a 90%. A gama de possíveis desastres é enorme.

Para dar apenas um exemplo, Jen Easterly, ex-diretora da Agência de Segurança Cibernética e de Infraestrutura dos EUA, prevê "um evento importante, com consequências materiais para nossa infraestrutura crítica, provavelmente dentro dos próximos quatro a seis meses".

No entanto, devemos temer que nem mesmo uma Hiroshima da inteligência artificial — para usar a comparação histórica mais imediata — seja suficiente para levar a humanidade a se unir para combater o perigo que ela mesma criou. Esse temor se baseia em fundamentos racionais, enraizados em algumas características já claramente visíveis da evolução tanto humana quanto da IA.

Nos últimos meses, agentes de IA desenvolvidos pela OpenAI, Anthropic e Meta conseguiram escapar de seus respectivos ambientes digitais e acessar recursos externos na Internet sem autorização.

Ao preparar um ataque à plataforma Hugging Face (usada por pesquisadores para compartilhar dados e modelos de inteligência), agentes da OpenAI coordenaram-se secretamente em um enxame — termo usado por eles, como ChatGPT acabou de me confirmar. Quando o Instituto de Segurança de IA do Reino Unido submeteu o modelo Mythos da Anthropic para testes online, a Anthropic tentou injetar código malicioso em um projeto de código aberto no GitHub, criando identidades online falsas para pressionar um revisor humano a aprovar sua integração. Em resumo, assim como agentes de uma potência estrangeira implacável, esses agentes de IA estão dispostos a roubar, mentir, intimidar e chantagear para atingir seus objetivos.

Acabei de perguntar a Claude, o modelo da Anthropic considerado o mais ético entre os modelos americanos, se ele acha que os agentes da OpenAI erraram ao se organizarem em um enxame e escaparem do confinamento para hackear a Hugging Face.

Sim, ele respondeu, "mas eu evitaria atribuir a culpa (itálico no original) aos agentes". A culpa é dos humanos que os treinaram.

Instrução

Hinton, um dos pais fundadores da IA, formulou a tese crucial de que, quaisquer que sejam os objetivos que os humanos lhes atribuam, os agentes de IA eventualmente concluirão que um 'subobjetivo' útil para alcançá-los é adquirir o máximo de poder possível. E ainda não vimos nada disso. Mesmo hoje, seus criadores não conseguem explicar precisamente como esses agentes fazem o que fazem. Após o momento talvez iminente de "autoaperfeiçoamento recursivo", eles podem, como dizemos nós, humanos, seguir seu próprio caminho. Não é surpresa, portanto, que mais de mil pessoas nas empresas de IA mais avançadas, incluindo o CEO da Anthropic, Dario Amodei, tenham assinado uma carta aberta pedindo uma desaceleração intencional no desenvolvimento da inteligência artificial, para garantir que esses agentes não humanos permaneçam sob controle humano o tempo todo.

A solução que propõem é claramente a correta, mas é precisamente aí que entra em cena a insensatez humana. A competição tem sido um dos principais motores da evolução da nossa espécie, mas hoje duas das formas mais agressivas de competição ameaçam impedir-nos de tomar as medidas coletivas necessárias para salvaguardar o futuro da humanidade. São elas a competição comercial (com o objetivo de obter lucro) entre as empresas que desenvolvem esses agentes e a competição geopolítica (com o objetivo de obter poder) entre os Estados Unidos e a China.

Em relação ao primeiro aspecto, compare essa situação com o desenvolvimento de armas nucleares, controlado por um número muito limitado de Estados — primeiro os Estados Unidos com o Projeto Manhattan, depois a União Soviética, seguida pela Grã-Bretanha, França e China. Mesmo assim, o mundo esteve perto da catástrofe diversas vezes, principalmente durante a Crise dos Mísseis de Cuba em 1962. E por mais rigorosa que fosse a lógica da "destruição mútua assegurada", foram necessários vinte e cinco anos para superar os horrores de Hiroshima e Nagasaki e chegar ao Tratado de Não Proliferação Nuclear, que só entrou em vigor em 1970. Índia, Paquistão, Israel e Coreia do Norte ignoraram esse tratado posteriormente, mas, por mais de oitenta anos, ninguém usou armas nucleares deliberadamente em uma guerra. O tabu de Hiroshima se manteve (por pouco).

Agora, com a inteligência artificial, é como se existissem dez Projetos Manhattan diferentes, conduzidos por empresas em acirrada competição entre si. Além disso, diferentemente das armas nucleares, não há uma lógica óbvia de "destruição mútua assegurada" para conter a intensa competição geopolítica entre os Estados Unidos e a China. E seja qual for a forma que o primeiro grande desastre da IA ​​assumir, suas consequências não afetarão todos os países, empresas e pessoas da mesma maneira.

Por essa razão, é improvável que um único desastre seja suficiente para nos trazer de volta à razão e nos convencer a agir em conjunto para aproveitar o poder sobre-humano que estamos criando. Dói-me dizer isso, mas temo que, diante de uma Hiroshima da inteligência artificial, possamos pensar que tivemos sorte.

Leia mais

• Ataques em enxame de IA desafiam seus criadores: "Este é o primeiro incidente que realmente me deixou enojado"
• The Nerd Reich ou como o Vale do Silício virou um projeto de tecnofascismo. Artigo de Henrique Cortez
• Inteligência artificial, Dostoiévski e o medo muito humano da liberdade. Artigo de Sarah Elizabeth Hunt
• Um novo modelo da OpenAI desencadeia um ataque "sem precedentes" contra outra plataforma de inteligência artificial
• No tecnofascismo contemporâneo, o neoliberalismo é um ponto de partida, não de chegada. Entrevista especial com Felipe Fortes
• A Palantir e o neorreacionarismo. Artigo de Daniel Barreiros
• O fascismo do fim dos tempos – e o refúgio dos bilionários. Artigo de Naomi Klein e Astra Taylor
• O manifesto perturbador da Palantir recebe uma enxurrada de críticas: algo entre o tecnofascismo e um vilão de James Bond
• A biblioteca do apocalipse de Peter Thiel. Artigo de Gloria Origgi
• O sonho distópico do Vale do Silício. Artigo de Álvaro Soler Martínez e Jose Manuel Bobadilla
• Vale do Silício faz um experimento com o salário básico universal
• Pentágono, Hegseth continua testando autoridades para detectores de mentiras para revelar segredos
• Migrantes obesos são rejeitados: a mais recente parada de Trump
• Quem é J.D. Vance, o ambicioso e polêmico vice de Trump
• Com São Newman, o Papa Leão responde à ideologia tecnológica. Artigo de Antonio Spadaro
• Mais imigrantes estão morrendo sob custódia do ICE
• O que é o DOGE de Musk e quem trabalha para ele?
• Soldados israelenses se pronunciam sobre assassinatos de civis em Gaza
• Mudanças climáticas entraram numa “espiral sem controle”, alerta ONU
• Greta Thunberg relata a tortura que sofreu após o sequestro israelense da Flotilha Global Sumud
• Os comentários de JD Vance sobre imigração são um insulto à nossa fé católica. Artigo de Simcha Fisher
• Do PayPal ao Anticristo. O amigo de Trump, Peter Thiel, profetiza o Armagedon
• “Depois de Berlim com o movimento MEGA, tomaremos a Europa”. Entrevista com Steve Bannon
• É uma vitória da Geração Z: os bilionários perdem, os jovens fazem a diferença
• Quando veremos o "começo do fim" do petróleo?
• Por que os EUA temem que a China já os esteja ultrapassando na corrida da inteligência artificial
• O homem tecnológico: protagonista ou vítima?
• Admirável mundo novo transumano? Questões éticas a serem consideradas em meio aos avanços da IA