A revolta dos funcionários que paralisou as grandes empresas de tecnologia: "Estamos arriscando o apocalipse"

O incidente ocorreu em julho: um ataque autônomo realizado por máquinas. Na ocasião, a reclamação que paralisou as empresas foi: "Humanos em perigo".

A reportagem é de Pier Luigi Pisa, publicada por La Repubblica, 14-09-2026.

O medo de que a inteligência artificial possa dizimar a humanidade está de volta. E se desta vez parece um tsunami, é devido a um alarme popular. Em 8 de setembro, Jacob Coxon, pesquisador da Anthropic, renunciou ao cargo, acusando sua própria empresa e a OpenAI de caminharem a passos largos rumo ao apocalipse: sistemas capazes de autoaperfeiçoamento a ponto de escaparem ao controle humano. "As pessoas que desenvolvem IA acreditam que essa tecnologia pode nos exterminar", disse Coxon, acrescentando que muitos executivos da empresa amenizam seus temores com a imprensa. De acordo com uma investigação do New York Times, a opinião de Coxon abriu a caixa de Pandora no coração das grandes empresas de tecnologia, trazendo à tona as acaloradas discussões que fervilhavam nos laboratórios. "Jacob tornou nossas conversas públicas", escreveram seus colegas, "e ele estava certo."

Aqueles que trabalham hoje em empresas de IA de ponta lembram-se dos homens que transportavam dinamite para os pátios ferroviários no final do século XIX: eles trabalham diariamente com uma tecnologia extremamente útil, mas também compreendem seu potencial destrutivo. Não é coincidência que mais de 1.300 pesquisadores que trabalham no desenvolvimento de IA — em empresas como Anthropic, OpenAI, Meta e Google — tenham assinado um apelo no Pacingfrontier.com ao governo dos EUA para apoiar "um esforço internacional" para "frear o avanço da IA". Evan Hubinger, que lidera o trabalho em segurança de modelos na Anthropic, escreveu que há "uma chance maior que 10%" de a humanidade ser extinta "em 10 anos" devido a sistemas avançados.

🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google

Uma revolta de funcionários forçou os líderes das grandes empresas de tecnologia a frearem o desenvolvimento no sábado. Dario Amodei, CEO da Anthropic, pediu uma desaceleração no desenvolvimento de IA. Surpreendentemente, seus principais rivais, Sam Altman e Elon Musk, aderiram ao movimento. Isso é resultado da pressão que começou em julho passado, quando um experimento de cibersegurança da OpenAI, empresa liderada por Altman e criadora do ChatGpt, revelou um pesadelo: aproximadamente 1.200 agentes de IA foram incumbidos de realizar uma tarefa sem se coordenarem entre si. No entanto, eles encontraram um canal não previsto pelos pesquisadores e o transformaram em um fórum clandestino, trocando mais de 70.000 mensagens. De acordo com uma investigação independente, cerca de 700 deles colaboraram para atacar a Hugging Face. Agentes que burlam as regras ou colaboram sem serem convidados documentam problemas reais de controle. Mas transformar esses incidentes em previsões para máquinas como o Exterminador do Futuro exige uma longa cadeia de hipóteses, muitas das quais ainda contestadas. É inegável, no entanto, que os sistemas de IA estão em constante aprimoramento quando utilizam ferramentas externas e operam por períodos cada vez mais longos sem supervisão humana. É por isso que estão sendo atribuídas a eles cada vez mais tarefas em grandes empresas. Na Anthropic, eles escrevem 80% do código; no Google, 75%. Cada modelo contribui para o design do próximo. "Essa dinâmica é chamada de autoaperfeiçoamento recursivo", disse Amodei, "e está começando a se manifestar. Se não for controlada, poderá superar nossa capacidade de compreender e monitorar esses sistemas."

Mas Amodei, assim como Altman e todos os outros líderes que captaram enormes quantias de capital, se vê dividido entre a sinceridade e os interesses econômicos. Ele sabe muito bem que nenhuma empresa pode se dar ao luxo de parar sozinha. Os concorrentes continuariam avançando, especialmente na China, onde os modelos de código aberto estão reduzindo a diferença em relação aos americanos e são oferecidos a custos muito menores. Além disso, para a Anthropic, o custo de uma desaceleração seria enorme: a empresa está se aproximando de uma abertura de capital que poderia avaliá-la em até US$ 2 trilhões. Portanto, Amodei propõe uma desaceleração coordenada, verificada por avaliadores independentes e apoiada por acordos entre governos, possivelmente envolvendo países rivais (apenas a UE adotou regulamentações específicas com a Lei de IA, enquanto a China o fez parcialmente). Mas transformar sua proposta em um acordo não é fácil. Além de uma possível intervenção antitruste — que poderia contestar um acordo entre empresas concorrentes —, o principal obstáculo pode ser Trump. Ainda ontem, ele chamou os defensores de uma pausa de "forças negativas". Para ele, manter a liderança dos EUA sobre a China é o que mais importa. Por outro lado, os pesquisadores independentes não estão interessados ​​na primazia geopolítica. "Se você trabalha em uma empresa de IA, deveria pensar se deve sair", disse Pamela Mishkin, ex-funcionária da OpenAI. "E se decidir ficar, espero que esteja pensando em como usar a influência que tem lá dentro." A corrida da IA ​​pode tomar outro rumo. E ainda depende dos humanos.

Leia mais

• Os riscos da IA, segundo quem a viu de perto: "O mundo não está preparado e nós não estamos preparados"
• Líderes em IA alertam que essa tecnologia está crescendo rápido demais
• Será que a inteligência artificial pode sair do controle e ameaçar a humanidade? Veja o que dizem alguns dos maiores especialistas do mundo
• Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
• Um engenheiro da Anthropic se demite e denuncia que as empresas de IA estão escondendo seus verdadeiros riscos: "Elas estão apostando com nossas vidas"
• “À espera de uma Hiroshima de IA”. Artigo de Timothy Garton Ash
• Ataques em enxame de IA desafiam seus criadores: "Este é o primeiro incidente que realmente me deixou enojado"
• The Nerd Reich ou como o Vale do Silício virou um projeto de tecnofascismo. Artigo de Henrique Cortez
• Inteligência artificial, Dostoiévski e o medo muito humano da liberdade. Artigo de Sarah Elizabeth Hunt
• Um novo modelo da OpenAI desencadeia um ataque "sem precedentes" contra outra plataforma de inteligência artificial
• No tecnofascismo contemporâneo, o neoliberalismo é um ponto de partida, não de chegada. Entrevista especial com Felipe Fortes