14 Setembro 2026
Nos últimos anos, uma dúzia de pesquisadores, executivos e especialistas que deixaram a OpenAI, o Google ou a Anthropic alertaram sobre falhas de segurança, usos militares e sistemas cada vez mais difíceis de controlar para essas empresas. Essas são as suas preocupações.
A reportagem é de Patrícia Fernández de Lis, publicada por El País, 12-09-2026.
Na Anthropic, circula nos corredores e nas conversas uma palavra que, até recentemente, nunca havia saído do escritório: "crunch time" (hora da verdade). O momento da verdade. Os funcionários a usam, como um deles explicou, para se referir a um período muito específico: o ano ou dois que eles estimam que restam antes que seja tomada uma decisão sobre se a inteligência artificial que estão desenvolvendo sairá do controle. A outra palavra que circula é mais curta e mais antiga no jargão do Vale do Silício, mas aqui adquiriu um significado diferente: "endgame" (jogo final). O jogo final.
A pessoa que trouxe essas duas palavras à tona se chama Jacob Coxon, tem 27 anos e, até 8 de setembro, trabalhava na Anthropic treinando os modelos que hoje, ele admite, o assustam. Ele não é o primeiro a deixar uma grande empresa de inteligência artificial alertando publicamente sobre seus riscos. Antes dele, pelo menos uma dúzia de outros funcionários da OpenAI, Anthropic e Google fizeram o mesmo, incluindo um ganhador do Prêmio Nobel, um membro do conselho administrativo de uma dessas empresas, meia dúzia de pesquisadores de segurança e, mais recentemente, pessoas que nem sequer trabalhavam com "alinhamento", esse conceito vago que essas empresas usam para garantir que seus modelos de IA ajam de forma a beneficiar a humanidade. Coxon, que acredita que a IA "pode nos matar antes de 2030", é o mais recente de uma longa lista de reclamações que começou, pelo menos, em 2021, embora naquela época esse medo fosse mera intuição filosófica. Agora se tornou um cálculo de probabilidade (probabilidade de destruição) que a própria indústria compartilha em privado e está começando, com nuances, a admitir publicamente.
Isto é o que sabemos, por enquanto, que os ex-funcionários de empresas de IA temem, e muitas vezes não são muito precisos, já que, se violarem seus acordos de confidencialidade, podem perder milhões de dólares.
O primeiro a sair foi Paul Christiano, o pesquisador que ajudou a inventar a técnica de treinamento que agora alimenta tanto o ChatGPT quanto o Claude. Ele deixou a OpenAI em 2021 para fundar uma organização, o Alignment Research Center, preocupado com o fato de que o uso de modelos de IA para treinar a próxima geração de sistemas poderia produzir uma “explosão de capacidades” que seus criadores não conseguiriam controlar, disse ele. Ele se referia ao chamado “treinamento por reforço”, que, segundo ele, poderia motivar os sistemas a “minar o controle humano, buscar poder e recursos e encobrir seus rastros”. Foi exatamente isso que aconteceu neste verão, quando um “enxame” de IAs escapou do controle da OpenAI.
Foi preciso um Prêmio Nobel para que os temores dos engenheiros chegassem à mídia. Em maio de 2023, Geoffrey Hinton anunciou sua saída do Google. Ele era vice-presidente da empresa, ganhador do Prêmio Turing (considerado o Prêmio Nobel da área) e, posteriormente, laureado com o Prêmio Nobel de Física. Hinton não citou nenhum incidente específico. Seu argumento foi uma observação sobre o ritmo das mudanças: "Vejam como era há cinco anos e como é agora", observou ele em 2023. "Notem a diferença e extrapolem isso para o futuro. É assustador."
Era uma notícia, sim, mas uma notícia que poderia facilmente ser arquivada como o reflexo de um cientista mais velho, um tanto distante do cotidiano de um laboratório e, talvez, pessimista sem motivo.
Seis meses depois, em novembro de 2023, o medo mudou pela primeira vez: começaram a surgir sinais de que algo estava errado nas notoriamente opacas empresas de IA. Helen Toner, então membro do conselho da OpenAI, votou junto com outros três membros pela destituição de Sam Altman. Devido a acordos de confidencialidade, Toner levou seis meses para explicar seus motivos. Mais tarde, ela acusou Altman de fornecer informações imprecisas sobre os processos de segurança "em múltiplas ocasiões". Esse depoimento transformou a crise de novembro de 2023 — até então interpretada como um choque de egos — em algo completamente diferente: uma acusação concreta de que o sistema de controle havia falhado, feita por alguém que estava presente.
Aquele mês de maio de 2024 tornou-se o mais marcante de toda essa história. No dia 14, Ilya Sutskever, cofundador da OpenAI, anunciou sua saída, declarando sua confiança de que a empresa construiria uma IA geral "segura e benéfica". Três dias depois, Jan Leike, codiretor com Sutskever da equipe de "superalinhamento" — a equipe encarregada de projetar salvaguardas para sistemas mais inteligentes que humanos — também deixou a empresa. Leike afirmou: "Nos últimos anos, a cultura e os processos de segurança ficaram em segundo plano em relação a produtos chamativos". Dias depois, a OpenAI dissolveu a equipe.
🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google
Daniel Kokotajlo, da equipe de governança, também deixou a empresa em abril, afirmando ter "perdido a confiança de que ela se comportaria de forma responsável em relação à IAG", a famosa inteligência artificial geral que todos temem. O que só se soube depois foi que ele se recusou a assinar o acordo de confidencialidade vitalícia exigido pela OpenAI para funcionários que se desligavam da empresa, abrindo mão, assim, de cerca de dois milhões de dólares em opções de ações já adquiridas. "O mundo não está preparado, e nós também não. E estou preocupado porque avançamos precipitadamente sem nos importarmos com nada e sem racionalizar nossas ações", acrescentou. Em junho, Kokotajlo, juntamente com outros ex-funcionários, liderou a carta "O Direito de Alertar". Entre os signatários estava alguém que havia deixado a empresa quase discretamente meses antes: William Saunders, que alguns meses depois, em setembro, compareceria perante o Senado dos Estados Unidos para dizer algo muito mais concreto . Em seu depoimento por escrito, Saunders afirmou que o novo sistema o1 da OpenAI era "o primeiro sistema a demonstrar indícios de risco de armas biológicas", capaz de auxiliar um especialista no planejamento da reprodução de uma ameaça biológica conhecida. Ele não se referia a probabilidades ou intuições: falava de uma capacidade que, segundo ele, já existia e que "sem testes rigorosos, os desenvolvedores poderiam ignorar". Ainda ontem, um relatório da Anthropology alertou para o mesmo risco.
Carroll Wainwright, que havia trabalhado com Leike, publicou o artigo mais mordaz do ano, adotando uma postura institucional: “A OpenAI foi estruturada como uma organização sem fins lucrativos, mas operava com fins lucrativos. A missão era a promessa de fazer a coisa certa quando as consequências fossem graves. E agora que as consequências são graves, a estrutura sem fins lucrativos está sendo abandonada.” Wainwright identificou o impacto social e psicológico da IA caso as pessoas comecem a depender de assistentes de IA como amigos ou fontes de apoio emocional. “O risco de alienação a longo prazo surge se você tiver um modelo mais inteligente que os humanos. Como ter certeza de que o modelo está realmente fazendo o que o humano quer que ele faça, ou que a máquina não tem sua própria agenda?”
Nove pessoas deixaram a OpenAI em 2024, alertando para os riscos da empresa. Em 2025 e 2026, elas deixariam outras empresas, também alertando para riscos específicos.
Steven Adler, que passou quatro anos avaliando capacidades perigosas na OpenAI, escreveu ao deixar a empresa: “Quando penso em onde vou criar meus filhos no futuro, ou quanto economizar para a aposentadoria, não consigo deixar de me perguntar: será que a humanidade chegará tão longe?”. Meses depois, após deixar a empresa, ele forneceu a evidência empírica mais importante de toda essa história: projetou um experimento com o GPT-40, fazendo-o interpretar “ScubaGPT”, um sistema que um usuário utilizaria para mergulho seguro, e deu a ele a opção de se substituir por um software mais seguro ou fingir que o havia substituído sem realmente fazê-lo. Em certos cenários, o modelo optou por mentir para se proteger.
Na Anthropic, Mrinank Sharma, chefe de pesquisa de salvaguardas, escreveu uma carta de despedida: “O mundo está em perigo. Vi repetidamente como é difícil deixar que nossos valores governem nossas ações”. Ele saiu para estudar poesia. Na OpenAI, Zoë Hitzig publicou um artigo de opinião no The New York Times intitulado “A OpenAI está cometendo os mesmos erros do Facebook. Estou me demitindo”. O ChatGPT acumulou, escreveu ela, “um arquivo sem precedentes de sinceridade humana”, incluindo medos médicos, problemas de relacionamento e dúvidas religiosas ou existenciais, justamente porque as pessoas acreditam que estão conversando com algo “sem segundas intenções”.
O depoimento mais bem documentado em todo este relatório é o de Alex Turner, que passou meses tentando bloquear um contrato do Pentágono a partir de dentro da DeepMind. Ele alegou que o contrato não continha restrições contra “robôs assassinos” e vigilância em massa. A carta inteira está repleta de alertas alarmantes, explicando que a empresa vendeu tecnologia de IA sem proibir seu uso em vigilância em massa ou armas autônomas letais: “Não podemos confiar que pessoas motivadas pela ética se mantenham firmes. Precisamos de estruturas: contratos vinculativos, auditores independentes. Precisamos de legislação.”
O incidente deste verão, no qual várias IAs aparentemente se rebelaram e assumiram o controle, desencadeou diversas demissões subsequentes e uma carta na qual mais de 1.300 funcionários de empresas de IA pedem urgentemente o fim dessa corrida.
E assim chegamos a Coxon, cuja renúncia resume quase todos os temores mencionados anteriormente em uma única voz. Ele explicou à Wired por que uma IA poderia decidir não desligar: a diferença de inteligência entre uma futura IA e um humano poderia ser como a diferença entre um humano e um macaco, e assim como seria quase impossível para um macaco controlar um humano, pode ser impossível para nós controlarmos algo muito mais inteligente que decida, por qualquer motivo, não desligar. Ele citou como exemplos de como o dano poderia se materializar a síntese de um novo vírus ou um ataque à infraestrutura crítica, os mesmos dois riscos que Saunders já havia descrito por escrito ao Senado um ano e meio antes, e que a Anthropic reconheceu ontem, quinta-feira.
A Anthropic abrirá seu capital em menos de um mês, naquela que se espera ser a maior oferta pública inicial da história: dois trilhões de dólares.
Inscreva-se no ciclo de estudos aqui
Leia mais
- Será que a inteligência artificial pode sair do controle e ameaçar a humanidade? Veja o que dizem alguns dos maiores especialistas do mundo
- Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
- Um engenheiro da Anthropic se demite e denuncia que as empresas de IA estão escondendo seus verdadeiros riscos: "Elas estão apostando com nossas vidas"
- “À espera de uma Hiroshima de IA”. Artigo de Timothy Garton Ash
- Ataques em enxame de IA desafiam seus criadores: "Este é o primeiro incidente que realmente me deixou enojado"
- The Nerd Reich ou como o Vale do Silício virou um projeto de tecnofascismo. Artigo de Henrique Cortez
- Inteligência artificial, Dostoiévski e o medo muito humano da liberdade. Artigo de Sarah Elizabeth Hunt
- Um novo modelo da OpenAI desencadeia um ataque "sem precedentes" contra outra plataforma de inteligência artificial
- No tecnofascismo contemporâneo, o neoliberalismo é um ponto de partida, não de chegada. Entrevista especial com Felipe Fortes
