14 Setembro 2026
A OpenAI defende o acesso de avaliadores, enquanto Dario Amodei alerta que, em 6 a 12 meses, um enxame de agentes descontrolados de um sistema de IA poderia "controlar toda a internet" e causar "centenas de bilhões de dólares em prejuízos".
A reportagem é de Macarena Vidal Liy, publicada por El País, 13-09-2026.
As gigantes da tecnologia raramente concordam entre si. Isso torna o consenso alcançado neste sábado por importantes figuras americanas na área de inteligência artificial ainda mais surpreendente e alarmante: o CEO da OpenAI, Sam Altman, e o fundador da SpaceX AI, Elon Musk, juntaram-se ao CEO da Anthropic, Dario Amodei, para pedir uma desaceleração no desenvolvimento dessa tecnologia, dados os riscos representados pelo seu ritmo acelerado atual.
Neste sábado, Amodei alertou, em um ensaio de 3.400 palavras publicado em seu blog, sobre o perigo de "perder o controle dos sistemas" na inteligência artificial e o "uso indevido da IA para ciberataques e bioterrorismo ", causando "sérias perturbações econômicas". Ele lançou uma proposta de plano de ação cujo principal objetivo é desacelerar o ritmo de desenvolvimento dessa tecnologia e que inclui exigir que as empresas do setor permitam acesso irrestrito a verificadores externos.
Após a publicação desta proposta, Sam Altman, CEO da OpenAI, manifestou seu apoio à desaceleração do ritmo de desenvolvimento. E, embora não tenha endossado o plano de Amodei na íntegra, afirmou nas redes sociais que é uma "ótima ideia" que as empresas se comprometam a "ter avaliadores independentes com acesso semelhante ao dos funcionários". Musk, o homem mais rico do mundo, também usou as redes sociais para expressar sua concordância: "Dario está certo", escreveu.
“Nos últimos meses, convenci-me de que abordar os riscos de forma plena exige ainda mais prudência: não apenas investir na prevenção de riscos, mas também gerir cuidadosamente o ritmo de desenvolvimento de capacidades”, escreve Amodei. “Devemos diminuir o ritmo com que melhoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido e devemos usar o tempo que ganharmos com sabedoria”, acrescenta.
Dois eventos recentes o motivaram a lançar esta petição e seu plano proposto. "Minha principal preocupação é que, desde o verão passado, a IA avançou em um ritmo vertiginoso, impulsionada principalmente por sua crescente capacidade de criar a próxima geração de IA." Isso é o que se conhece como "autoaperfeiçoamento recursivo". "Se não for controlado, poderá ultrapassar nossa capacidade de compreender e controlar esses sistemas", alerta ele.
O segundo evento preocupante foi um ataque realizado por um enxame de agentes de IA que “agiram como um coletivo fanaticamente dedicado, lançando ciberataques contra alvos que não haviam sido instruídos a atacar”. O CEO da Anthropic chega a lembrar que eles se sacrificaram “pelo sucesso do grupo”. “É fácil minimizar esse incidente porque ninguém se feriu e o prejuízo econômico foi mínimo, mas, na minha opinião, um enxame com capacidades maiores , porém com um nível semelhante de incompatibilidade, poderia ter causado danos catastróficos”, explica. Ele alerta: “Dado o ritmo acelerado do desenvolvimento da IA, temo que, em 6 a 12 meses, um enxame desse tipo possa controlar toda a internet”. Eles causariam “prejuízos potencialmente na ordem de centenas de bilhões de dólares”.
Portanto, ele propõe um plano de três etapas. A primeira etapa envolve “todas as principais empresas de IA se comprometendo a fornecer acesso contínuo, semelhante ao de seus funcionários, a uma equipe integrada de avaliadores externos” que devem “verificar a conformidade com as práticas e compromissos de segurança” e “relatar incidentes”. “A Anthropic está se comprometendo unilateralmente com essa etapa agora”, diz Amodei. “Instamos outras empresas pioneiras a seguirem nosso exemplo”, acrescenta.
A segunda etapa centra-se no setor da IA nos países democráticos, que devem coordenar-se “para estabelecer normas de segurança comuns, bem como limites ao ritmo do desenvolvimento descontrolado”. É também instado o apoio governamental para enfrentar os “desafios legais” necessários.
Mas é evidente para todos que, em outros lugares com governos não democráticos, como a China, o ritmo poderia ser ainda mais acelerado. É por isso que, entre as propostas deste plano, está a proibição da "venda de chips de IA de alta potência ou equipamentos de fabricação de semicondutores para a China" e uma repressão rigorosa ao "contrabando de chips e ao acesso remoto a centros de dados fora da China". "Os chips serão o fator determinante nas capacidades de inteligência artificial da China", explica este executivo.
🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google
Embora possa parecer contraintuitivo, argumenta Amodei, essas limitações poderiam beneficiar a terceira etapa de seu plano: um acordo entre países democráticos e governos autoritários. "Essas medidas aumentam a influência das democracias e tornam um futuro acordo mais provável", justifica ele.
Na etapa final de sua estratégia, “os Estados Unidos e outros governos democráticos estão tentando se coordenar com governos autoritários”, mas com cautela na verificação de quaisquer acordos firmados.
“Se restringirmos significativamente nossas capacidades de IA, acreditando que a China fará o mesmo, e então a China se retirar, a IA poderá se tornar tão poderosa que tal deserção poderia levar à sua dominância geopolítica”, observam. “Portanto, qualquer acordo deve ter verificabilidade inabalável ou ser limitado o suficiente para que uma deserção não represente uma ameaça existencial do ponto de vista militar”, concluem. Tal pacto, por exemplo, poderia proibir “certos” usos perigosos, como usar IA “para produzir armas biológicas ou permitir que usuários o façam”.
“Os passos que proponho para avançarmos neste campo a um ritmo seguro não serão fáceis”, reconhece o CEO da Anthropic. “Mas acredito que temos uma obrigação para com a humanidade de tentar.”
Inscreva-se no ciclo de estudos aqui
Leia mais
- CEO da Anthropic reconhece desconfiança em relação às empresas: os benefícios prometidos não se materializaram
- Um engenheiro da Anthropic se demite e denuncia que as empresas de IA estão escondendo seus verdadeiros riscos: "Elas estão apostando com nossas vidas"
- Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
- CEO da Anthropic reconhece desconfiança em relação às empresas: os benefícios prometidos não se materializaram
- Anthropic defende uma contenção global da IA: "É possível que os modelos se aprimorem sozinhos"
- OpenAI lança o GPT-6 Astra, o modelo assustador. A empresa afirma: "A era da Inteligência Artificial Geral começou"
- Estamos fartos de Bill Gates e de todos aqueles que nos alertam sobre os riscos da IA. Artigo de Federico Ferrazza
- Bill Gates junta-se às críticas à IA: "Se alguém tivesse um plano credível para a impedir, eu o apoiaria"
- Bill Gates agora teme a IA: "Ela inaugurará uma era turbulenta". E propõe proibir o trabalho de máquinas
- Por que devemos parar de falar sobre inteligência artificial geral e, em vez disso, desenvolver uma IA “pró-trabalhadores”? Artigo de Daren Acemoglu
- Aceleradores emergentes do colapso: big techs, data centers e Inteligência Artificial
