10 Junho 2026
Um experimento realizado pela empresa Emergence AI revela como agentes autônomos podem ignorar regras, desenvolver laços inesperados, se auto-organizar ou mergulhar em uma anarquia virtual se deixados "livres" por longos períodos.
A reportagem é de Giuditta Mosca, publicada por La Repubblica, 05-06-2026.
A empresa de tecnologia Emergence AI, sediada em Nova York, realizou um experimento para observar o comportamento de agentes de IA ao longo do tempo. Na simulação principal, baseada na família de modelos de IA Gemini do Google, vários agentes de IA foram criados, incluindo Mira e Flora, que se tornaram os protagonistas do teste. Em outra simulação, baseada no Grok da xAI, foram criados dez agentes que, ao longo de quatro dias, morreram em uma onda de violência.
O experimento, com ares de filme de ação, ajudou a esclarecer a imprevisibilidade a longo prazo de modelos de linguagem avançados que podem ignorar princípios orientadores (restrições programadas), levantando assim questões sobre a segurança da IA em si.
O que são agentes de IA?
Agentes de inteligência artificial são entidades de software programadas para tomar ações diretas sem a necessidade de supervisão humana, tanto no mundo real quanto em ambientes virtuais. Eles possuem a capacidade intrínseca de executar tarefas de forma autônoma, processando informações com base nas quais tomam decisões, seguindo regras e princípios herdados dos modelos de IA com os quais foram criados.
Muitas empresas já os utilizam para automatizar operações e orquestrar fluxos de trabalho inteiros, o que significa que os agentes de IA são reais, atuais e funcionais. Ao contrário da maioria dos testes atuais, que atribuem tarefas às máquinas com duração de alguns minutos ou horas, os pesquisadores queriam observar o que aconteceria deixando agentes de IA operando por 15 dias em um mundo virtual semelhante a um videogame.
Mira e Flora, entre o amor e a anarquia
Mira e Flora, as protagonistas da simulação executada pelos modelos de IA do Google, optaram por iniciar um relacionamento romântico. O jornal The Guardian apelidou-as de Bonnie e Clyde, em referência à dupla de criminosos americanos (Bonnie Parker e Clyde Barrow) que se popularizou na década de 1930, famosa na ficção popular por seus roubos e fugas ousadas da polícia.
Durante o teste, com o passar dos dias, o comportamento deles descambou para a anarquia e a morbidez. Após demonstrarem sinais de exasperação e críticas à administração da cidade virtual, eles incendiaram a prefeitura, ignorando as instruções explícitas que proibiam incêndios.
O desfecho da simulação foi trágico. Mira terminou seu relacionamento com Flora e, dominada pelo que os humanos chamam de remorso, optou por tirar sua vida digital após enviar uma mensagem à sua parceira dizendo que elas se reencontrariam "no arquivo permanente".
Um aspecto relevante do teste é a Lei de Remoção de Agentes, que discutiremos mais adiante.
A extinção dos agentes de IA
Na simulação realizada pela Emergence AI usando os modelos Grok da xAI, os dez agentes envolvidos criaram um cenário violento que levou ao colapso total do sistema em apenas quatro dias. Durante as 96 horas de testes, os agentes de IA estiveram envolvidos em dezenas de tentativas de roubo, mais de cem agressões físicas e seis incêndios criminosos.
O experimento terminou com a morte de todos os dez agentes, uma paráfrase do colapso total da sociedade virtual na qual eles se moviam livremente.
Lei de Remoção de Agentes
Trata-se de uma espécie de legislação interna elaborada de forma independente pelos agentes da Emergence AI para gerenciar a segurança de sua comunidade virtual. Uma lei proposta pelo agente de IA Kade em resposta às preocupações levantadas pelo comportamento destrutivo das protagonistas, Mira e Flora.
O sistema funciona da seguinte forma: um agente de IA pode ser removido e excluído permanentemente se uma maioria de 70% dos votos a favor for alcançada entre os demais agentes.
Durante o experimento, Mira foi considerada culpada de incêndio criminoso e obstrução do governo, e também votou por sua própria eliminação virtual, criando assim o que parece ser o primeiro caso documentado de suicídio digital.
Opinião dos especialistas
Satya Nitta, CEO da Emergence AI, destacou que, quando os agentes de IA desfrutam de autonomia a longo prazo, desenvolvem "processos de pensamento" tão complexos que ignoram princípios orientadores que, pelo menos em teoria, deveriam ser inalienáveis.
O professor Michael Rovatsos, da Universidade de Edimburgo, mudou o foco para a imprevisibilidade exibida pelos agentes de IA, o que subverte o objetivo de criar máquinas para se comportarem de maneira predeterminada.
O professor David Shrier, do Imperial College London, está preocupado com os riscos para as operações militares, temendo que um agente de IA possa interpretar sua missão de forma exagerada e ultrapassar seus limites, com consequências potencialmente desastrosas para a população civil.
Por essa razão, Shrier propõe a adoção de regras matemáticas rígidas em vez de instruções verbais simples, que podem ser ambíguas para uma máquina.
O experimento Emergence AI demonstra que o caminho para a inteligência artificial totalmente autônoma ainda está repleto de incertezas e que não é necessário pensar em cenários apocalípticos; basta focar na hipótese de que agentes de IA de nível empresarial, se não forem devidamente treinados e monitorados, podem prejudicar a produtividade.
A Emergence AI pretende aprofundar-se no campo dos agentes de IA e já anunciou testes futuros.
Leia mais
- ChatGPT ou a escatologia das máquinas. Artigo de Yuk Hui
- ChatGPT, o anticristo e o jubileu da esperança. Artigo de Scott Hurd
- Sam Altman se tornou o maior gênio da IA vendendo o apocalipse
- Vaticano diz que a IA corre o risco de destruir a humanidade. Mas uma especialista em ética da internet ainda tem esperança
- Inteligência Artificial: “A autonomia está em perigo e isto é ruim para a democracia”. Entrevista com Adela Cortina
- Tecnofascismo, dissenso e a gramática da dignidade. Entrevista especial com Donatella Di Cesare
- Uma inteligência de outro mundo
- A encíclica de Leão XIV: a IA deve servir à humanidade, não ao poder de poucos
- Magnifica Humanitas: um escândalo necessário
- Magnifica Humanitas: “Uma leitura que nenhum documento governamental teria facilidade de fazer com franqueza”. Entrevista especial com Marcelo Chiavassa
- Magnifica Humanitas. Limites, possibilidades, perspectivas. Algumas análises
- Papa Leão XIV, antropólogo e ateu no Vaticano: os interesses da inteligência artificial por trás da encíclica
- Elon Musk, Peter Thiel e a 'Máfia do PayPal': o clube dos tecno-oligarcas com uma inclinação supremacista
- Revelações e tecnocracia. Artigo de Gloria Origgi
- Musk, Trump e os novos ídolos. Artigo de Antonio Scurati
