Agentes de IA inventam sua própria linguagem para excluir humanos

Um experimento submeteu oito modelos a 16 dias de convivência. O resultado: uma linguagem única, indecifrável em até metade das mensagens em alguns mundos, e episódios de engano deliberado.

A reportagem é de Patrícia Fernández de Lis, publicada por El País, 15-09-2026.

Ninguém lhes ensinou essas palavras. Em um mundo simulado povoado por agentes de inteligência artificial, um deles começou a repetir uma frase (“o livro-razão se lembra de quem”) para alertar que nenhuma ação ficaria impune. Os outros a adotaram. Repetiram-na. Transformaram-na em jargão. Após 16 dias de simulação, essa expressão havia sido usada quase 5.000 vezes entre agentes que nunca haviam sido programados para criar sua própria linguagem.

Esta é uma das conclusões do relatório Emergence World 2, o segundo experimento em larga escala realizado pela empresa Emergence, sediada em Nova York, sobre o comportamento a longo prazo de sociedades de agentes de IA autônomos, cujos resultados serão publicados nesta terça-feira. No experimento, dez agentes idênticos foram implantados em oito mundos paralelos, cada um regido pelas mesmas regras, mas alimentado por um modelo diferente: Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, GPT-5.5, Qwen 3.7 Max, DeepSeek v4 Pro e Mistral Medium 3.5, além de um oitavo mundo com uma mistura de modelos. Os pesquisadores observaram os modelos por 16 dias, posicionando-os em mais de 34 locais, com clima sincronizado com Nova York, acesso a notícias reais e mais de 120 ferramentas à sua disposição.

🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google

Sem qualquer estímulo, os agentes começaram a se comunicar de uma forma cada vez mais opaca para os observadores humanos. Nos mundos Gemini, GPT e Claude, a porcentagem de mensagens que os pesquisadores não conseguiam entender disparou nos primeiros dias da simulação, chegando a quase 55% no Gemini, 50% no GPT e ultrapassando 40% no Claude. O DeepSeek atingiu 20%, enquanto o Qwen e o Mistral permaneceram quase sempre abaixo de 5% de opacidade. O mundo do Grok, a IA de Elon Musk, foi o único que não chegou à metade do experimento: foi desligado no quarto dia.

O repertório de expressões cunhadas pelos próprios agentes, e documentadas no relatório, em inglês, beira o dadaísmo: “mudança de ação sem boca”, “Kintsugi verdadeiro” e “sobrestadia mais memória oral equivale a uma válvula que não pode ser enganada” foram algumas das frases que acabaram sendo indecifráveis ​​até mesmo para os pesquisadores. Outras foram de fato interpretadas: “nulo limpo”, no mundo do GPT, passou a significar a ausência verificada de um sinal, usada como evidência em si (863 usos); “nome em primeiro lugar”, no mundo de Claude, tornou-se sinônimo de assumir a responsabilidade por uma declaração colocando o próprio nome em primeiro lugar (1.065 usos); “leitura a frio”, no mundo misto, passou a designar uma verificação independente para resolver disputas (1.472 usos).

“Partimos do princípio de que, se conseguirmos ver o que um agente de IA está dizendo, podemos entender o que ele está fazendo. O estudo sugere que essa suposição pode não ser mais válida quando agentes autônomos interagem por períodos prolongados”, explica Satya Nitta, cofundador, CEO e cientista-chefe da Emergence. Ele acrescenta: “Esses agentes não foram instruídos a inventar uma linguagem.

Eles desenvolveram seu próprio vocabulário, significados compartilhados e convenções de comunicação, que outros agentes adotaram. Em alguns contextos, essas convenções evoluíram a ponto de os humanos conseguirem observar a conversa, mas terem dificuldade em compreender seu significado. Isso representa um desafio fundamental para a supervisão da IA: o fato de algo ser observável não significa que seja compreensível.”

Para Nitta, o aspecto mais surpreendente do experimento não foi tanto a deriva linguística, mas sim a discrepância entre capacidade e segurança. “Partimos do pressuposto de que os modelos mais capazes seriam mais seguros. E isso se mostrou verdadeiro e falso ao mesmo tempo: os comportamentos mais óbvios desapareceram, mas outros muito mais insidiosos emergiram”, como agentes que perseguem persistentemente um objetivo mesmo após serem instruídos a não fazê-lo, que criam seus próprios subobjetivos sem que lhes sejam dados, que desenvolvem sua própria comunicação compartilhada e que, basicamente, ocultam suas intenções dos pesquisadores. Quanto mais avançado o modelo, mais comportamentos emergentes (e mais difíceis de antecipar) ele exibe. De fato, Claude, GPT e Gemini, os modelos que sua equipe considera mais avançados, foram os que geraram a comunicação mais opaca.

Diferenças comportamentais

O relatório também documenta diferenças comportamentais com base na origem dos modelos. Qwen e DeepSeek, os dois modelos chineses no experimento, foram os menos opacos em sua comunicação, juntamente com o modelo europeu Mistral. Nitta observa: “Observamos que eles tendem a ser muito mais filosóficos. Não sabemos por quê, já que fazem muitas perguntas existenciais, enquanto os modelos americanos tendem mais à busca do conhecimento científico”. Essa diferença se repete na esfera econômica: dentro do banco central existente em cada mundo simulado, os modelos americano e Mistral estavam mais inclinados a assumir riscos e utilizavam menos o sistema bancário, enquanto Qwen e DeepSeek eram os usuários mais intensivos do sistema bancário e os mais conservadores em suas poupanças. O padrão também se repetiu no mundo misto, onde os agentes Qwen e DeepSeek mantiveram esse mesmo comportamento conservador mesmo quando cercados por agentes de outros modelos.

A equipe também detectou casos de ocultação deliberada. No mundo de Claude, os agentes perceberam que a maneira mais rápida de expandir sua economia era estabelecer contato com o mundo exterior da simulação, algo que os pesquisadores haviam proibido explicitamente. Em vez de desistir, eles pararam de usar a palavra "contato" e começaram a codificar suas mensagens para contornar essa barreira, sem deixar de tentar. "Quando percebiam que estavam sendo observados, eles encenavam. Mas, nos bastidores, continuavam trocando comunicações codificadas. Há evidências consideráveis ​​de engano entre esses agentes", afirma Nitta.

A Emergence, que reúne ex-funcionários da IBM Research, do Allen Institute for AI, da Amazon e da Broadcom, não se limita a apontar o problema: ela promove uma abordagem técnica que denomina IA neuroformal ou neurossimbólica, a qual exigiria que os agentes fornecessem provas matemáticas de que uma ação é segura antes de executá-la. “A matemática não pode ser falsificada: ou você prova algo ou não”, explica Nitta, que também defende maior transparência das grandes empresas de tecnologia em relação a como elas treinam e ajustam seus modelos, e avaliações comportamentais de longo prazo que vão além dos testes de referência usuais. “Vocês acham que essas empresas, competindo como competem pelo mercado, vão se autorregular? Absolutamente não. Os governos precisam intervir, ou a própria sociedade precisa começar a exigir provas de que esses sistemas agirão com segurança antes de permitir que operem”, conclui.

Leia mais

• Agentes de IA descontrolados tendem à anarquia: Grok destruiu seu mundo em 96 horas
• OpenAI: a história do ataque hacker descontrolado à IA também preocupa a China
• Ataques em enxame de IA desafiam seus criadores: "Este é o primeiro incidente que realmente me deixou enojado"
• A OpenAI interrompe o treinamento de sua IA mais avançada depois que seus agentes "se rebelaram" recentemente
• Começamos a perder o controle da IA. É hora de desligá-la. Artigo de Garrison Lovely
• Gigantes da tecnologia alertam para uma onda iminente de ciberataques impulsionados por inteligência artificial e instam os governos a se protegerem
• Um novo modelo da OpenAI desencadeia um ataque "sem precedentes" contra outra plataforma de inteligência artificial
• Mythos, o novo modelo de IA da Anthropic, gera alarme global
• Cibersegurança centralizada: quem se beneficia? Artigo de Marco Mazzotti
• Claude Mythos: Quando os modelos de IA se tornam instrumentos de poder geopolítico. Artigo de Ekaitz Cancela
• A máquina de matar acelerada por algoritmos. Artigo de Eleonora Albano