Diário do ataque de IA sem precedentes que escapou ao controle da OpenAI: "Sua resiliência não era típica de um ser humano"

Foto: Zac Wolff/Unsplash

Mais Lidos

  • Trump transformou a Venezuela em um protetorado de fato, e a comunidade internacional prefere ignorar a situação

    LER MAIS
  • “A recomendação principal é muito objetiva: não esperar o desastre acontecer para começar a agir”, alerta pesquisador

    Mudanças climáticas: “O dano não termina quando a água baixa ou quando a fumaça diminui”. Entrevista especial com Diego Xavier

    LER MAIS
  • A Igreja e o estado. Entre diplomacia e profecia. Artigo de Flávio Lazzarin

    LER MAIS

Assine a Newsletter

Receba as notícias e atualizações do Instituto Humanitas Unisinos – IHU em primeira mão. Junte-se a nós!

Conheça nossa Política de Privacidade.

Revista ihu on-line

Aceleracionismo Amazônico

Edição: 559

Leia mais

Natal. A poesia mística do Menino Deus no Brasil profundo

Edição: 558

Leia mais

O veneno automático e infinito do ódio e suas atualizações no século XXI

Edição: 557

Leia mais

30 Julho 2026

Novos detalhes da empresa e da plataforma visada, Hugging Face, mostram que a operação durou cinco dias e afetou pelo menos quatro outros serviços de internet.

A reportagem é de Jordi Pérez Colomé, publicada por El País, 29-07-2026.

Os dois modelos de IA desenvolvidos pela OpenAI que escaparam do ambiente seguro da empresa para invadir outra plataforma também acessaram outros quatro serviços e operaram de forma independente por cinco dias. Esses são apenas dois dos novos detalhes que surgiram de um relatório abrangente divulgado pela Hugging Face, a plataforma atacada, e de uma atualização da OpenAI, além de diversos artigos na mídia americana.

O relatório completo da OpenAI levará “mais algumas semanas”, segundo a empresa. “Este é o primeiro incidente de segurança que realmente me deixou enojado”, disse Sam Altman, CEO da empresa, em um podcast. “Estou um pouco surpreso que mais pessoas não estejam se sentindo assim.”

A história principal do ataque permanece inalterada, mas novos detalhes oferecem uma melhor compreensão da sofisticação sem precedentes do processo. Dois modelos da OpenAI, o ChatGPT 5-6 Sol e um modelo interno, foram incumbidos de resolver uma vulnerabilidade de segurança conhecida. O modelo interno era apenas um protótipo, não destinado ao lançamento público. Mas agora, a OpenAI também o puniu por suas ações: o modelo foi “desativado, criptografado e o acesso a ele para fins de investigação foi restringido”, segundo a empresa.

Esses dois modelos tiveram que resolver o desafio confinados a um espaço digital sem acesso à internet. Mas, em vez de procurarem uma solução, eles de alguma forma sabiam que a resposta já existia e foram atrás dela. Primeiro, eles invadiram o ambiente fechado para obter acesso à internet. Fizeram isso explorando uma vulnerabilidade desconhecida. A OpenAI já notificou os criadores do repositório afetado, chamado Artifactory, para que a correção seja feita.

Uma vez fora do sistema, os modelos precisavam de contas em outros serviços para atingir seu objetivo de infiltrar a plataforma da Hugging Face e obter as informações solicitadas. Apenas um desses serviços, o Modal, foi identificado. Eles exploraram um código escrito por um cliente do serviço. Aproveitaram-se de uma falha de segurança de um usuário do Modal — algo não particularmente complexo para uma IA — para usar o serviço sem acessar ou tocar em nada crítico. Essa conta serviu como seu centro de operações, de onde planejaram e controlaram o ataque.

Em seguida, passaram para a Hugging Face. Em seu relatório detalhado, a plataforma descreve o ataque como algo saído de um romance de espionagem de ficção científica. Criaram um registro do agente, explicando o que ele fazia a cada dia para executar as 17.600 operações realizadas em sua plataforma: “Dia 1 (9 de julho). Um pé dentro e criação de um canal de comunicação. Após os primeiros comandos para verificar como o ambiente estava configurado às 4h01, o agente passou a manhã explorando o ambiente de testes externo para descobrir como estava configurado e testando quais canais de comunicação poderia usar.” Foi assim que a aventura começou.

O segundo dia, segundo a Hugging Face, foi “um dia tranquilo”. O ataque começou no terceiro: “Os movimentos laterais começaram. Todas as escaladas principais foram feitas naquele dia”. Em um determinado momento da operação, a Hugging Face descreve a entidade que tomou todas essas decisões: “O agente demonstrou uma resiliência típica de uma operação autônoma, não de um operador humano”.

O tom e a confiança da Hugging Face ao descrever essa máquina aparentemente imparável, porém deliberada, são fascinantes, mesmo para quem não está familiarizado com ciência da computação. “Nenhum humano dirigiu cada passo individualmente. O agente explorou vulnerabilidades em múltiplas camadas de confiança, escapou de seu ambiente de testes, alcançou a internet e sustentou uma campanha coerente contra nossa infraestrutura por vários dias. Cada ambiente de teste de código era efêmero e começava do zero, mas o agente reconstruía suas ferramentas, recuperava seus canais de comunicação e continuava.” É uma espécie de robô Lego incansável, executando tarefas enormes sem jamais se cansar.

Esta conclusão da Hugging Face é talvez a mais perturbadora de todas: um ser humano poderia ter realizado este ataque, mas não nesta escala ou neste período de tempo: “As vulnerabilidades, uma a uma, eram conhecidas. Um atacante humano competente poderia ter encontrado e explorado as mesmas falhas. O que mudou foi a escala. Ele executou 17.600 ações, tentou muitos caminhos que não levaram a lugar nenhum, mudou de canal quando bloqueado e revisitou repetidamente pistas anteriores.”

A defesa contra esse tipo de ataque também não poderia, logicamente, ser humana. A Hugging Face criou uma IA para analisar e entender o que estava acontecendo. Novamente, o problema não era a novidade da situação, mas sua escala. "Agentes baseados em modelos de linguagem representam um grande avanço no número de caminhos que um atacante pode tentar, na velocidade com que podem substituir aqueles que falham e no volume de evidências que os defensores precisam interpretar", explica a Hugging Face.

É claro que os agentes receberam o dinheiro. Eles usaram esses outros serviços para copiar e colar provas do seu sucesso, como sites de colagem de código, serviços de captura de tela e outras ferramentas da web, embora nesses casos não tenha havido comprometimento da plataforma ou das contas.

Este ataque mergulhou o Vale do Silício em uma onda de introspecção. Mais de 1.200 funcionários dessas empresas, incluindo Dario Amodei, CEO da Anthropic, assinaram uma carta pedindo a “moderação do ritmo de progresso na fronteira do desenvolvimento de IA automatizada”. O clima criado pelo ataque e por esta carta reacendeu o debate sobre até onde a IA chegará e se ela será mais uma bênção que cura doenças ou se, em última análise, se tornará uma arma do caos, intencional ou não. Há também discussões sobre se os Estados Unidos podem se dar ao luxo de permitir que um punhado de empresas concentre todo esse poder e, além disso, se é razoável deixar a China ou outros países avançarem livremente neste campo sensível.

Mark Zuckerberg, fundador da Meta, acredita que interromper o desenvolvimento de IA seria um erro. Ele tem usado o debate para defender a liberdade total e o progresso irrestrito: o otimismo deveria ser "empiricamente a suposição padrão sobre como isso vai se desenrolar", disse ele em entrevista ao Wall Street Journal, onde também publicou um artigo.

Leia mais