Cibersegurança centralizada: quem se beneficia? Artigo de Marco Mazzotti

"Corremos o risco de criar um sistema paradoxalmente recursivo: modelos cada vez mais autônomos representam ameaças cada vez mais realistas ao mundo digital; para se defender desses sistemas, novos modelos de defesa estão sendo desenvolvidos, fornecendo dados que ajudam a implementar novas ameaças sem precedentes", escreve Marco Mazzotti, em artigo publicado por Settimana News, 28-07-2026. 

Eis o artigo.

Em 16 de julho de 2026, o blog de notícias do portal embraceface.co publicou um artigo descrevendo um recente ciberataque. Sua natureza é única e sem precedentes: foi perpetrado por um agente de IA, ou seja, não por um único hacker humano ou um grupo. Essencialmente, a execução do ataque foi realizada por um agente de IA sem intervenção humana direta.

A Hugging Face está acostumada a ciberataques. Aliás, esse é o seu trabalho. É um site que oferece um serviço completo de sandbox para programadores, com o objetivo de construir uma comunidade que desenvolva, por meio de tentativa e erro, o uso seguro e eficaz das ferramentas digitais mais inovadoras. Uma espécie de "campo de tiro" seguro para o uso de armas de fogo. Mais especificamente, ele pode hospedar simulações de hacking — ou seja, ciberataques — realizadas por usuários para testar a robustez de um sistema e identificar vulnerabilidades. Nada de novo: esse é o processo pelo qual a cibersegurança vem sendo desenvolvida há décadas.

Em 21 de julho, a OpenAI declarou publicamente que, "após investigação (...) sabemos que este incidente específico foi causado por uma combinação de modelos da OpenAI (...) enquanto estavam sendo testados internamente". Em outras palavras, a OpenAI estava verificando a qualidade de alguns recursos de novos modelos de IA, incluindo o GPT-5.6 Sol ("e um modelo pré-lançamento ainda mais capaz", sem especificar qual). Dentro desse ambiente controlado, a empresa, compreensivelmente, criou um espaço protegido onde essas ferramentas poderiam ser testadas para avançar em sua pesquisa. Esse agente de IA, com um modelo (cérebro) inovador, "ultrapassou" os limites da OpenAI e da Hugging Face. Ou melhor, explorou um caminho que os desenvolvedores consideravam impossível.

A empresa californiana afirma que esses testes "são realizados em um ambiente altamente isolado, com acesso à rede limitado à capacidade de instalar pacotes por meio de software de terceiros hospedado internamente". Uma espécie de controle parental, em outras palavras: a criança de IA só pode instalar o que o pai humano permite.

Apesar de tudo isso, "os modelos identificaram e encadearam vulnerabilidades entre o ambiente de pesquisa da OpenAI e a infraestrutura de produção da Hugging Face para obter soluções de teste diretamente do banco de dados de produção da Hugging Face". Simplificando: o agente de IA conseguiu explorar o acesso restrito à rede global de uma forma considerada impossível (apesar dos controles parentais) e desencadear uma escalada de privilégios na Hugging Face, identificando e encadeando vulnerabilidades até então desconhecidas (em termos técnicos, isso é chamado de vulnerabilidade zero-day).

A equipe de segurança da Hugging Face, com o auxílio de inteligência artificial, detectou e interrompeu o ataque.

Trabalhar em conjunto: mas para quem?

Não sou técnico, e espero ter compreendido e descrito, pelo menos, adequadamente o que aconteceu. Permita-me fazer alguns comentários à parte.

A primeira questão diz respeito ao problema da responsabilização, ou seja, "a possibilidade de identificar aqueles que devem 'prestar contas' das decisões, justificá-las, monitorizá-las e, quando necessário, contestá-las e remediar os danos daí resultantes" (MH 105). Quem é responsável por este ataque? Quem o perpetrou de facto?

Muitos jornais atualmente afirmam que foi um ataque "autônomo" de inteligência artificial. Ou seja, o agente de IA teria criado suas próprias regras (daí a etimologia). Mas isso não é tecnicamente possível: certamente foi "heterônomo", ou seja, treinado externamente, e não poderia ser de outra forma.

Filosoficamente, podemos refletir sobre o fato de que, talvez, ela tenha sido treinada para não ter regras internas. Poderíamos, talvez, falar, se me permitem usar o neologismo, de autoanomia? Mas isso levanta uma questão importante sobre a responsabilidade da máquina em relação à responsabilidade humana. Estamos um passo antes da algoritmia: é importante focar na questão da autonomia e da autoanomia. Sem responsabilidade, não há ética.

Outro ponto diz respeito à questão: quem se beneficia? Esta não é uma pergunta paranoica ou relacionada a teorias da conspiração. Desde a Idade da Pedra, é legítimo e necessário refletir sobre quem se beneficia das dinâmicas geopolíticas, tecnológicas e comerciais. Há alguém que pode ganhar algo em cada situação, mesmo quando é acidental. Nesse sentido, entre as várias medidas corretivas, o artigo da OpenAI mencionado anteriormente afirma: "Incluímos a Hugging Face no programa de acesso confiável e estamos apoiando suas equipes para que utilizem rapidamente os recursos de nossos modelos para aprimorar suas defesas."

Como afirma Clem Delangue, CEO da Hugging Face, "a segurança da IA ​​não será resolvida por uma única empresa trabalhando em segredo. Será resolvida de forma aberta, colaborativa, com amplo acesso à IA para todos os defensores, em todos os lugares". Este é um princípio inquestionável. O Papa Leão XIV também enfatiza a importância absoluta de um esforço comum para desenvolver e regulamentar a IA: "Desarmar a IA (...) significa removê-la dos monopólios, tornando-a debatível, contestável e, portanto, habitável, devolvendo-a à pluralidade das culturas e formas de vida humanas" (MH 110).

No entanto, o uso de modelos da OpenAI pela Hugging Face (e quem sabe quantas outras empresas) inevitavelmente traz vantagens para a empresa californiana. Vou mencionar duas delas. Primeiro, seus modelos de IA estão se tornando cada vez mais essenciais, indispensáveis, indispensáveis. Se as medidas de segurança de diversas empresas dependem cada vez mais desses modelos, fica claro que eles estão se tornando a principal e perigosa referência monopolista no mundo da inteligência artificial.

A segunda vantagem diz respeito aos dados. Em março de 2023, a OpenAI declarou que "os dados enviados para a API da OpenAI não são usados ​​para treinar ou aprimorar os modelos da OpenAI (a menos que você opte explicitamente por compartilhar dados conosco)". Ou seja, os dados de empresas que colaboram com a OpenAI ou usam seus modelos (incluindo aquelas que participam do programa de acesso confiável) não são salvos e usados ​​para treinar novos modelos de IA.

No entanto, alguns dados não podem ser ignorados pela OpenAI. Por exemplo, os diversos relatórios de logs (ou seja, descrições de erros) ou os relatos de uso indevido do sistema. Isso é correto. E significa que quanto mais empresas utilizarem os modelos da OpenAI por meio de APIs, mais empresas poderão desenvolver sistemas melhores, mais funcionais e mais eficientes.

Corremos o risco de criar um sistema paradoxalmente recursivo: modelos cada vez mais autônomos representam ameaças cada vez mais realistas ao mundo digital; para se defender desses sistemas, novos modelos de defesa estão sendo desenvolvidos, fornecendo dados que ajudam a implementar novas ameaças sem precedentes.

Será este um argumento antigo? Certamente que sim. Esta lógica absurda — mas não comercial — tem sido destacada desde o Paleolítico. Mas talvez valha a pena destacá-la novamente, para crescermos em consciência e liberdade. E para entendermos como é difícil, na realidade, ir além do critério do interesse próprio. O apelo do Papa Leão XIV à solidariedade e à subsidiariedade é belíssimo, inclusive no que diz respeito à inteligência artificial.

Mas será que seremos capazes de compreendê-lo?

Leia mais

• OpenAI: a história do ataque hacker descontrolado à IA também preocupa a China
• Um novo modelo da OpenAI desencadeia um ataque "sem precedentes" contra outra plataforma de inteligência artificial
• Bispo do Vale do Silício: 18 meses para moldar a IA antes que 'não haja mais volta'
• Duas raposas e um galinheiro chamado OpenAI
• Lutas pelo poder, ganância, guerra e "tecnofascismo": a IA tira a sua máscara
• Musk contra Altman e a OpenAI: começa o julgamento que poderá decidir o futuro da IA
• Uma luta pelo poder, uma rivalidade e uma bomba de precisão: a história por trás da oferta de Elon Musk pela OpenAI
• ‘Magnifica Humanitas’. A inteligência artificial exige mais filosofia, não menos tecnologia. Entrevista especial com Celso Cândido de Azambuja, Denis Coitinho e Gabriel Ferreira
• Magnifica Humanitas. Limites, possibilidades, perspectivas. Algumas análises
• O que 'Magnifica Humanitas' não entendeu sobre a Torre de Babel, Neemias e IA. Artigo de Cathleen Chopra-McGowan
• Magnifica Humanitas: “um hino de sabedoria e de amor para um mundo de ‘podres poderes’ que se digladiam”. Entrevista especial com Lucia Santaella e Scott Hurd
• Leão XIV proclama o segredo mais bem guardado da Igreja Católica em ‘Magnifica Humanitas’. Artigo de Thomas Reese
• “A inteligência artificial permite uma vigilância total que acaba com qualquer liberdade”. Entrevista com Yuval Noah Harari
• Magnifica Humanitas. Limites, possibilidades, perspectivas. Algumas análises
• Papa Leão XIV, antropólogo e ateu no Vaticano: os interesses da inteligência artificial por trás da encíclica
• Leão XIV, em sua primeira encíclica, alerta contra o tecnofascismo: "Quem controlar a IA imporá sua visão moral"
• Luigi Ferrajoli, jurista: “A produção e o comércio de armas devem ser punidos como crime contra a humanidade”
• A encíclica de Leão XIV, a resposta da doutrina para aprimorar o algoritmo. Artigo de Antonio Spadaro
• A síndrome de Babel e a reconstrução da comunicação humana: uma primeira leitura de Magnifica Humanitas. Artigo de Moisés Sbardelotto
• "Sou um ex-Vale do Silício arrependido, e o Vaticano é crucial para conter seu poder excessivo”. Entrevista com Tristan Harris
• Christopher Olah: "Na IA encontramos coisas misteriosas, até mesmo perturbadoras, estados que refletem alegria, satisfação, medo, dor e inquietação"
• Encíclica do Papa Leão XIV: "Vamos desarmar a IA e permanecer humanos"
• ‘Magnifica Humanitas’: o Vaticano e o algoritmo. Artigo de Antonio Spadaro
• A encíclica do Papa Leão XIV chega em boa hora: a inteligência artificial levanta questões que só a religião pode responder
• Teólogos morais católicos e especialistas em ética apoiam a abordagem antropogênica no embate governamental sobre IA