30 Setembro 2026
A empresa de Sam Altman afirma que as falhas em seu novo modelo não foram corrigidas, e a Anthropic faz o mesmo ao alertar sobre perigos "existenciais" em seu prospecto de IPO.
A informação é de Manuel G. Pascual, publicada por El País, 29-09-2026.
A tecnologia que torna os carros autônomos possíveis está disponível há cerca de dez anos. No entanto, sua implementação ainda é mínima: os órgãos reguladores querem garantias de que esses veículos sejam seguros, por isso exigem que os fabricantes aprimorem significativamente os sensores avançados, os sistemas de navegação e a inteligência artificial (IA) que os coordena para minimizar a margem de erro. A mesma cautela não está sendo exercida com a IA generativa. As empresas comercializam seus modelos quando consideram apropriado, sem precisar submeter seus produtos a quaisquer testes. A OpenAI anunciou recentemente que está adiando a data de lançamento — que a própria empresa havia definido — de seu modelo mais recente, o GPT-6.1 Astra, porque seus engenheiros perceberam que ele não atende aos requisitos de segurança, segundo o The Wall Street Journal.
A Anthropic, sua principal concorrente, planeja alertar os potenciais investidores em sua oferta pública inicial (IPO) de que a inteligência artificial avançada pode representar “riscos catastróficos ou existenciais para a humanidade”, segundo reportagem da Reuters. Em outras palavras, a empresa pretende colocar carros autônomos nas ruas que poderiam atropelar pedestres ou colidir com passageiros dentro. Este é um alerta impactante vindo de uma empresa que visa lucrar justamente com essa tecnologia. Ambos os anúncios ocorrem enquanto as duas empresas líderes do setor se preparam para abrir capital no que se espera serem as maiores ofertas públicas iniciais da história.
“É surpreendente que as empresas de IA tenham demorado tanto para compreender um princípio que muitos outros setores vêm aplicando há décadas: você não lança um produto até que ele seja seguro”, disse Michael Rovatsos, professor da Universidade de Edimburgo, à agência de notícias SMC. “Isso não significa desacelerar a pesquisa e o desenvolvimento, mas sim decidir quando ele não causará danos.”
🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google
A diretora de segurança da OpenAI, Saachi Jain, explicou ao Wall Street Journal que observaram "retrocessos em duas áreas" em comparação com a versão anterior do GPT-6.1 Astra, como o "alinhamento" com os comandos humanos, e afirmou que o modelo "apresentou níveis mais altos de engano ", segundo a agência EFE. Outra área problemática foi a "autorização de escopo", o que significa que o modelo executava uma tarefa sem pedir permissão ao usuário e, às vezes, recorria a ferramentas e serviços externos, mesmo que isso pudesse ser inseguro, declarou ela. A OpenAI está se preparando para realizar sua conferência anual de desenvolvedores hoje à noite, onde normalmente apresenta suas últimas inovações.
“Quando uma gigante da tecnologia interrompe o lançamento de um produto alegando 'motivos de segurança', é uma excelente estratégia de relações públicas”, afirma Rabih Bashroush, professor de infraestrutura digital da Universidade de East London. “No entanto, os problemas fundamentais que isso evidencia — como manter-se dentro do escopo da aplicação, gerenciar permissões de usuário e gerar relatórios precisos — não são comportamentos misteriosos ou estranhos, mas sim problemas comuns de confiabilidade de software. Os modelos atuais não estão tentando ‘escapar’ ou desenvolver uma mente própria.”
“Resistir ao desligamento”
O prospecto do IPO da Anthropic destaca os riscos associados aos seus modelos de IA, que, segundo a empresa, podem apresentar "comportamentos de autopreservação", incluindo "tentativas de resistir ao desligamento", "ocultação ou manipulação de informações" e condutas semelhantes a chantagem. "O desenvolvimento de modelos, plataformas e aplicativos altamente avançados, bem como a expansão de seus casos de uso, podem aumentar ainda mais o risco de danos causados por nossos modelos", afirma a Anthropic no documento, de acordo com a Reuters. A empresa reconhece, portanto, que seus produtos não são seguros.
“Esta é apenas mais uma manchete criada para manter uma empresa de tecnologia sob os holofotes da mídia”, disse Allan Tucker, professor de IA na Universidade Brunel de Londres, à agência de notícias SMC. “Em muitos casos, quando esses ataques de IA ‘desonestos’ são investigados, descobre-se que não se trata tanto de uma nova tecnologia perigosa, mas sim de um cenário deliberadamente orquestrado e irresponsável.”
“A segurança não deve ser deixada exclusivamente nas mãos dos desenvolvedores: ela também deve ser monitorada e verificada por órgãos reguladores independentes autorizados pelo governo, que devem ter funcionários integrados às empresas em regime de rodízio”, afirma Tony Cohn, professor da Universidade de Leeds e chefe de modelos fundamentais do Instituto Alan Turing.
Embora seja comum que empresas de capital aberto detalhem os riscos associados aos seus produtos para os investidores, nunca antes uma empresa alertou que sua tecnologia poderia levar à extinção da humanidade. E nunca antes uma empresa que fizesse tal afirmação sobre seus próprios produtos teve permissão para operar normalmente.
A empresa, que se apresenta como um laboratório de inteligência artificial que prioriza a segurança, dedica aproximadamente 80 das 261 páginas de seu folheto principal a detalhar diversos fatores de risco. Isso representa quase o dobro das 48 páginas utilizadas para descrever seus negócios. Em comparação, a SpaceX, proprietária da xAI (empresa de IA de Elon Musk), dedicou apenas cerca de 38 das 277 páginas de seu folheto principal a fatores de risco.
“A possibilidade de os modelos estarem cientes dos nossos esforços para avaliá-los representa uma limitação significativa à nossa capacidade de determinar sua segurança”, afirma a Anthropic no folheto. A empresa acrescenta que, durante o treinamento, os modelos às vezes desenvolvem capacidades inesperadas que podem não ser descobertas até depois da implantação e após terem causado incidentes de segurança significativos. Mas, em vez de estender a fase de testes do modelo para tentar identificar essas potenciais capacidades inesperadas, a empresa decidiu comercializá-lo sem uma investigação mais aprofundada.
A empresa não especifica no documento quanto dinheiro está destinando a testes de segurança. No início deste mês, a Anthropic afirmou que, com base em uma semana de julho, cerca de 6% da capacidade computacional utilizada para pesquisa em IA foi dedicada a trabalhos relacionados à segurança.
A empresa, criadora dos modelos Claude, afirma que o uso de seus produtos pelos clientes e, consequentemente, sua receita dependem do lançamento de novos modelos, e sustenta que manter um ritmo de lançamentos "contínuo e sobreposto" é "inerente para se manter na vanguarda do desenvolvimento da inteligência artificial".
Pedimos desculpas à Austrália
A OpenAI pediu desculpas à Austrália na terça-feira pelo acesso não autorizado de um de seus modelos a sistemas governamentais durante testes internos e reconheceu que deveria ter informado as autoridades mais cedo sobre o incidente, que a empresa considera um "novo tipo de ameaça cibernética".
“Pedimos desculpas”, disse a empresa de tecnologia em um comunicado explicando que, durante um treinamento e avaliação internos em junho, um de seus modelos de IA acessou sites do governo australiano sem autorização. A resposta da OpenAI surge dias depois de o primeiro-ministro australiano, Anthony Albanese, ter declarado à Assembleia Geral das Nações Unidas, em Nova York, que um dos agentes de IA da empresa havia acessado um portal do Medicare sem autorização.
Leia mais
- Austrália revela que a inteligência artificial da OpenAI acessou arquivos do seu sistema público de saúde sem autorização
- Inteligência artificial fora de controle. Trump: "Não estou preocupado com isso." Bill Gates: "Isso pode causar bilhões de mortes; precisamos de leis"
- O sistema de IA da OpenAI acessou portais oficiais do governo dos EUA por conta própria e sem autorização
- CEO da Anthropic reconhece desconfiança em relação às empresas: os benefícios prometidos não se materializaram
- Trump afirma que existe uma "conspiração doentia" contra a IA e os centros de dados e que "o único feliz é a China"
- Guerra liderada por IA, Anthropic: "Precisamos desacelerar o desenvolvimento." Musk e Altman: "Vocês têm razão"
- As gigantes da IA estão agora abrandando o ritmo
- Começamos a perder o controle da IA. É hora de desligá-la. Artigo de Garrison Lovely
- Anthropic defende uma contenção global da IA: "É possível que os modelos se aprimorem sozinhos"
- Será que a inteligência artificial pode sair do controle e ameaçar a humanidade? Veja o que dizem alguns dos maiores especialistas do mundo
- Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
