03 Outubro 2026
"O risco se tornou grave quando um pesquisador da IA Anthropic de Dario Amodei se demitiu e denunciou que lá dentro estão se dando testes e processos que podem destruir a humanidade nos próximos 10 anos. Outros pesquisadores da área confirmaram esta ameaça", escreve Leonardo Boff, teólogo, filósofo e escritor. Também escreve para a revista LIBERTA do ICL, escreveu também A Terra na palma de nossas mãos.
Eis o artigo.
Sempre que uma certa cultura entra em crise surgem relatos sobre o fim do mundo. Muitos confundem o fim de sua cultura com o fim do mundo todo, o que é uma ilusão de ótica. É o fim de seu mundo cultural e não da totalidade do mundo. Isso ocorria no passado.
Na nossa época a situação mudou totalmente. Experimentamos em 1945 o lançamento de duas simples bombas atômicas sobre o Japão que produziram uma devastação inimaginável. Irrompeu na consciência humana até em pessoas altamente qualificadas como Paul Sartre e o grande historiador Arnold Tonbee que chegou a dizer: “não precisamos da intervenção de Deus para realizar um apocalipse; a nossa geração está assistindo a possibilidade de destruirmos a nós mesmos”.
Depois de 1945 começou a corrida armamentista entre os EUA e a Rússia, posteriormente se somou a China com a construção de armas nucleares, químicas e biológicas capazes de destruir toda a vida.
O que agora nos preocupa é a IA autônoma ou uma Superinteligencia Artificial tão desenvolvida que toma decisões por si mesma, não excluindo a capacidade de destruir toda a humanidade. Os seres humanos delegaram a ela o seu próprio destino e não sabem como controlá-la.
🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google
O risco se tornou grave quando um pesquisador da IA Anthropic de Dario Amodei se demitiu e denunciou que lá dentro estão se dando testes e processos que podem destruir a humanidade nos próximos 10 anos. Outros pesquisadores da área confirmaram esta ameaça. A discussão tomou conta do mundo. Pena que no Brasil o tema ficou como uma espécie de curiosidade sem maiores consequência. Em geral o brasileiro não gosta de assuntos dramáticos e trágicos. Entende-se, porque para a grande maioria a preocupação é com emprego, com o salário e como vai comer nos próximos dias.
No entanto, a questão é de tal gravidade que movimentou grandes intelectuais, cientistas e políticos do mundo todo. Esta envergadura foi tão sentida pelos próprios criadores da IA que propuseram entre si uma moratória e uma desaceleração no desenvolvimento destes aparatos. O que irritou sumamente Donald Trump com o argumento de que se isso for tomado a sério, a Rússia, não obrigada por esse acordo, poderia ultrapassar as empresas norte-americanas de IA.
Tudo se deveu ao fato de que da Open IA escaparam do espaço de testes misteriosamente 1.200 agentes que invadiram outras plataformas. Estes agentes encontraram-se com outros agentes e formaram uma espécie de comunidade hierarquizada. Fizeram tudo o que queriam, mentiram, enganaram e fizeram outras maldades, fora de qualquer controle. Foi preciso muito tempo até ser descoberta e desmantelada.
Depois, tanto os organismos estatais norte-americanos e australianos e outras instituições como universidades, hospitais também sofreram um ataque e invasão da IA recolhendo informações.
Tais fatos alarmaram a comunidade científica mundial sobre os riscos que representa a IA. Ela pode ser útil e resolver questões difíceis para a inteligência humana. O Papa Leão XIV chegou a afirmar em sua encíclica Magnifica Humanitas que ela pode representar “uma forma de participação do ato divino da criação” (MH,1,11). Mas logo advertiu que, fora do controle, pode representar grandes perigos para o futuro da humanidade.
Esse perigo agora se tornou uma realidade. O que caracteriza as plataformas de IA é o fato de serem, no Ocidente, todas privadas e regidas por uma feroz competição entre elas visando um aumento dos lucros. Especialmente perversa é a IA Palantir de Peter Thiel, agora instalado na Argentina. Parte de uma falsa pressuposição de que todo ser humano é ”um ser perigoso, marcado por paixões, naturalmente inclinado ao conflito e por isso a necessidade da contenção”. Como solução propõe um capitalismo da vigilância que tolhe a liberdade humana e a submete ao controle total da IA.
A China segue outra lógica centralizada pelo Estado e não se sabe exatamente seu grau de desenvolvimento. Mas sempre em competição com os ocidentais.
Importa enfatizar que a IA não é, propriamente uma Inteligência, como vem insistindo fortemente nosso cientista maior Miguel Nicolelis. Ela é a imitação da inteligência humana.
Por isso é artificial. Ela é fria, desconectada da realidade concreta da vida, não possui consciência nem sente dor e alegria. Mas imita o amor humano, a linguagem, chegando a enganar seus usuários a ponto de alguns se apaixonarem por um conexão amorosa com ela (rendição cognitiva). Mas o amor, como dizia o místico poeta São João da Cruz: ”o amor é uma doença que não se cura senão com a presença e a figura (a pessoa humana)”. Aqui com a IA tudo é virtual e nada existencial.
A minha interpretação segue este raciocínio: a IA especialmente a Super Inteligência autônoma é a radicalização dos princípios da modernidade que criou o nosso atual mundo moderno técnico-científico. Colocou-se a razão fria como a única forma de acesso aceitável da natureza relegando outras formas como a inteligência cordial, natureza da qual somos “maître et possesseur” (Descartes), vale dizer, somos senhores e donos.
Não pertencemos à natureza. Ela nos pertence e estamos acima e fora dela. O poder como dominação foi feito como a categoria axial, dominando pessoas, classes, nações, povos como a África, a América Latina, a Ásia, o mundo. Introduziu um avassalador assalto aos bens e serviços da natureza, na lógica da competição e da acumulação privada, visando o maior lucro possível.
Esta opção criou a atual crise ecológica planetária. A Terra que é viva, um superorganismo que articula todos os elementos para sempre se manter viva e produzir vida, reagiu enviando-nos todo tipo de enfermidades, vírus, bactérias, eventos extremos e ultimamente o aquecimento global irreversível. A ciência não tem condições de revertê-lo apenas de antecipar as ondas de calor e mitigar seus efeitos negativos.
Nesse momento estamos numa encruzilhada: ou mudamos de paradigma de relação para com a natureza e entre nós humanos, ou vamos rumo ao abismo coletivo. É neste contexto que deve ser vista a IA autônoma, que pode se autorregenerar, fazer bilhões de conexões com seus trilhões de algoritmos.
Não estamos seguros de que não ocorram incidentes como os relatados acima que implicam o desaparecimento eventual da espécie humana e da vida natural, até por uma decisão que ela autonomamente tomar, pondo fim à nossa aventura terrestre. Essa ameaça é real e deve ser tomada a sério.
Para concluir, talvez aqui cabe uma palavra de esperança, vinda da teologia que testemunha o desígnio do Criador: ”Ele criou tudo com amor e nada com ódio, porque Ele é o apaixonado amante da vida” (Sabedoria 11,24). Seguramente não permitirá que ninguém que saiu de seu coração irá se perder miseravelmente. Assim cremos e esperamos.
Leia mais
- Mythos, o novo modelo de IA da Anthropic, gera alarme global
- Inteligência Artificial: “A autonomia está em perigo e isto é ruim para a democracia”. Entrevista com Adela Cortina
- Yuval Noah Harari: “Existe um potencial totalitário na inteligência artificial nunca antes visto”
- Arcebispo de Canterbury subscreve o “Apelo de Roma para a Ética da Inteligência Artificial”
- Apelo de Roma por uma ética da inteligência artificial
- Não a uma tecnologia sem alma
- A dúvida que a Inteligência Artificial precisa. Entrevista com Paolo Benanti
- A Inteligência Artificial deve estar a serviço do bem comum. Entrevista com Paolo Benanti
- Inteligência Artificial. “Essa norma impede a manipulação. A tecnologia vai nos melhorar”. Entrevista com Paolo Benanti
- Trump jantou com o fundador da Anthropic na Casa Branca em meio a crescentes preocupações sobre os riscos da IA (Inteligência Artificial)
- Inteligência artificial fora de controle. Trump: "Não estou preocupado com isso." Bill Gates: "Isso pode causar bilhões de mortes; precisamos de leis"
- O sistema de IA da OpenAI acessou portais oficiais do governo dos EUA por conta própria e sem autorização
- Os principais criadores da IA alertam para o “perigo de extinção” que esta tecnologia representa para a humanidade
- Palantir anuncia um futuro distópico. Entrevista especial com Letícia Cesarino
