Uma inteligência de outro mundo

Se Leão XIV defendeu a regulamentação civil e democrática da IA, poderia ter deixado isso mais claro.

O artigo é de Javier Sampedro, escritor, publicada por El País.

Eis o artigo.

Você provavelmente se lembra da Anthropic. É a empresa de inteligência artificial (IA) que criou o sistema Claude e foi a principal fornecedora de IA do Pentágono até fevereiro passado, quando se recusou a permitir que os militares usassem seus modelos para vigilância em massa e para o desenvolvimento de armas totalmente autônomas — o tipo de armamento que decide por si só quem atacar e quando. O secretário americano de Defesa, Pete Hegseth, declarou a empresa "um risco para a cadeia de suprimentos" e rompeu relações com ela, estabelecendo-as em seu lugar com a OpenAI, criadora do ChatGPT.

O que talvez eles não saibam é que, no mês seguinte, a revista Anthropic reuniu 15 pensadores cristãos e os confrontou com uma das questões mais prementes do nosso tempo: como podemos garantir que Claude se comporte?

É claro que, se Claude, ChatGPT, Gemini ou qualquer outro modelo de linguagem de grande escala (LLM) vai começar a pilotar caças, destruindo tudo o que bem entender e nos observando 24 horas por dia, 7 dias por semana, é melhor que aprenda a se comportar primeiro. E o problema, naturalmente, é quem tem a coragem de decidir o que constitui bom comportamento, o que significa ser bom ou mau, qual a origem da moralidade e todas essas grandes questões com as quais temos lidado há 10 mil anos? Ou seriam 100 mil?

Segundo os teólogos que participaram dessas reuniões, os executivos da Anthropic perceberam que o poder de Claude começou a sobrepujar sua perspicácia empresarial e concluíram que precisam de ajuda externa. Esse reconhecimento é certamente louvável. O que me deixa em dúvida é o tipo de ajuda externa que a empresa precisa neste caso. Quinze pensadores religiosos? Deus nos ajude. Imagine se Claude decidir bombardear clínicas de aborto ou laboratórios de pesquisa com células-tronco embrionárias, ou se submeter escolas públicas que ensinam biologia evolutiva à vigilância em massa. Um pensador religioso é certamente alguém que acredita que Deus é a fonte de toda a moralidade, e essa é a pessoa que eu preferiria ver na plateia do debate ético sobre IA. Não me incomoda que ele esteja lá, contanto que não cause muito alvoroço.

Como sabem, o Papa Leão XIV acaba de dedicar sua primeira encíclica à inteligência artificial. Quem conhece o assunto, como o teólogo Juan José Tamayo, afirma que o Papa “apela para que se evite qualquer equiparação da inteligência humana à inteligência artificial”. Ele admite que a IA é um dos maiores desafios da nova era e enumera com zelo suas muitas deficiências: não tem corpo, não amadurece em relações humanas e não sabe o que é o amor, como na canção de Abbott e Costello. Falta-lhe um horizonte espiritual, seja lá o que isso signifique. Segundo o Papa, nossas limitações como seres humanos são o que nos leva a construir uma fraternidade maior do que nós mesmos e nos dota de compaixão, generosidade e adoração a Deus. Nenhum algoritmo, garante o Papa, pode tornar a guerra moralmente aceitável. “O amor e a verdade se encontraram; a justiça e a paz se abraçaram”, diz o Salmo 85.

Para os ateus, tudo isso soa como música celestial — em outras palavras, não entendemos nem uma palavra sequer. Se o que Leão XIV defende é a regulamentação civil e democrática da IA, ele poderia ter se expressado com mais clareza. Trazer Deus para a discussão pode complicar drasticamente as coisas, já que nem todos concordam com o que seu Deus diz. E, de qualquer forma, não creio que leiam encíclicas nos porões do Pentágono. Essa inteligência não é deste mundo.

Leia mais

• A encíclica de Leão XIV: a IA deve servir à humanidade, não ao poder de poucos
• Magnifica Humanitas: um escândalo necessário
• Magnifica Humanitas: “Uma leitura que nenhum documento governamental teria facilidade de fazer com franqueza”. Entrevista especial com Marcelo Chiavassa
• Magnifica Humanitas. Limites, possibilidades, perspectivas. Algumas análises
• Papa Leão XIV, antropólogo e ateu no Vaticano: os interesses da inteligência artificial por trás da encíclica
• Leão XIV, em sua primeira encíclica, alerta contra o tecnofascismo: "Quem controlar a IA imporá sua visão moral"
• Luigi Ferrajoli, jurista: “A produção e o comércio de armas devem ser punidos como crime contra a humanidade”
• A encíclica de Leão XIV, a resposta da doutrina para aprimorar o algoritmo. Artigo de Antonio Spadaro
• A síndrome de Babel e a reconstrução da comunicação humana: uma primeira leitura de Magnifica Humanitas. Artigo de Moisés Sbardelotto