Paolo Benanti: “É urgente chegar a um acordo sobre uma proteção ética para que a IA não descarrile”

• O frade e renomado especialista em ética tecnológica considera que já estamos atrasados.
• Paolo Benanti caminha por Roma com seu hábito franciscano e uma daquelas mochilas de escritório nas costas. Ele combina a sua vida como frade com o seu profundo conhecimento de algoritmos e tecnologias, como um dos especialistas da ONU após o advento da Inteligência Artificial.
• O frade considera urgente a criação de um “guarda-corpo” ético que oriente a IA para que esta não se perverta no seu serviço à humanidade, assumindo o controle dos princípios éticos.
• A tecnologia pode eclipsar o divino? “Cada vez que divinizamos uma ferramenta, criamos os maiores desastres da história”, alerta.

A informação é publicada por Religión Digital, 23-05-2024.

Paolo Benanti combina a sua vida de frade num mosteiro romano com o seu profundo conhecimento de algoritmos e tecnologias, como disse um dos especialistas da ONU após o advento da Inteligência Artificial: “É urgente chegar a acordo sobre uma barreira ética” para que não descarrilar, alega em entrevista à EFE, apelando a não divinizar ou temer esta ferramenta prodigiosa. 

“Estamos atrasados ​​e talvez sejamos um pouco ineficazes, porque a questão é que, se estes instrumentos não tiverem sólidas barreiras éticas, serão difíceis de conter por um código ético externo”, prevê.

O maior especialista do Vaticano em ética da IA ​​é um frade de uma ordem franciscana medieval

Paolo Benanti (Roma, 1973) caminha pela capital italiana com seu hábito franciscano e uma daquelas mochilas de escritório nas costas. Para ele, definitivamente, é linda a vista contemplativa acima dos muros do mosteiro em que reside. Este frade é, de fato, um renomado especialista em ética tecnológica e graduado em Teologia Moral pela Pontifícia Universidade Gregoriana com a tese “O ciborgue: corpo e corporalidade na era pós-humana” (2008).

A sua competência é tal que em outubro de 2023 foi nomeado um dos 38 consultores das ONU em Inteligência Artificial (IA) e, pouco depois, o governo de Giorgia Meloni o recrutou como presidente da Comissão sobre o assunto, que será um dos temas centrais da próxima reunião dos líderes do G7, presidida este ano pela Itália.

“Tivemos grandes cientistas na ordem franciscana, como Roger Bacon. Do ponto de vista da fé, a razão é um dom de Deus, portanto, tudo o que segue a razão não é contrário a Deus”, declara, parcimoniosamente, sobre a sua dupla vocação.

Frei Paolo estudou Engenharia até "no fim do século passado", confessa de forma imprecisa e irônica, optou pelo monástico, embora logo descobrisse que os dois mundos não eram incompatíveis.

“Pensem no irmão Ramón Llull, que escreveu o ‘Ars Magna’, um texto que inspiraria a Lógica de Leibniz, base da informática. Não sou nem o primeiro da família”, justifica, enquanto um relógio inteligente (smart watch) surge da sua manga.

Agora os tempos mudam e o mundo começa a conviver com a IA, com máquinas que interagem com os seus utilizadores, oferecendo avanços prodigiosos mas também dúvidas e desinformação.

Por isso, o frade considera urgente criar “uma barreira ética” que o oriente para que não se perverta no seu serviço à humanidade.

Mas como pode a geopolítica fraturada de hoje concordar com algo assim? Para fazer isso, ele distingue entre valores, normas e princípios.

Os primeiros, salienta ele, não podem guiar uma IA planetária porque mudam dependendo das culturas. Estes últimos servem basicamente para proteger valores e princípios, mas oferecem uma “maneira mais fácil de encontrar um acordo global”.

“Vamos pensar num carro descontrolado: se virar à esquerda mata uma pessoa, se virar à direita, duas. Em ambos os casos o valor da vida está estabelecido, mas o ‘princípio’ de minimizar os danos ajuda a ética é global”, insiste.

Assim, máximas como transparência, fiabilidade ou proteção dos mais fracos deverão marcar o progresso da IA.

Porém, Frei Paolo defende que não deve ser usado para fazer o mal. O homem sempre teve que enfrentar esse desafio desde há 60 mil anos, quando decidiu nas cavernas se usaria o porrete para abrir nozes ou caveiras. E aqui continuamos.

“O problema não está na tecnologia, mas na nossa consciência”, sustenta. Por isso acredita que o homem se habituará à IA como fez com a bicicleta e recomenda “não se deixar levar por uma hermenêutica da procura do mal”, não o temendo.

“Devemos estudar todo o bem que pode fazer, e não apenas temê-lo. Não pensar se pode cometer erros na medicina, mas compreender como pode tornar cada médico o melhor da Terra”, exorta.

Embora, claro, não seja aconselhável subestimar “o mistério do mal”, a tentação de utilizá-lo para interesses fraudulentos, para não falar dos políticos ou econômicos.

O padre, usuário de redes sociais, sabe que os humanos dependem de algoritmos até para encontrar um parceiro e quase esperam por notificações em seus celulares como “carícias”. Por isso, ele acredita que essas ferramentas não deveriam ser “deificadas”.

A tecnologia pode eclipsar o divino? O frade cita a história de Arthur C. Clark em que um artifício, para a eterna questão de saber se Deus existe, responde: “Agora ele existe”.

“Cada vez que divinizamos uma ferramenta, criamos os maiores desastres da história. A questão não é se a IA pode ajudar ou prejudicar a busca por Deus, mas se iremos projetar nela um poder que a diviniza. Cada vez que divinizamos uma ferramenta, criamos os maiores desastres da história”, alerta.

Leia mais

• A dúvida que a Inteligência Artificial precisa. Entrevista com Paolo Benanti
• A Inteligência Artificial deve estar a serviço do bem comum. Entrevista com Paolo Benanti
• Inteligência Artificial. “Essa norma impede a manipulação. A tecnologia vai nos melhorar”. Entrevista com Paolo Benanti
• Feudalismo digital. Entrevista com Paolo Benanti
• O que a história da foto falsa gerada por supercomputadores nos ensina. Artigo de Paolo Benanti
• Entre computadores e gatinhos: uma breve história de como as máquinas aprenderam a aprender. Artigo de Paolo Benanti
• “A estupidez natural me assusta mais do que a inteligência artificial.” Entrevista com Paolo Benanti
• GPT-4, o algoritmo inexplicável e fechado. Artigo de Paolo Benanti
• Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti
• IA: o que há de realmente inteligente nos sistemas que construímos? Artigo de Paolo Benanti
• O ano da inteligência artificial
• Dos algoritmos rasos à Inteligência Artificial Geral: a nova IA será colaborativa ou uma ameaça? Entrevista especial com Alexandre Chiavegatto Filho
• Inteligência artificial/ChatGPT. Uma perspectiva humanista. Entrevista especial com Marco Schorlemmer
• Riscos e preocupações em torno da inteligência artificial (IA). Artigo de Henrique Cortez
• Inteligência artificial/ChatGPT. Uma perspectiva humanista. Entrevista especial com Marco Schorlemmer
• A inteligência artificial e os “novos poderes desumanos”. Entrevista com Flavia Costa
• Sociedade civil e era digital: velhas questões, novos desafios na era da sociedade da plataforma
• Riscos e desafios da sociedade digital
• A revolução da inteligência artificial transforma as pesquisas sobre o novo regime climático. Conferência com Sergio Marconi
• “Em tempos de inteligência artificial, não queremos medir a precarização do trabalho nem seus efeitos”. Entrevista com Joan Benach
• Inteligência artificial e estupidez natural. Artigo de Vito Mancuso
• O financismo na era da inteligência artificial. Entrevista com Edemilson Paraná
• ChatGPT não é 'inteligência artificial'. É roubo
• O Google se lança na guerra da Inteligência Artificial
• Da ficção científica à realidade: os novos dilemas éticos da Inteligência Artificial. Entrevista especial com João Cortese
• Inteligência Artificial e a Igreja: desafios e possibilidades. Conferência de Moisés Sbardelotto
• O aviso de Stephen Hawking, em 2014, sobre a inteligência artificial
• O ChatGPT veio para ficar no ensino superior? Não se os professores resistirem. Artigo de LuElla D’Amico