Inspirado e movido pela “sabedoria do coração”, o ser humano pode também contar com os próprios sistemas de inteligência artificial para pôr em prática uma comunicação plenamente humana.

A opinião é de Moisés Sbardelotto, professor da PUC Minas, atuando no Programa de Pós-Graduação em Ciências da Religião e no Programa de Pós-Graduação Profissional em Teologia Prática.

Eis o artigo.

Depois de uma espécie de trilogia de mensagens sobre a “comunicação do coração” – encontrar-se coração a coração (2021), escutar com os ouvidos do coração (2022) e falar com o coração (2023) – o Papa Francisco enfoca sua mensagem de 2024 para o Dia Mundial das Comunicações Sociais no tema da inteligência artificial. E continua a assumir como eixo de reflexão a “sabedoria do coração”.

A questão da IA vem sendo refletida por Francisco há vários anos, particularmente desde seus discursos nas assembleias plenárias da Pontifícia Academia para a Vida de 2019 e 2020, que debateram, respectivamente, sobre os temas “Roboética: humanos, máquinas e saúde” e “O ‘bom’ algoritmo? Inteligência artificial, ética, direito, saúde”. Além disso, ainda neste início de 2024, o papa também abordou a relação entre a IA e a paz em sua mensagem para o Dia Mundial da Paz.

Já na nova mensagem sobre as comunicações sociais, intitulada “Inteligência artificial e sabedoria do coração: para uma comunicação plenamente humana” e publicada no dia 24 passado, Francisco parte da constatação de que a IA se insere no conjunto das “maravilhosas invenções” humanas. O problema, segundo ele, é que o funcionamento e as potencialidades de tais invenções são indecifráveis para a grande maioria das pessoas, fazendo-as viver em um misto de entusiasmo e desorientação.

Frente a isso, as grandes perguntas que movem e motivam a reflexão papal dizem respeito ao significado e à especificidade do ser humano nesse contexto, assim como ao próprio futuro da espécie Homo sapiens, em uma era de inteligências artificiais. Francisco questiona: “Como podemos permanecer plenamente humanos e orientar para o bem a mudança cultural em curso?”. Segundo ele, a resposta está na prática de uma comunicação plenamente humana, impulsionada pela sabedoria do coração. 

Mas o que significa essa “mudança cultural”? E de que “humano”, de que “sabedoria” e de que “coração” estamos falando?

Problemáticas em jogo

Para compreender melhor as questões em jogo, Francisco aponta para alguns benefícios e malefícios da IA. Essa ambivalência das IAs, segundo o papa, revela que os algoritmos, como tudo aquilo que é produzido pelo ser humano, não são neutros.

Do ponto de vista positivo, o papa destaca, por exemplo, o acesso e a troca facilitados de informações entre diferentes povos e gerações por meio de sistemas de IA, tornando acessível e compreensível um enorme patrimônio de conhecimentos do passado, assim como a comunicação entre pessoas de línguas diferentes.

Mas o teor da mensagem aponta para uma ênfase maior nos possíveis “riscos e patologias” das IAs generativas, ressaltando o risco do surgimento de “novas castas baseadas no domínio informativo”, de “novas formas de exploração e desigualdade”, de uma “nova escravidão”... 

O papa também comenta tais aspectos a partir de sua própria experiência pessoal. Ao falar do problema da desinformação, das chamadas fake news e também do deep fake, o papa afirma que “já me aconteceu a mim também ser objeto” da criação e da divulgação de imagens falsas que parecem plausíveis, como no caso das supostas fotos que o retratavam com uma volumosa jaqueta branca em estilo rapper. Segundo Francisco, essas práticas de simulação digital tornam-se perversas quando distorcem as relações com os outros e com a realidade.

Além disso, o papa aponta para possíveis efeitos danosos, discriminadores e socialmente injustos dos sistemas de IA. O risco maior, segundo ele, é “a redução do pluralismo, a polarização da opinião pública ou a construção do pensamento único”. Daí a necessidade de modelos de regulamentação ética de tais sistemas, razão pela qual o papa reitera sua exortação à comunidade internacional para que adote um tratado internacional, a fim de regular o desenvolvimento e o uso da IA em suas várias formas. 

Essa regulamentação é crucial para dirimir questões muito relevantes do ponto de vista da segurança e da privacidade dos dados. O papa elenca algumas questões ainda em aberto: a responsabilização das plataformas digitais em relação aos dados postos em circulação (particularmente com fins de lucro), a transparência sobre os critérios utilizados pelos algoritmos para a (des)indexação de dados em sistemas de busca, a possibilidade de identificar a autoria dos conteúdos digitais e de rastreio de suas fontes, o combate aos oligopólios digitais que podem gerar um pensamento único elaborado algoritmicamente, a salvaguarda do pluralismo e da complexidade do real, a sustentabilidade ecológica dos sistemas digitais, por serem extremamente energívoros, a acessibilidade digital aos países em vias de desenvolvimento e aos mais pobres etc.

Em suma, o sonho de Francisco é construir, em sociedade e como cidadãos, um “sistema de informação articulado e pluralista”. Diante do que se tem hoje, essa utopia franciscana é mais do que necessária.

Superar os dualismos, habitar o devir da complexidade

O papa, porém, reconhece que a regulamentação não é suficiente. Para Francisco, é preciso um “salto de qualidade” do ponto de vista humano, cultural e até mesmo espiritual para lidar com o rápido e complexo avanço tecnológico contemporâneo. “Somos chamados a crescer juntos, em humanidade e como humanidade.” Por isso, o desafio é estar à altura de “uma sociedade complexa, multiétnica, pluralista, multirreligiosa e multicultural”. 

Ou seja, uma sociedade linearmente homogênea e um pensamento dualista, dicotômico e fragmentário sobre aquilo que caracteriza o humano não apenas não ajudam, mas até atrapalham e prejudicam “uma maior [tomada de] consciência da transição de época que estamos atravessando”. Para isso, defende o pontífice, é preciso evitar as leituras catastróficas e seus efeitos paralisadores.

Para aprofundar essa reflexão, Francisco recorre a um de seus grandes mestres, Romano Guardini. Na leitura papal, o teólogo ítalo-alemão, ao refletir sobre a técnica e o ser humano, convidava a não condenar “o ‘novo’ na tentativa de ‘conservar um mundo belo condenado a desaparecer’”. Não faz sentido querer voltar a um passado sem máquinas, sejam elas “inteligentes” ou não. A sabedoria, afirma o papa, está em valorizar o tempo e a aliança entre as gerações, conservando a memória do passado e alimentando uma visão de futuro.

Embora Francisco alerte para o risco de um tempo “rico em técnica e pobre em humanidade”, o humano, desde sempre, não é apenas gerador, mas também gerado pelos seus próprios desenvolvimentos tecnológicos. A técnica, entendida como uma dimensão do humano, também revela e desdobra o próprio humano. Por isso, é preciso superar as visões dicotômicas e fragmentadas entre “humano” e “técnica”.

A mensagem, porém, conserva algumas dessas dicotomias e dualismos, como, por exemplo, quando fala dos instrumentos pré-históricos como mero “prolongamento dos braços”, ou dos meios de comunicação como mera “extensão da palavra”, ou ainda das máquinas de IA atuais como mero “auxílio do pensamento”. Pelo contrário, instrumentos, meios e máquinas ressignificam, transformam e metamorfoseiam o próprio corpo, a própria linguagem e o próprio pensamento humanos, tornando-se (re)constitutivos do humano como tal.

Uma visão dualista, dicotômica e fragmentada, por outro lado, “reduz as pessoas a dados, o pensamento a um esquema, a experiência a um caso, o bem ao lucro”, nas palavras de Francisco, “dissolvendo a realidade concreta em uma série de dados estatísticos”. Inspirado em Guardini, que falava da necessidade de resguardar as “oposições polares”, isto é, oposições em que os dois opostos não se anulam nem se identificam, o papa propõe na Evangelii gaudium a ideia de “tensão bipolar”, que faz as diferenças e os diferentes se harmonizarem, uma tensão que se resolve apenas em um “plano superior que conserva em si as preciosas potencialidades das polaridades em contraste” (EG 228).

Por isso, citando Guardini, Francisco afirma: “O nosso posto é no devir”. Isto é, naquilo que não controlamos, naquilo não conseguimos definir, determinar, enquadrar, fixar, por ser puro movimento e (rel)ação, naquilo que é complexo, plural, múltiplo. E o discernimento sobre o desenvolvimento tecnológico, como no caso das atuais IAs, precisa se situar justamente nesse “lugar” hermenêutico – que nunca está nem se detém em um “ponto” fixo. Como afirma o papa, a resposta às questões contemporâneas “não está escrita; depende de nós” – mas esse “nós” precisa ser pensado complexamente, envolvendo não apenas pessoas, grupos, instituições, mas também objetos, máquinas, os demais seres vivos, o planeta como um todo e tudo aquilo que nele habita.

Daí a necessidade, ainda segundo Guardini, de “aderir honestamente” a esse devir e de “permanecer sensíveis” a tudo o que há de “destrutivo e não humano” no coração humano. Isto é, a tudo aquilo que não reconhece, não respeita e não deixa viver os frutos do húmus comum que constitui a nossa “casa comum”.

Comunicação plenamente humana

Para isso, afirma Francisco, é preciso “uma espiritualidade mais profunda, uma nova liberdade e uma nova interioridade”. Uma comunicação plenamente humana, portanto, passa necessariamente por aquilo que o papa chama de “sabedoria do coração”, entendida como “a virtude que nos permite combinar o todo com as partes, as decisões com as suas consequências, as grandezas com as fragilidades, o passado com o futuro, o eu com o nós”. Ou seja, uma sabedoria – que à luz da fé é “dom do Espírito Santo” – que permita superar os dualismos e o olhar fragmentado, em prol de um “olhar espiritual”, plural e complexo do real.

Embora critique o uso do termo “inteligência” para se referir às máquinas – o que ainda é questão de debate entre os especialistas –, Francisco reconhece que é ainda menos plausível esperar tal sabedoria delas. Mesmo que possam memorizar dados e relacioná-los entre si de uma forma muito mais rápida e eficiente do que os humanos, são estes – e, pelo menos segundo o que uma parte da ciência contemporânea afirma até agora, somente estes – que podem não apenas decodificar o seu sentido, como afirma o papa, mas até mesmo construí-los e ressignificá-los.

Para Francisco, não se trata de exigir que as máquinas pareçam humanas, mas sim de despertar o ser humano da hipnose gerada pelo delírio de onipotência tecnológica, que faz com que ele creia ser um sujeito totalmente autônomo e autorreferencial, separado de todo vínculo social e esquecido de sua condição de criatura. No caso específico da comunicação, portanto, o papa afirma que a informação não pode ser separada da relação existencial com os outros e com a realidade, pois comunicar não é apenas correlacionar dados, mas sim experiências de vida.

Inspirado e movido pela “sabedoria do coração”, o ser humano pode até contar com os próprios sistemas de IA para pôr em prática uma comunicação plenamente humana. O primeiro passo para isso é que cada ser humano reconheça seu papel de sujeito da própria comunicação, de acordo o papa, mas também sua “autonomia dependente” nas relações estabelecidas com os demais sujeitos (não apenas humanos) em cada ecossistema comunicacional em que habita. Com tal capacidade crítica, discernimento e consciência, o ser humano conseguirá “tocar” plenamente a realidade viva em que vive, com suas dores e sofrimentos, assim como com suas alegrias e esperanças. 

Com sua mensagem, por fim, Francisco revela que uma comunicação plenamente humana é aquela que resguarda, valoriza e realimenta a multipluricomplexidade da realidade, nas diversas e complexas interações entre todos os seus “sócios” (inclusive os “não humanos”). E também evita e combate tudo o que é destrutivo da vida, do planeta e do húmus comum – sendo, portanto, desumano.

Leia mais

• O Papa: que o homem não se torne alimento para os algoritmos
• O Papa: que as formas de inteligência artificial sirvam a causa da fraternidade e da paz
• Papa Francisco: “Não podemos permitir que algoritmos excluam a compaixão, a misericórdia e o perdão”
• Dia Mundial da Paz de 2024: Papa pede diálogo aberto sobre impacto da inteligência artificial
• O Cardeal Czerny alerta sobre o uso da IA ​​para fins de guerra: “É o que mais nos assusta”
• Tecnologia para a paz ou a guerra. Agora um tratado mundial vinculante. Artigo de Vincenzo Paglia
• A assertiva e contundente mensagem do Papa Francisco sobre IA. Artigo de Dora Kaufman
• Por que o papa Francisco está preocupado com o futuro dos robôs
• O Papa: "Hoje nos habituamos ao pão duro da desinformação"
• Reflexões sobre inteligência artificial e a paz à luz da mensagem do Papa. Entrevista com Silvano Tagliagambe
• O paradigma tecnocrático. O risco da máquina como último fim. Discurso de Papa Francisco em Budapeste
• O “Homo” é mais ou menos “sapiens”? A encruzilhada da inteligência artificial. Artigo de Vito Mancuso
• Seremos, por fim, servos de máquinas?
• “Pela primeira vez na história humana, a produção de conhecimento funde-se com a produção de lucro”. Entrevista especial com Nick Couldry
• Europa: regulamentação da inteligência artificial
• Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
• Inteligência artificial, branquitude e capitalismo: entrevista com Yarden Katz
• Ser humano e inteligência artificial: os próximos desafios do onlife. Entrevista com Luciano Floridi
• Inteligência artificial e pós-humanismo. Artigo de Giannino Piana
• Inteligência artificial: a nova dependência?
• Ainda seremos capazes de dominar a selva dos algoritmos? Entrevista com Aurélie Jean
• Deep Fake, a mais recente ameaça distópica