Cuidar do ser humano: por uma inteligência artificial humanista. Artigo de Marcus Tullius

"Nesse sentido, a mensagem do Papa Leão XIV não é um chamado para rejeitar a inteligência artificial, mas para recuperar a centralidade do humano em meio às transformações digitais, reafirmando a comunicação como espaço de responsabilidade ética, construção do comum e reconhecimento do outro".

O artigo é de Marcus Tullius, mestre em Comunicação, coordenador de comunicação da Cáritas América Latina e Caribe e pesquisador de comunicação e religião. Atuou como coordenador da Pascom Brasil entre 2018 e 2024. Apresenta o programa Igreja Sinodal em emissoras de inspiração católica. Vencedor do Prêmio Papa Francisco dos Prêmios de Comunicação da CNBB (2025).

Eis o artigo.

A mensagem do Papa Leão XIV para a 60ª celebração do Dia Mundial das Comunicações Sociais e primeira do seu pontificado é um belo sinal de continuidade com as orientações proferidas por seu imediato predecessor, Francisco, ao longo dos seus doze anos de pastoreio da Igreja Universal, porque continua com o acento no humano, valorizando a comunicação em sua natureza relacional mais do que técnica.

Embora a Inteligência Artificial já é um tema recorrente nos primeiros meses de pontificado de Prevost, sendo abordada em mais de 15 discursos textuais ou audiovisuais, este é o primeiro mais ampliado até o momento. Publicada em italiano como Custodire voci e volti umani, a tradução oficial da Santa Sé para a língua portuguesa optou por Preservar vozes e rostos humanos. O mesmo verbo custodire, pode também ser traduzido por cuidar, defender, proteger, salvaguardar, tutelar. Aqui, creio, reside a preocupação do pontífice.

Preservar pode sugerir algo estático, diria até museológico, manter intacto para proteger da mudança. "Cuidar", por outro lado, implica uma relação ativa, dinâmica, que reconhece vulnerabilidade sem negar transformação. Cuidar parece uma escolha mais adequada ao desafio que enfrentamos: não se trata de congelar rostos e vozes humanas num passado idealizado, mas de zelar por eles enquanto somos afetados pelas transformações tecnológicas do presente, assegurando que rosto e voz permaneçam expressões autênticas de nossa humanidade.

O humano em questão

Quando a inteligência artificial aprende a simular vozes humanas com perfeição indistinguível, quando algoritmos geram rostos que nunca existiram, mas parecem reais, quando chatbots conversam conosco imitando empatia e amizade – o que está realmente em jogo? O cerne da mensagem de Leão XIV está contida nesta definição: "o desafio, por conseguinte, não é tecnológico, mas antropológico. Preservar os rostos e as vozes significa, em última análise, preservarmo-nos a nós próprios." Esta formulação desloca o debate para onde ele realmente deveria estar: não no que a tecnologia pode fazer, mas no que nós, humanos, podemos perder ao delegarmos a ela funções que nos constituem enquanto pessoas.

O rosto e a voz não são meros dados biométricos ou interfaces de comunicação. São, como pontua o documento, "traços únicos e distintivos de cada pessoa", manifestações de uma identidade irrepetível. Quando permitimos que sejam simulados, replicados, manipulados por sistemas algorítmicos, corremos o risco de alterar algo fundamental na civilização humana – algo que, paradoxalmente, tomamos como garantido até o momento em que se torna objeto de apropriação tecnológica.

A questão, portanto, que o Dia Mundial das Comunicações Sociais deve provocar na Igreja toda – e não apenas nos comunicadores – é essencialmente esta: o que significa ser humano na era da inteligência artificial? E como preservar essa humanidade sem recair em rejeições reacionárias à inovação ou em aceitações ingênuas de todo avanço tecnológico?

Uma ética humanista

Para compreender a gravidade do que está em jogo, é necessário escavar os fundamentos antropológicos e éticos que sustentam a centralidade do rosto e da voz na experiência humana. O Papa Leão XIV recorre à tradição teológica cristã, mas sua argumentação dialoga profundamente com correntes filosóficas contemporâneas que, mesmo fora do campo religioso, reconhecem no rosto uma dimensão ética primeira.

É bonito contemplar a referência que o pontífice faz a Gregório de Nissa, manifestando que "Deus quis o ser humano como seu interlocutor" e "imprimiu no seu rosto um reflexo do amor divino". O rosto e a voz, traços distintivos da pessoa defendidos na mensagem, precisam ser lidos como expressão desta imagem e semelhança de Deus, narrada desde o Gênesis, e traduzida na necessidade de uma ética universal. Cada rosto porta uma dignidade inviolável, cada voz merece ser ouvida em sua singularidade.

Um dos pontos destacados pelo pontífice na mensagem é a simulação de relações que emerge das interações com inteligências artificiais, conduzindo a uma experiência que pode parecer atraente ou até mesmo envolvente, mas que permanece enganadora. Estamos diante de um “outro” que não pensa, mas calcula; não sente, mas simula.

Emmanuel Lévinas, filósofo judeu do século XX, compreendia o “rosto do outro” como o fundamento primeiro da ética. Ou seja, antes de qualquer lei ou sistema moral, a ética nasce da experiência que emerge deste encontro. O rosto do outro convoca a uma epifania ética, isto é, a uma responsabilidade que antecede qualquer norma. Quando essa experiência é substituída por relações simuladas ou mediadas por inteligências artificiais, corre-se o risco de perder precisamente aquilo que funda a alteridade. Como afirma Leão XIV, “deixamo-nos roubar a possibilidade de encontrar o outro, que é sempre diferente de nós e com o qual podemos e devemos aprender a confrontar-nos. Sem aceitar a alteridade, não pode haver nem relação nem amizade”.

Cinco riscos à experiência humana

A crítica de Papa Leão XIV à inteligência artificial não assume um tom apocalíptico ou tecnofóbico, inclusive afirma no texto que “o desafio que nos espera não é impedir a inovação digital, mas sim orientá-la, estando conscientes do seu caráter ambivalente. Cabe a cada um de nós levantar a voz em defesa das pessoas, para que estas ferramentas possam realmente ser integradas por nós como aliadas.”

A partir da mensagem do Papa, identifico cinco riscos concretos à experiência humana diante do avanço das inteligências artificiais. Não se trata apenas de problemas técnicos, mas de transformações profundas na maneira como pensamos, criamos, nos relacionamos, percebemos a realidade e compreendemos a própria condição humana.

A deterioração é o primeiro risco apontado pelo pontífice e refere-se à crescente terceirização do pensamento. Ao delegar às máquinas funções de análise, síntese e criação, o ser humano corre o risco de enfraquecer suas próprias capacidades cognitivas, emocionais e comunicativas. Um recente estudo, ainda em fase de revisão, aponta que em apenas 10 minutos, a IA já começa a enfraquecer seu raciocínio. A facilidade proporcionada pelas inteligências artificiais pode produzir uma cultura marcada pela renúncia ao esforço intelectual e ao exercício da imaginação, comprometendo a autonomia crítica da pessoa.

A destruição da criatividade humana aparece como outro alerta importante do documento. Em uma lógica cada vez mais marcada pela etiqueta “Powered by AI”, existe o risco de transformar pessoas em consumidoras passivas de conteúdos anônimos, esvaziados de experiência, autoria e sensibilidade humana. A preocupação não está apenas na automatização da produção, mas na redução da criatividade humana a mero banco de dados para treinamento algorítmico. Você já parou para pensar na quantidade de coisas iguais que você viu recentemente? Desde materiais audiovisuais criados com a mesma estética a textos que, ao ser lidos, nos dão uma certa sensação de déjà vu. Não é só uma sensação, é a constatação de que estamos numa sucessão infinita de cópias das mesmas ideias, porque partem das fontes. A criatividade humana acumulada nos últimos séculos serve agora para alimentar modelos que podem tornar essa mesma criatividade obsoleta. É como se queimássemos bibliotecas para aquecer robôs que escreverão livros sem ter vivido nada.

A manipulação algorítmica constitui também uma das preocupações centrais da mensagem. Os algoritmos das plataformas digitais são estruturados para maximizar engajamento e retenção de atenção, privilegiando emoções rápidas, indignação e polarização em detrimento da reflexão, da escuta e do diálogo. O resultado é a formação de bolhas de consenso e radicalização que enfraquecem o pensamento crítico e aprofundam a fragmentação social.

A simulação de relações é outro aspecto destacado por Papa Leão XIV ao tratar da crescente capacidade dos sistemas de IA de reproduzir artificialmente vínculos afetivos e relações interpessoais. Chatbots e assistentes conversacionais podem produzir uma aparência de empatia, presença e acolhimento que, embora sedutora, permanece artificial. O risco consiste em substituir a experiência concreta da alteridade por relações controladas e moldadas segundo as expectativas do próprio usuário, empobrecendo a experiência humana do encontro.

Por fim, a distorção da realidade, ou “a construção de realidades paralelas, como aparece no texto papel. Esta apropriação dos rostos e vozes, numa proliferação de deepfakes, conteúdos sintéticos e sistemas baseados em probabilidades estatísticas desafia-nos constantemente sobre o real e o ficcional. Em um contexto já marcado pela crise da verificação e pela desinformação, a inteligência artificial amplia a dificuldade de distinguir verdade e simulação, fato e fabricação. A consequência é uma crescente sensação de desorientação e insegurança diante da própria realidade.

Cidadania digital consciente e responsável

A mensagem do Papa Leão XIV não se limita ao diagnóstico, tampouco é apenas alarmista sobre os riscos da IA. De maneira esperançosa e propositiva, o pontífice propõe uma possível aliança baseada nos pilares da responsabilidade, cooperação e educação desafia-nos, como indivíduo e como comunidades, a tomar consciência de que somos humanos.

Não pode passar despercebido o apelo que o pontífice faz para a “construção e a efetivação de uma cidadania digital consciente e responsável”. Embora o conceito não seja desenvolvido na mensagem pontifícia, a preocupação do Papa reside em que não se reduza estas questões à aprendizagem de ferramentas tecnológicas, mas de desenvolver uma nova consciência ética diante das transformações provocadas pela cultura digital e pelas inteligências artificiais. Formar sujeitos capazes de habitar criticamente os ambientes digitais, preservando a dignidade humana, a experiência da alteridade, o compromisso com a verdade e a responsabilidade coletiva diante dos impactos tecnológicos.

Massimo Di Felice, professor da USP, tem abordado amplamente o tema em publicações. Em 2018, junto com professores, pesquisadores e centros de pesquisas de diferentes países assinaram um Manifesto pela Cidadania Digital. As transformações do terceiro milênio não dizem respeito apenas a mudanças de hábitos ou formas de pensamento, mas à própria reconfiguração da condição habitativa humana. Em um contexto marcado por redes digitais, inteligências artificiais, mudanças climáticas e novas ecologias comunicacionais, torna-se insuficiente uma ideia de cidadania limitada apenas às relações entre sujeitos humanos. O Manifesto, estruturado em quatro partes, propõe compreender a cidadania digital como uma nova forma de participação em redes complexas e interdependentes, nas quais humanos, dados, algoritmos e ambientes interagem continuamente.

Nessa direção, o documento insiste que educar para a cidadania digital é hoje um dever das instituições e da própria sociedade, em plena sintonia com esta cooperação a que chama o Papa Leão XIV, exigindo a formação para uma participação responsável, uma interação consciente e uma presença ética nos ambientes conectados. Trata-se, portanto, de aprender a construir “redes melhores e mais inteligentes”, capazes de fortalecer a participação, a transparência, o cuidado com o outro e a responsabilidade compartilhada diante da vida comum.

Quando o pontífice conclui sua mensagem convidando a “preservar o dom da comunicação como a mais profunda verdade do ser humano, para a qual também se deve orientar toda a inovação tecnológica”, não o faz a partir de uma postura resistente ou nostálgica diante do mundo digital. Seu apelo é, como desenvolvido ao longo da mensagem, profundamente antropológico e ético: trata-se de reorientar a tecnologia para que ela permaneça a serviço da pessoa humana, sem substituir, empobrecer ou simular aquilo que constitui a experiência autenticamente humana do encontro, da criatividade, da verdade e da alteridade.

A tecnologia não é neutra. Ela carrega as prioridades, os interesses e visões de mundo de quem as desenvolve e, por isso, moldam silenciosamente as formas de perceber, sentir, relacionar-se e participar da vida social. Quando sistemas de inteligência artificial são desenvolvidos para maximizar engajamento à custa da verdade, para simular intimidade sem experiência real de vínculo ou para produzir conteúdos sem a marca da autoria e responsabilidade, revela-se uma lógica que reduz o ser humano à condição de consumidor e dado estatístico.

Nesse sentido, a mensagem do Papa Leão XIV não é um chamado para rejeitar a inteligência artificial, mas para recuperar a centralidade do humano em meio às transformações digitais, reafirmando a comunicação como espaço de responsabilidade ética, construção do comum e reconhecimento do outro.

Leia mais

• Grecom/CNBB publica subsídio sobre primeira mensagem de Leão XIV para o Dia Mundial das Comunicações
• Vozes e rostos através do espelho da IA: a comunicação digital segundo Leão XIV. Artigo de Moisés Sbardelotto
• O Papa Leão XIV estabelece uma nova comissão do Vaticano sobre inteligência artificial
• Teologia e Inteligência Artificial. Artigo de Giuseppe Villa
• Tecnologia, fé cristã e inteligência artificial: desafios éticos e pedagógicos para a formação humana. Artigo de Reginaldo Moreira Felipe
• A Inteligência Artificial é um produto humano. Na religião, faz sentido promover a liberdade. Artigo de Vito Mancuso
• Rezando com uma máquina? A inteligência artificial começa a acreditar em Deus
• Os chatbots de Jesus estão em alta. Um filósofo os coloca à prova
• O sagrado em tempos de chatbot. Artigo de Antonio Spadaro
• A IA está expondo novas fissuras na Igreja Católica. Artigo de Massimo Faggioli
• Deus digital, religiosidade online, fiel conectado: Estudos sobre religião e internet. Cadernos Teologia Pública, Nº 70
• A Igreja em um contexto de “Reforma digital”: rumo a um sensus fidelium digitalis? Artigo de Moisés Sbardelotto. Cadernos Teologia Pública N.º 116