Vozes e rostos através do espelho da IA: a comunicação digital segundo Leão XIV. Artigo de Moisés Sbardelotto

Como no livro de Lewis Carroll, o espelho digital não reproduz simplesmente o real. “Os modelos de IA – retoma Leão – são moldados pela visão do mundo de quem os constrói e podem, por sua vez, impor modos de pensar, replicando estereótipos e preconceitos presentes nos dados a que têm acesso.” 

O comentário é de Moisés Sbardelotto, professor da PUC Minas e doutor em Ciências da Comunicação pela Unisinos.

Eis o texto. 

O desafio que os sistemas de inteligência artificial (IA) apresentam não é apenas tecnológico, mas sobretudo antropológico. Como recorda o Papa Leão XIV em sua primeira mensagem para o Dia Mundial das Comunicações Sociais, a IA interfere em níveis profundos da comunicação humana, pondo em xeque o que entendemos por humano e o modo como construímos o nosso mundo de relações.

Comunicação, a profunda verdade humana

Na mensagem intitulada "Preservar vozes e rostos humanos", o papa apresenta sua compreensão de comunicação. Seu foco é a voz e o rosto humanos, como meios possibilitadores e simbólicos da comunicação.

Primeiro, ele analisa duas concepções etimológicas de ser humano a partir da cultura greco-latina que são profundamente comunicacionais. Por um lado, o ser humano é “rosto” (prósopon), ou seja, o olhar entendido como “o lugar da presença e da relação”, nas palavras de Leão. Por outro, o ser humano é persona (de per-sonare), que faz menção ao som da “voz inconfundível de alguém”.

Mas rosto e voz também são sagrados, reflete o papa, porque nos foram dados por Deus, “que nos criou à sua imagem e semelhança, chamando-nos à vida com a Palavra que Ele mesmo nos dirigiu”. Por isso, rosto e voz são um selo e um “reflexo indelével do amor de Deus”. Se cada pessoa possui uma vocação (divina) insubstituível e irrepetível, esta “se manifesta precisamente na comunicação com os outros”.

É com base nessa concepção teológica que, no último parágrafo da mensagem, Leão defende uma concepção antropológica, reconhecendo “o dom da comunicação como a mais profunda verdade do ser humano”. Por vocação e por constituição, somos seres de comunicação.

Hoje, contudo, a tecnologia digital apresenta o risco de “alterar radicalmente alguns dos pilares fundamentais da civilização humana”, afirma o papa. Tais sistemas não só interferem nos ecossistemas informativos, mas também “invadem o nível mais profundo da comunicação, ou seja, o das relações entre as pessoas”. E é esse nível mais profundo que o pontífice convida a preservar, salvaguardar, cuidar.

A sacralização da IA e a falsa onisciência

Logo após o conclave, ao explicar a escolha de seu nome pontifício aos cardeais, Leão XIV indicou que deseja seguir os passos de seu antecessor homônimo, sendo, para a revolução digital do século XXI, aquilo que Leão XIII foi para os tempos da Revolução Industrial. Por isso, ao mesmo tempo em que convida explicitamente a “aceitar com coragem, determinação e discernimento as oportunidades oferecidas pela tecnologia digital e pela inteligência artificial”, o pontífice convoca a não “esconder de nós mesmos os pontos críticos, a opacidade e os riscos”.

E a principal crítica papal é à “confiança ingenuamente acrítica na inteligência artificial”. Nesse sentido, o pontífice aponta muitas problemáticas, como a antropomorfização dos sistemas de IA, percebida muitas vezes como uma “amiga onisciente”. Mas essa antropomorfização pode chegar a uma verdadeira sacralização ou até divinização, quando a IA, de acordo com Leão, é elevada ao patamar de “arquivo de todas as memórias, ‘oráculo’ de todos os conselhos”. Esses papéis, porém, indevidamente atribuídos à IA, foram historicamente reservados pela tradição bíblico-teológica à mediação divina: a onisciência (dispensadora de todas as informações), a memória total (arquivo de todas as memórias) e a sabedoria plena (oráculo de todos os conselhos). O que o papa critica é a transferência de expectativas sagradas para um sistema que não pode, por definição, correspondê-las.

Mesmo quando não chega a tal patamar, a IA igualmente é preocupante, segundo Leão, devido à “persuasão oculta” que decorre da “otimização da interação personalizada”. Quanto mais interações realizamos com tais sistemas, mais eles vão captando dados e informações sobre quem somos e sobre os nossos interesses, otimizando seu funcionamento. Com isso, afirma o papa, os chatbots passam a agir como “arquitetos ocultos dos estados emocionais”, invadindo a intimidade das pessoas – ou, mais frequentemente, apenas tendo acesso a tal intimidade, escancarada pelas próprias pessoas que veem nos sistemas de IA terapeutas, conselheiros e gurus sempre disponíveis e mais acessíveis.

Um mundo de espelhos

Mas uma IA não é uma “alteridade” propriamente dita, porque não tem identidade em si mesma: ela apenas cataloga nossos pensamentos, como critica o papa. Ela constrói, assim, um “mundo de espelhos, onde tudo é feito ‘à nossa imagem e semelhança’”.

Essa imagem evocada pelo pontífice recorda o universo literário de “Alice através do espelho”, de Lewis Carroll. Na obra, Alice atravessa o espelho de sua sala de estar e ingressa em um mundo invertido, onde as lógicas cotidianas parecem subvertidas, as palavras mudam de sentido, e a realidade assume contornos instáveis e paradoxais. “Há outra sala lá no espelho… É exatamente a mesma sala que a nossa, só que as coisas dentro do espelho são todas ao contrário”, diz a menina à sua gatinha Kitty (na tradução de Ricardo Giassetti).

Algo semelhante ocorre nos sistemas de IA: ao atravessarmos as interfaces digitais, somos conduzidos a um espaço moldado por algoritmos que refletem nossos interesses, preferências e emoções, mas de forma muitas vezes distorcida, errada, “alucinada”.

Como em Carroll, o espelho digital não reproduz simplesmente o real. “Os modelos de IA – retoma Leão – são moldados pela visão do mundo de quem os constrói e podem, por sua vez, impor modos de pensar, replicando estereótipos e preconceitos presentes nos dados a que têm acesso.”  

O espelho digital, portanto, molda, reconfigura e até reconstrói o mundo, segundo outra lógica, que é difícil de desvendar, dada a não transparência algorítmica (a “caixa-preta” das IAs). O problema é que, no caso das plataformas digitais, essa lógica não é infantil, lúdica ou inocente, mas econômico-financeira e político-ideológica. Assim, o “mundo de espelhos” da IA cria um ambiente comunicacional em que corremos o risco de confundir o espelho com a janela, o reflexo com a realidade.

Pensamentos não pensados

Daí a preocupação papal com a proliferação de conteúdos “powered by AI”, transformando as pessoas em “meros consumidores passivos de pensamentos não pensados, de produtos anônimos, sem autoria nem amor”. Há várias camadas de um mesmo empobrecimento: sem autoria, ninguém co-responde por aquele conteúdo; sem amor, nenhum afeto orienta a escolha das palavras, nenhum cuidado molda a argumentação; com “pensamentos não pensados”, não é possível uma reflexão consciente e crítica.

E Leão XIV alerta para o fato de geralmente nos contentarmos com essa “compilação estatística artificial”, cedendo às máquinas as nossas funções mentais e a nossa imaginação. No dia a dia, esse gesto pode nos parecer uma simples economia de tempo e esforço. No entanto, como reconhece o papa, diversas pesquisas já apontam consequências preocupantes para nossas capacidades cognitivas, emocionais e comunicativas, naquilo que vem sendo chamado de “inteligência artificial degenerativa”...

Portanto, “o risco é grande!”, exclama Leão. E se torna mais preocupante quando quem administra tais sistemas é um “pequeno grupo de empresas”, que têm, assim, um “controle oligopolístico” sobre seu poder de “construção de realidades paralelas”. Como lembra o papa, os algoritmos são concebidos para “maximizar o envolvimento nas redes sociais – rentável para as plataformas”. Com isso, recompensam as emoções rápidas, enfraquecendo a capacidade de escuta e pensamento crítico, aumentando a polarização social.

Os novos “senhores feudais” e o bem comum

Diante dessa situação, o papa exige responsabilidade a quem está no comando das plataformas digitais. Ele pede que as estratégias empresariais não sejam norteadas pelo “exclusivo critério da maximização do lucro”, mas sim pelo bem comum, e aqui vem um acréscimo afinadíssimo do pontífice: “... da mesma forma que cada um deles se preocupa com o bem-estar dos seus filhos”.

Já foi bastante noticiado que muitos dos “barões” das Big Techs impedem que seus filhos tenham perfis nas redes sociais digitais e até que tenham celulares, justamente porque sabem dos riscos aí presentes. Esse bem-estar, no entanto, precisa ser estendido a todas as pessoas, sem ficar reservado apenas aos herdeiros das plataformas, em uma espécie de “nepotismo digital”.

Para que isso seja possível, não adianta esperar pela boa vontade desses novos “senhores feudais” digitais. Leão XIV conclama os legisladores e defende aberta e claramente: é preciso “uma adequada regulamentação”, que possa conter a disseminação de desinformação.

Comunicação comunitária e compromisso pastoral

Em suma, ninguém pode enfrentar sozinho o desafio de orientar a inovação digital, reitera o papa, apontando para a importância da cooperação. Para além das empresas, governos e legisladores, um papel crucial pode ser desempenhado pela comunicação popular, alternativa e comunitária (incluindo, no caso católico, a vasta rede de iniciativas da Pastoral da Comunicação).

Leão XIV lamenta justamente a “crise do jornalismo local”, pois este tem um papel crucial no “trabalho contínuo de coleta e verificação de informações nos locais onde os eventos ocorrem”. Aqui a Igreja também tem uma grande contribuição a oferecer: a comunicação pastoral não é nem deve ser apenas comunicação “da Igreja para a Igreja”, muito menos “da Igreja sobre a Igreja”. A realidade é muito mais ampla do que o que ocorre entre as paredes da sacristia e os muros da igreja ou da casa paroquial. A informação é um bem público, afirma Leão, e a comunicação ética e profética da realidade social e comunitária também é evangelização.

Para o papa, os meios de comunicação – inclusive os da Igreja – “não podem permitir que algoritmos orientados para vencer a qualquer custo a batalha por alguns segundos de atenção a mais prevaleçam sobre a fidelidade aos seus valores profissionais, voltados para a busca da verdade”. No caso da comunicação cristão-católica, os valores profissionais são o mínimo a ser alcançado: mais importante é manter a fidelidade aos valores do Evangelho, que certamente não estão ligados a métricas de visualizações.

Humanismo digital integral

Por isso, é preciso discernimento: “O desafio que nos espera – diz o papa – não é impedir a inovação digital, mas orientá-la, conscientes de seu caráter ambivalente.” Nesse cenário, instituições como a Igreja têm um papel decisivo nos rumos do desenvolvimento tecnológico, especialmente em suas ações formativas e educacionais. “Assim como a revolução industrial exigiu uma alfabetização mínima para permitir que as pessoas reagissem às novidades, também a revolução digital exige uma literacia digital (com uma formação humanística e cultural).”

Para Leão XIV, a questão crucial não é o que a máquina consegue ou conseguirá fazer, mas sim o que nós podemos fazer, crescendo em humanidade. Nesse sentido, torna-se necessário pensar e praticar aquilo que chamamos de um humanismo digital integral. Não se trata de uma mera volta ao humanismo clássico nem a seu consequente antropocentrismo, mas sim da superação da concepção autocentrada do ser humano a fim de compreendê-lo a partir de suas diversas inter-relações – e não apesar delas –, inclusive com a tecnologia.

O humanismo digital integral é um pensar-sentir-agir ético em tempos de cultura digital, orientado pelas relações interpessoais, pela dignidade humana e pelo bem comum, que hoje não são apenas mediados, mas também podem ser potencializados por processos digitais, sem negar seus limites e desvios. Na prática, trata-se de não aceitar nem fomentar ações e ambientes digitais concebidos para explorar as fraquezas e a maldade humanas, e, pelo contrário, formar pessoas para uma “cidadania digital consciente e responsável”, como pede o papa, desde a pesquisa até o uso desses sistemas.

Leia mais

• Teologia e Inteligência Artificial. Artigo de Giuseppe Villa
• Tecnologia, fé cristã e inteligência artificial: desafios éticos e pedagógicos para a formação humana. Artigo de Reginaldo Moreira Felipe
• A Inteligência Artificial é um produto humano. Na religião, faz sentido promover a liberdade. Artigo de Vito Mancuso
• Rezando com uma máquina? A inteligência artificial começa a acreditar em Deus
• Os chatbots de Jesus estão em alta. Um filósofo os coloca à prova
• O sagrado em tempos de chatbot. Artigo de Antonio Spadaro
• A IA está expondo novas fissuras na Igreja Católica. Artigo de Massimo Faggioli
  
• Três vezes "comunicação": o que uma breve carta de Leão XIV revela sobre a missão da Igreja hoje. Artigo de Moisés Sbardelotto
• Inteligência Artificial e a Igreja: desafios e possibilidades. Conferência de Moisés Sbardelotto
• Metaverso. Novas possibilidades e desafios para a Igreja. Entrevista especial com Moisés Sbardelotto
• “O ‘virtual’ é real”. Cultura digital e evangelização. Entrevista especial com Moisés Sbardelotto
• Católicos em rede: de ouvintes a produtores da palavra de fé. Entrevista especial com Moisés Sbardelotto
• Igreja e internet: uma relação de amor e ódio. Entrevista especial com Moisés Sbardelotto
• Missa no metaverso: qual a necessidade pastoral?
• Virtualização da fé? Reflexões sobre a experiência religiosa em tempos de pandemia
• "E o Verbo se fez bit": Uma análise da experiência religiosa na internet. Artigo de Moisés Sbardelotto. Cadernos IHU Nº. 35
• Deus digital, religiosidade online, fiel conectado: Estudos sobre religião e internet. Cadernos Teologia Pública, Nº 70
• A Igreja em um contexto de “Reforma digital”: rumo a um sensus fidelium digitalis? Artigo de Moisés Sbardelotto. Cadernos Teologia Pública N.º 116