O último livro de Paolo Benanti – frade da Terceira Ordem Regular Franciscana, teólogo e professor de disciplinas éticas na Pontifícia Universidade Gregoriana – traz um título eloquente: “Digital Age. Teoria del cambio d’epoca. Persona, famiglia e società” [Era Digital. Teoria da mudança de época. Pessoa, família e sociedade, em tradução livre] (Ed. San Paolo, 2020). O autor concedeu uma entrevista sobre os temas relevantes do seu recente volume.

Reprodução da capa do livro

A reportagem é de Giordano Cavallari, publicada por Settimana News, 01-12-2020. A tradução é de Moisés Sbardelotto.

Eis a entrevista.

Qual é o sentido geral da palavra “cultura”? Qual a relação entre cultura e digital?

Se tomarmos a Gaudium et spes, o  pode ser remetido àquilo que permite que a humanidade seja humana, na autoconsciência de si mesma. Hoje, evidentemente, não é mais só isso que forma o conceito de cultura. Devemos entender como cultura tudo aquilo que contribui para narrar o ser humano a si mesmo e para narrar a sua própria identidade às gerações futuras. Portanto, é cultura não apenas o conhecimento intelectual, mas também toda a cultura material. Os objetos que nós utilizamos são expressão e forma da nossa cultura: televisão, computador, celular etc. Nunca como hoje o digital é fonte de cultura. Nunca como hoje o motor da nova autocompreensão do ser humano passa pelo digital. E faz isso transformando substancialmente a nossa compreensão de uma forma análoga em magnitude ao efeito produzido pelas lentes convexas no século XV, quando o modo de perscrutar o universo com o telescópio e o ser humano com o microscópio gerou um novo modo de compreender e de nos compreendermos. Hoje, o computador digital, trabalhando com os números e com esquemas numéricos, constitui uma alavanca análoga e muito poderosa: está mudando o modo com que compreendemos a nós mesmos. Pensemos nas neurociências ou no universo. O computador é o instrumento que nos indica onde e como buscar, entender e conhecer.

O digital está transformando o humano?

O humano não está se transformando, mas sim o modo como o humano se compreende e se descreve. Se, no passado, nos definimos como “espíritos encarnados” e depois nos definimos através da nossa “mente”, pela nossa racionalidade, hoje tendemos a nos descrever como “informação”, aquela informação contida dentro do nosso DNA. Se aprendemos a registrar a informação contida na nossa matéria, alguns pensam que o que vale de nós é simplesmente essa informação, enquanto a matéria é mera acidentalidade da nossa realidade de seres humanos: e é aí que nascem pensadores que acreditam que é possível dispor da nossa humanidade, de nós mesmos, como melhor agrade, intervindo na informação original que nos conota.

Qual é o sentido das expressões “trans-humano” e “pós-humano”?

São rótulos com os quais alguns contemporâneos sustentam substancialmente a ideia de que não deveríamos mais ir em busca de uma natureza humana sólida e definida, porque podemos ser aquilo que quisermos ser, escrevendo e reescrevendo a nós mesmos. Claramente, não se trata de uma corrente de pensamento unitária. No entanto, há diversos autores unidos pela ideia de que não existe uma natureza humana, ou seja, um projeto unificado do humano. É evidente que ativar processos de mediação da natureza humana pode levar a formas muito graves de desumanidade. Por isso, devemos estar prontos, como defende a Carta de Pedro (1Pd 3,15), para um debate com esse tipo de pensamento, para dar razão do sentimento profundo que há em nós, ou seja, para dizer que o humano é portador de uma dignidade que não pode ser transformada em objeto de mediação de forma alguma.

Existe um limite intransponível que determina o humano?

Mais do que um limite, eu diria que há um fundamento para a nossa existência e para a nossa coexistência. Esse fundamento é o reconhecimento da nossa humanidade comum. Todas as vezes que, na história, se ignorou o fundamento, escorregou-se para a brutalidade. Devemos evitar que essa mudança de época possa significar um deslize para um tempo sombrio da história. A intenção deve ser de novo o de dar fundamento ao humano para a contemporaneidade, segundo a ideia de fundo da beleza do humano: a beleza de nos sentirmos criaturas diante de um Criador, de uma maneira que torne evidente a verdade cristã sobre o humano.

Então, qual é a tarefa dos cristãos e de todos os humanos nesta mudança de época?

Como em toda mudança de época, mudam os pontos de referência do ser humano, certamente não o ser humano: o ser humano permanece. Certamente, podem-se assumir perspectivas que o esmagam, que não dão conta daquela dimensão vertical que está dentro do ser humano e que denota a sua transcendência: aquela ulterior, diretamente ligada à unicidade, reconhecida pela fé como criação de Deus. Somos criaturas chamadas a um destino que vai além, que é ultraterreno. O trabalho intelectual que deve ser feito deve impedir que as compreensões intencionais do humano ignorem o ulterior que é próprio da condição humana, aquela base do nosso ser, aquele nosso saber olhar além, aquela nossa capacidade de nos assomarmos ao limiar do mistério. Manter acesa a chama do mistério no horizonte da contemporaneidade é o que vejo agora como uma missão intelectual.

Estamos, portanto, diante de um desafio novo e decisivo?

Cada época teve os seus desafios, cada época teve que se defrontar com um desafio particular, como aconteceu – para dar alguns exemplos – nos anos 1940 com a guerra, nos anos 1950 com a reconstrução, nos anos 1960 com as questões sociais, nos anos 1970 com o trabalho, nos anos 1980 com a heroína, com o hedonismo nos anos 1990. Hoje, o desafio é entrar na galáxia digital que nos faz pensar que o tempo e o espaço se tornaram categorias secundárias, pois já podemos estar em qualquer lugar e a qualquer momento. Essa dimensão inédita do viver cria a necessidade de oferecer novas rotas existenciais, especialmente às novas gerações. Portanto, a educação é a primeira tarefa moral para as gerações que estão entrando em um mundo inteiramente digitalizado.

Nós fomos precedidos pela geração que “carbonizou” o mundo com o emprego maciço dos combustíveis fósseis. Se nós mesmos tivéssemos diante de nós, aqui, quem iniciou tal processo, o que poderíamos lhe dizer sobre aquilo que aconteceu? Pois bem, provavelmente a mesma coisa será dita sobre nós pelas gerações do futuro. O que queremos que não digam sobre nós? Da resposta que dermos hoje a essa pergunta virá o mundo que queremos deixar para aqueles que virão depois. Mas quero dizer que não somos a primeira geração a ter que se fazer uma pergunta tão importante. Com a inteligência artificial, temos novamente em nossas mãos algo comparável, por exemplo, à bomba atômica, capaz de apagar o humano da face da terra. Essas perguntas inquietantes pertencem desde sempre ao ser humano. O ser humano tem a capacidade de enfrentá-las.

Uma tarefa importante e urgente diz respeito à formação dos jovens?

A educação é justamente a questão de fundo, é aquele instrumento que temos como seres humanos para ir além. Os outros animais têm os instintos. Nós não temos aqueles instintos que fazem os animais fazerem a coisa certa no momento certo, como o instinto de um leão para capturar a presa. Por isso, somos muito falíveis. No entanto, temos o grandíssimo poder de saber buscar o bem, o justo, o belo. A educação é precisamente aquilo que compensa a nossa falta de instinto animal. A educação permite nos orientarmos para aquele horizonte de viva humanidade que nos é próprio.

No livro, você dedica uma atenção especial ao tema da afetividade na era digital. Por quê?

A afetividade está no centro do processo de digitalização por duas razões. Por um lado, o processo afetivo é integralmente descrito pelo digital: podemos “digitar” o nosso ideal afetivo como quisermos. Por outro lado, o digital nos leva a crer que, em vez de ficarmos à mercê daquela coisa estranha que se chama amor, convém confiar no algoritmo, no computador, para chegar a identificar o companheiro ou a companheira de vida. Confiando-nos ao algoritmo, achamos que podemos resolver a dúvida radical de crer em outra pessoa, de nos confiarmos a outra pessoa, de amar. Esta geração, pela primeira vez, é tentada a dar um passo atrás em relação ao no amor e a se confiar a uma máquina, aos aplicativos, para chegar ao ideal afetivo que mais pode nos satisfazer. Um resultado infausto de toda essa elaboração será a subtração das experiências afetivas, entregues à máxima probabilidade estatística, em vez de confiados ao lugar do dom de si no amor. Essa inversão do amor na era digital é um grave risco para o qual devemos preparar as novas gerações, a fim de evitar que se criem narcisistas que, na relação afetiva, veem a outra pessoa simplesmente como um objeto funcional para si.

Mas o digital pode ser mais “eficiente” do que o humano?

Certamente, mas não é nada óbvio que a eficiência do digital seja uma eficiência voltada para o bem humano. Certamente, a bomba atômica foi muito mais eficiente do que a pistola, mas não no sentido do bem. Um carro é mais eficiente do que outro se utiliza menos gasolina para ir do ponto A ao ponto B. Mas qual é o meu ponto de partida e qual é a minha meta? O que resta nas mãos do ser humano? Eu sou chamado a ser o timoneiro da minha parte, o pioneiro da minha parte. Pois bem, a essa questão sobre os fins ou, melhor, sobre o fim, nenhuma máquina que possa substituir o humano jamais poderá responder. Confundir a questão sobre o fim com a questão sobre a eficiência é errar o alvo do humano: significa não olhar com olhos humanos para aquilo que está à nossa frente.

Dê-nos outros exemplos: diga-nos algo, em tempos de pandemia, sobre o impacto do digital sobre os cuidados de saúde.

Obviamente, os cuidados de saúde, nesta época, também estão submetidos grandemente à leitura digital. A novidade é que a máquina, em alguns casos, já pode substituir o médico ao fazer uma série de diagnósticos. E aí vem a pergunta: a inteligência artificial algum dia poderá ocupar completamente o lugar de um médico? O emprego da inteligência artificial pode determinar, por exemplo, a extinção do radiologista? Se dissermos que sim, dizemos que não há absolutamente nenhuma diferença entre a máquina e o ser humano. A primeira pergunta radical que a inteligência artificial nos faz é, portanto, qual a diferença entre o ser humano e a máquina. O que faz de um ser humano realmente um ser humano em comparação com a maior eficiência da máquina? E por que, desde sempre, em todas as culturas, aquela pessoa que dedica toda a sua vida ao cuidado do próximo – o médico – é vista como uma pessoa especial?

A resposta a essa pergunta é aquela que somos chamados a dar para poder dizer como queremos viver, como humanos, a relação com as máquinas. Pela primeira vez na história, a humanidade produziu máquinas que efetivamente parecem uma nova espécie sapiens. Devemos evitar absolutamente que se chegue a um conflito do qual sobreviva apenas o mais forte: homo sapiens versus macchina sapiens. Somos chamados a nos pergunta sobre como nos valer da máquina para que o humano seja cada vez mais humano, para que o cuidado do próximo, sobretudo do último, do frágil e do fraco, ocorra da melhor maneira possível e para que o bem, buscado com livre determinação, seja verdadeiro.

Outras questões vêm da política: o que dizer?

Vivemos em uma sociedade em que, substancialmente, habitam novos sujeitos políticos que produzem e usam algoritmos. Esses sujeitos políticos são constituídos substancialmente pelos mesmos algoritmos que se relacionam e mediam “por si mesmos” as interações sociais nas plataformas digitais. A política entendida como capacidade de identificar soluções para problemas complexos hoje é feita (também) com algoritmos. O algoritmo tem o poder de fazer com que muitas pessoas mudem de opinião. É claro que esse novo fator das relações – naquilo que até agora definimos como política ou sociedade civil – é capaz de aportar alterações significativas. Isso nos leva a perguntar como podemos proteger a democracia, ou seja, o modo de estarmos juntos, de sermos uma nação e um Estado, na era digital. Também nesse caso a resposta não é nada simples, mas deve ser absolutamente buscada.

O digital, com o seu desenvolvimento vertiginoso, está nas mãos das grandes multinacionais: não é perigoso demais?

As grandes empresas multinacionais do digital percebem hoje, de muitas maneiras, que estão substituindo o poder estatal: dão acesso à identidade, oferecem educação, cunham moedas (bitcoin) etc. O enorme poder que as multinacionais digitais têm hoje é um problema para a coexistência civil, é um problema geopolítico, é um problema de soberania dos Estados e está criando fortes tensões. As próprias multinacionais estão levantando esse problema, para evitar que implodam sobre si mesmas. Algumas delas estão buscando mesas e plateias internacionais – recorrendo às instituições – para pensar em inteligência artificial e em ética na era digital. Certamente, são muitas as perguntas e as complexidades a esse respeito.

Como pensar o futuro em plena era digital?

Eu acho que, no fim, o ser humano nunca pode ignorar que é um ser humano. No entanto, antes que isso possa ocorrer com uma certa plenitude, o humano ainda pode causar muitos danos. Devemos fazer com que o dano seja contido. Isso já aconteceu no passado. O humano pode se afirmar. Vai depender de que tipo de sociedade civil, de consciência civil, nós estamos contribuindo para fazer crescer com o fato de sermos humanos conscientes deste tempo. O resultado sempre será muito incerto. Não sou nem extremamente otimista, nem extremamente pessimista: com o meu trabalho e com o meu compromisso intelectual na Igreja, tento lembrar o sentido profundo de sermos humanos, de sermos, portanto, sujeitos éticos, conscientes do bem e do mal, capazes de escolher o bem.

Leia mais

• Pós-humano: o desafio de falar do humano e de seu valor. Mudança de época. Artigo de Paolo Benanti
• Pós-humano demasiado pós-humano. Artigo de Paolo Benanti
• Política tecnológica: quando a inteligência artificial revela uma mentalidade colonial. Artigo de Paolo Benanti
• Tecnologia e novo pacto social. Artigo de Paolo Benanti
• Quando a Covid-19 infecta as inteligências artificiais. Artigo de Paolo Benanti
• Os aplicativos de rastreamento de contato e seus dilemas éticos. Entrevista com Paolo Benanti
• Transumano: a união do ser humano com os robôs e a inteligência artificial
• Inteligência artificial - A disputa entre a busca da eficiência e os desafios ético-morais. Entrevista especial com Brian Green
• Inteligência artificial e pós-humanismo. Artigo de Giannino Piana
• Inteligência artificial: a nova dependência?
• "A inteligência artificial nos obriga a nos comportarmos como máquinas". Entrevista com Jean-Michel Besnier
• Doutor Algoritmo será o Frankenstein do século XXI?