"Roboética. Pessoas, máquinas e saúde", este é o título da próxima assembleia plenária da Pontifícia Academia para a Vida, que acontecerá de 25 a 27 de fevereiro próximo. Trata-se da primeira etapa de um processo que continuará até 2020, quando a sucessiva plenária do órgão do Vaticano será dedicada à inteligência artificial, um tema intimamente interligado com o primeiro. Além disso, o evento deste ano coincide com o 25º aniversário da instituição da Academia. Para a ocasião o papa escreveu uma longa carta ao presidente monsenhor Vincenzo Paglia, na qual aborda vários tópicos relacionados à relação entre tecnologia e modernidade.

A entrevista é de Domenico Agasso Jr., publicada por Vatican Insider, 15-01-2019. A tradução é de Luisa Rabolini.

O documento foi apresentado no Vaticano pelo próprio monsenhor Paglia, junto com monsenhor Renzo Pegoraro, Chanceler da Academia, padre Paolo Bennati, Professor de Teologia Moral e Ética na Pontifícia Universidade Gregoriana e a Professora Laura Palazzani, professora de biogiuridica e Filosofia do Direito na Lumsa. Os dois últimos são membros da Pontifícia Academia para a Vida.

Monsenhor Paglia, falando durante a apresentação, tocou em alguns aspectos-chave do problema: "É preciso - disse ele - participar na discussão e incentivar a maior participação possível de todas as partes envolvidas, de modo que o desenvolvimento e uso destes recursos extraordinários seja orientado para a promoção da dignidade da pessoa e para o bem mais universal". "Em suma - acrescentou o bispo - devemos ser atentos para evitar tanto o risco do reducionismo humano, quanto o outro ainda mais perigoso de substituição do ser humano. A utopia tecnocrática, por essa via, prepara o caminho para um fortalecimento funcional do qual nos imaginamos mestres, enquanto nos tornamos escravos.” O professor Benanti, por sua vez, explicou ao Vatican Insider quais são os limites do debate ético em matéria de robótica, “para entender os problemas que estão surgindo - ele disse entre outras coisas - devemos também olhar para a ficção científica e a suas narrativas".

Eis a entrevista.

Professor Bennati, algoritmo é a palavra "mágica" desta época hipertecnológica: o que se esconde por trás do algoritmo que governa o mundo das máquinas e, de certa forma, até mesmo as nossas vidas?

O algoritmo é aquela ferramenta da informática que nos permite programar uma máquina, os algoritmos estão empacotados dentro de sistemas que chamamos de software porque são muitas vezes protegidos por formas de direitos autorais; isso significa que os algoritmos são - para usar um termo da indústria – black box, ou seja, são caixas pretas em que determinados inputs de entrada irão produzir resultados, mas ninguém está disposto a dizer-nos exatamente como eles funcionam dentro delas. No momento em que confiamos a vida das pessoas ou coisas de particular valor a esses algoritmos, torna-se necessário ver quais são os critérios de juízo que os algoritmos usam.

Existe um problema de transparência, podemos falar de segredos industriais nesses casos?

É uma questão nova em alguns aspectos, porque - por exemplo - quando o homem começou a cultivar a terra inventamos uma forma de direito como a propriedade, com a revolução industrial inventamos as patentes e a propriedade intelectual. Aqui, também aqui precisamos de novos instrumentos do ponto de vista legal, a fim de definir uma forma de propriedade, porque são o resultado o engenho, mas também para garantir os valores em jogo. Então o tema também é desafiador também por ponto de vista.

A abordagem ética e tecnológica do uso de robôs parece delinear-se de maneira diferente no Ocidente e no Oriente. Existem diferentes sensibilidades baseadas em diferentes culturas?

Sim, esses são argumentos que nunca são neutros, mas são impregnados por uma cultura e por um horizonte existencial das pessoas. Assim, uma abordagem de natureza mais oriental, mais animista, mais atenta a coisas que podem ser animadas vai levar a robôs que são adequados a tipos de interação que para nós ocidentais não são pensáveis, a realizar ações que para nós não podem ser delegadas a uma máquina. A ideia de poder dar cidadania a um robô é mais oriental que ocidental, o ideal de personalidade jurídica, é, por outro lado, muito mais funcional ao Ocidente, especialmente se queremos nos isentar da responsabilidade das decisões tomadas pelas máquinas.

O que significa falar sobre personalidade jurídica do robô?

Este é um debate em curso a nível europeu porque nos perguntamos se essa máquina ‘autônoma’ não deveria ter algum status jurídico, isso para entender que tipo de responsabilidade tem em suas ações. Alguns dizem: vamos lhe dar uma ‘personalidade robótica’ para que possam ter seguro e, se causarem danos, possam de alguma forma ser pagos pelas companhias de seguros. Outros contrapõem - e nós estamos no centro do debate - que, ao fazer isso, acabamos isentando os produtores de todas as responsabilidades, deixando todo peso para os usuários; é como dizer que fazemos o seguro de carro porque os freios talvez possam não funcionar. Ou o vendedor deve garantir que os freios funcionem? Bem, estamos diante de um desafio desse tipo e nos deparamos com o fato de que agora temos que inventar categorias novas, novas proteções e direitos para esta sociedade em transformação.

O que queremos dizer com o termo "tecnologias convergentes"?

Isso significa que essas tecnologias têm foco no ser humano. Quer dizer que possuem tecnologias biotecnológicas, tecnologias da informática e tecnologias cognitivas, "prometem" criar homens que não sentem, pensam, ou vivem simplesmente como temos feito até agora. São todas focadas na alteração ou melhoria, dependendo das perspectivas daqueles que estão por trás disso, do que é o ser humano.

A ficção científica há muito tempo vem explorando essas questões, por filmes como 2001 – uma odisseia no espaço ou Blade Runner; no primeiro, o computador inteligente representava um risco para o homem, no segundo, é o homem que quer se livrar de replicantes com "alma" que se tornaram inúteis ou obsoletos. Existem muitas implicações morais e éticas ...

O tema é fundamental. Em uma época marcada por uma cultura secular em que o imaginário religioso tem menos poder sobre a cultura pop, sobe a cultura de massa, a ficção científica é o lugar onde residem os mitos que animam essa cultura. Ou seja, as narrativas de ficção científica são os lugares onde uma espécie de pensamento pseudo-religioso encontra um âmbito muito fértil e recolhe, orienta e expressa, desejos, medos, esperanças e expectativas sobre o futuro da nossa geração. Eu inverteria a pergunta: eu diria para olhar para o mundo de ficção científica e das suas narrativas mainstream, porque é ali onde encontramos a vivência no coração dos nossos contemporâneos. Explicar o que está acontecendo é uma questão importante para filósofos, teólogos e também para operadores das ciências sociais.

O diálogo que a Igreja abre com o mundo da ciência e da tecnologia é, portanto, o método escolhido para enfrentar os grandes dilemas éticos, não há nenhum juízo negativo, embora sejam colocados bem à luz as questões críticas ...

Absolutamente, nossa esperança é criar uma rede de relações e de diálogos em que se questionar sobre vários problemas, e diante de uma pergunta sincera e profunda sobre a realidade, como crentes, temos a consciência que o que somos, aquela consciência que temos, pode encontre respostas consonantes. Um modelo poderia ser a doutrina social que a Igreja apontava para encontrar soluções para os problemas contemporâneos.  Com este modelo poderíamos estar em sintonia com os tempos e com todos os homens de boa vontade. Assim, a busca por todos esses homens de boa vontade quer ser um pouco ‘a abordagem que estamos tentando dar nessas duas ocasiões, de 2018 e 2020'.

Leia mais

• O Papa: ‘A vida hoje é brutalmente violada pelo lucro e pelas tecnologias’
• Os dilemas morais da Quarta Revolução Industrial
• Católicos encontram seu caminho entre apocalípticos e integradores no mundo digital
• A robótica, a biotecnologia e a nanotecnologia. O redesenho da forma humana e das formas da vida. Entrevista especial com Luiz Alberto Oliveira
• "Esta economia mata. Precisamos e queremos uma mudança de estruturas", afirma o Papa Francisco
• A Inteligência Artificial pode fazer muita diferença em vários campos da nossa vida cotidiana. Entrevista especial com Dante Barone
• “O sistema capitalista é incompatível com a sobrevivência da vida humana no Planeta”. Entrevista com Moema Miranda
• No capitalismo só não há espaço para dois entes: o ser humano e a natureza. Entrevista especial com Eleutério F. S. Prado
• ''O papa nos ensina a aceitar a nossa irmã morte corporal.'' Entrevista com Vincenzo Paglia
• Academia para a Vida não é mais um "enclave do ideologicamente puro"