“Sabemos que as religiões desempenham um papel crucial na formação de sociedades onde o Ser Humano está no centro dos objetivos de desenvolvimento, tanto conceitual quanto praticamente. É por isso que acreditamos firmemente que o desenvolvimento da inteligência artificial deve proceder de uma perspectiva ética compartilhada, essencial para construir a solidariedade e a paz globais”, afirma o frei franciscano Paolo Benanti, em palestra proferida no Fórum de Religião do G20 – R20, ocorrido em 2 e 3 de novembro em Bali, Indonésia. A tradução é de Wagner Fernandes de Azevedo.
Paolo Benanti é teólogo e frei franciscano da Terceira Ordem Regular. Professor de Ética na Pontifícia Universidade Gregoriana, em Roma, desenvolve pesquisas em inovação e ética das tecnologias.
Excelências e ilustres convidados,
Obrigado por sua calorosa recepção. Agradeço a vocês pela minha participação neste evento maravilhoso, onde falarei de duas coisas: inteligência artificial (IA) e paz. Estar aqui com vocês no Fórum de Religião do G20 – R20 é uma grande honra para mim. É também uma oportunidade valiosa. Pois espero que o seu testemunho do meu apelo – proferido neste digníssimo fórum e dirigido a toda a família humana – leve à disseminação mais ampla possível de nossas aspirações e agenda compartilhadas.
Todos sabemos que a ciência e a tecnologia desempenham um papel preponderante nas profundas transformações que o mundo atravessa atualmente, sobretudo pela sua estreita ligação com os domínios da economia e das finanças.
Se submetermos o papel da tecnologia a um exame mais minucioso, veremos que ela está afetando e modificando todas as dimensões da existência humana, incluindo as relações sociais. Hoje, apreciamos os múltiplos benefícios dessa transformação. Por exemplo, sem tecnologia, seria impossível interagir em tempo real, ou desfrutar das inúmeras inovações projetadas e criadas pela mente humana.
Paolo Benanti no Fórum de Religiões do G20 - R20, na Indonésia, 2 e 3 de novembro de 2022.
Foto: Paolo Benanti
Ao mesmo tempo, os perigos e as áreas ainda obscuras da tecnologia são mais difíceis de entender. Pois a tecnologia não é simplesmente uma ferramenta. Se é benéfica ou prejudicial depende não apenas da forma como usamos a tecnologia, mas de vários fatores que raramente são imediatamente perceptíveis.
De fato, os dispositivos que usamos tornaram-se parte integrante do mundo que habitamos, na medida em que são componentes praticamente invisíveis de nosso ambiente social.
Nos últimos anos, a tecnologia passou por ciclos de desenvolvimento cada vez mais rápidos, produzindo cada vez mais inovações. Testemunhamos a transformação digital da tecnologia; o surgimento do “big data”; e um aumento exponencial no poder computacional.
Graças a esses desenvolvimentos, o que podemos descrever como uma “Primavera da Inteligência Artificial” floresceu e agora permeia a vida de cada um de nós.
Mas a inovação produzida pela inteligência artificial não é uma bênção pura. Ela também tem muitos aspectos neutros e até sinistros que, se não forem aproveitados e direcionados para o bem de toda a humanidade, podem evoluir em seu profundo prejuízo.
Na verdade, a maioria das pessoas desconhece os procedimentos operacionais da inteligência artificial. No entanto, a IA está difundida e cada vez mais presente em inúmeras áreas, como indústria, saúde, educação, nutrição, segurança e defesa e outras áreas que moldam nossas vidas diárias. Em suma, a IA está em toda parte; e graças ao seu poder crescente, seu papel continuará a aumentar nos próximos anos.
Precisamos estar atentos ao que está acontecendo nesta arena, porque uma ferramenta de enorme valor criada pelo intelecto humano pode se tornar um amigo valioso, facilitando nossas vidas; ou pode se tornar um instrumento de opressão usado para controlar, dirigir ou influenciar a humanidade, especialmente os membros fracos, vulneráveis e com menor instrução.
Além disso, a inteligência artificial pode revelar-se “definidora de tudo” para as gerações mais jovens, gerações futuras, idosos e pobres.
É por isso que, há pouco mais de dois anos, em fevereiro de 2020, lançamos, juntamente com partes interessadas de vários tipos, o “Apelo de Roma por uma Ética da Inteligência Artificial”. Este apelo, que dirijo a vocês aqui reunidos hoje, volta-se a organizações internacionais, governos, instituições, setor privado e sociedade em geral. Seu objetivo é promover um senso de responsabilidade compartilhada e incentivar um esforço conjunto para criar um futuro em que a inovação digital e o progresso tecnológico promovam a paz. O desenvolvimento da IA a serviço da humanidade e do planeta deve ser refletido em princípios e regulamentos que protejam as pessoas – particularmente os vulneráveis e desprivilegiados – e o meio ambiente, a natureza.
Os signatários do Apelo de Roma se comprometem a respeitar seus seis princípios. Esses princípios — transparência, inclusão, responsabilidade, imparcialidade, confiabilidade e segurança e privacidade — são os pilares do nosso trabalho. Chamamos essa abordagem de algorética.
Em um momento em que as novas tecnologias estão constantemente multiplicando suas aplicações na vida real, o “Apelo de Roma por uma Ética da IA” pede a todos que digam: “Vamos pensar nisso. Vamos agir conscientemente. Vamos considerar as consequências de nossas ações”.
Vamos tentar nos perguntar: queremos realmente que as máquinas ameacem nossa dignidade, nosso direito de viver como indivíduos livres e conscientes e a privacidade legítima de nossas vidas pessoais? Realmente queremos que todos tenhamos um perfil sem saber, e saudamos o advento de um mundo em que algoritmos tomam decisões com base em etnia, gênero e idade? Não há realmente outra solução senão confiar à inteligência artificial decisões sobre ofertas de emprego, empréstimos ou processos criminais? Queremos realmente confiar incondicionalmente em um mecanismo que pode criar deep fakes, que são imagens falsas, mas extremamente realistas, arquivos de vídeo e áudio que podem fraudar, arruinar reputações ou minar a confiança em processos democráticos de tomada de decisão? Devemos permitir que novas tecnologias ameacem a liberdade de associação ou de expressão, ao olharmos para esses desenvolvimentos com indiferença?
Resumindo tudo em uma única pergunta: queremos realmente que a IA mine os fundamentos da paz e da dignidade humana?
Não seria melhor optar por uma inteligência artificial que se revele útil na gestão da complexidade em benefício de todos; que ajuda a otimizar o gerenciamento de recursos; que produz benefícios preciosos nos campos da medicina e da saúde e no desempenho de tarefas que são muito difíceis ou perigosas para os seres humanos?
O apelo que mencionei, o “Apelo de Roma por uma Ética da IA”, não se destina a um público específico que compartilha nossas tradições religiosas e culturais. Desde a sua criação, o Apelo de Roma atraiu a atenção de diversas partes interessadas que estão prontas para o diálogo, a fim de construir um mundo melhor para todos.
Os primeiros signatários do Apelo de Roma foram dom Vicenzo Paglia, pela Pontifícia Academia para a Vida, a Microsoft, a IBM, a Organização das Nações Unidas para Agricultura e Alimentação – FAO e o ministro da Inovação do governo italiano. Essas partes interessadas têm interesses diversos; no entanto, cada um deles está disposto a assumir sua parcela de responsabilidade e se comprometer a transformar os princípios do Apelo em aspectos decisivos de suas atividades.
Entre os muitos interlocutores que tivemos até agora, quero citar as instituições de ensino superior — locais de conhecimento que formam as gerações futuras — e as demais religiões com as quais estamos engajados em diálogo. Há muitas pessoas de boa vontade, em todo o mundo, dedicadas ao bem-estar da humanidade em geral. Acredito que o R20 surge desse impulso e vejo este encontro como uma oportunidade para iniciar novos diálogos entre os diversos povos, culturas e religiões do mundo, baseados no respeito mútuo e nos valores compartilhados.
Sabemos que as religiões desempenham um papel crucial na formação de sociedades onde o Ser Humano está no centro dos objetivos de desenvolvimento, tanto conceitual quanto praticamente. É por isso que acreditamos firmemente que o desenvolvimento da inteligência artificial deve proceder de uma perspectiva ética compartilhada, essencial para construir a solidariedade e a paz globais.
As pessoas que têm alguma religião constituem a maioria das pessoas que vivem na Terra. Juntos, podemos fazer uma diferença decisiva.
Podemos ser os principais defensores e colaboradores conjuntos do surgimento de um mundo verdadeiramente abençoado pela paz:
→ Paz entre nós, desenvolvendo uma linguagem compartilhada baseada em valores atemporais.
→ Paz com as máquinas, evitando um conflito radical entre o homo sapiens e esta recém-nascida machina sapiens.
→ Paz com a imensa diversidade de espécies vivas que habitam esta Terra, desenvolvendo e empregando tecnologias inovadoras que respeitem o ambiente em que vivemos e que compartilhamos com tantas outras formas de vida.
Minha esperança é lançar um movimento que atue como catalisador – favorecendo o encontro entre diferentes perspectivas e propondo um espaço aberto para o diálogo – para nos ajudar a entender o imenso impacto que a transformação digital está causando em todo o mundo.
Minha esperança é que uma discussão global deste tópico possa levar a resultados concretos, ao mesmo tempo que favorece a comunicação entre as partes interessadas, às vezes concorrentes.
Mas o mundo não para, nem deve parar: o Apelo de Roma viu a luz do dia há apenas dois anos e já está vislumbrando novos horizontes.
O primeiro horizonte diz respeito à sustentabilidade. Nosso planeta, como diz o Papa Francisco, é a casa comum de toda a família humana. A estreita interdependência que existe entre os seres humanos e seu ambiente social e físico é cada vez mais evidente. Se a inteligência artificial deve estar presente em todos os lugares de nossas vidas, seu desenvolvimento e implantação não devem ocorrer sem considerar esse vínculo.
O segundo novo horizonte envolve o envolvimento com líderes nas áreas de religião, indústria e engenharia.
A religião, por sua própria natureza, aspira à paz. Se puder se abrir ao engajamento e ao diálogo, como todos vocês aqui hoje fizeram, encontrará muitos pontos em comum com aqueles que desejam mudanças e aspiram a um futuro de paz compartilhada.
Paolo Benanti no Fórum de Religiões do G20 - R20, na Indonésia, 2 e 3 de novembro de 2022.
Foto: Paolo Benanti
Somente trabalhando juntos em busca de um objetivo comum, participando de reflexões compartilhadas e identificando soluções compartilhadas, poderemos alavancar nossa influência combinada e, assim, moldar o desenvolvimento da inteligência artificial de forma que beneficie todo o nosso planeta.
A tecnologia nos deu a oportunidade de nos reunir aqui, desfrutarmos da companhia uns dos outros e nos enriquecer através do diálogo e da troca de ideias. Aproveitemos ao máximo a oportunidade oferecida pelo R20, para que se multipliquem vias produtivas de diálogo e a emergência de um movimento pela paz e pela dignidade humana!
Espero que cada um de vocês encontre uma maneira de endossar as propostas do Apelo de Roma por uma Ética da IA e colaborar na construção de um mundo mais justo e pacífico.
Obrigado pela sua atenção.