14 Junho 2024
Entrevista com o arcebispo que apresentou ao Papa as questões da inteligência artificial: “É um produto feito pelo homem, como o porrete, mas pode ser usado para matar. Bergoglio gostaria da intervenção da ONU”.
A reportagem é de Arcangelo Rociola, publicada por La Repubblica, 13-06-2024.
"No G7 o Papa alertará sobre os riscos da inteligência artificial para a paz mundial. Esta é a sua principal preocupação. E sei que ele espera a intervenção da ONU nestas questões". Dom Vincenzo Paglia foi o primeiro a conversar com Francisco sobre inteligência artificial. O arcebispo, presidente da Pontifícia Academia para a Vida, mantém há anos um diálogo aberto com o Pontífice sobre os riscos e oportunidades ligados à IA. Um diálogo que começou anos antes da explosão desta tecnologia.
Dom Vincenzo Paglia, quando Bergoglio começou a se interessar por estas questões?
Em 2019, Brad Smith, então presidente da Microsoft, veio me visitar em Roma para perceber se a Igreja poderia apoiar o seu trabalho na fronteira das novas tecnologias. Já aí era claro que estas ferramentas poderiam fazer coisas muito boas para o futuro da humanidade, mas também poderiam ser catástrofes. Eu lembro de ele me dizer que em Redmond (sede da Microsoft nos EUA), havia cerca de 50 mil engenheiros e que nenhum deles tinha uma ideia clara de qual poderia ser o limite entre a ação da máquina e a do homem. Eles procuravam uma discussão sobre as questões éticas ligadas a estas inovações de fronteira.
E o que aconteceu?
Apresentei-o ao Papa. Conversamos sobre estas novas fronteiras. Falamos sobre os riscos da IA, especialmente aqueles ligados ao tema da desinformação, e sobre a educação dos jovens. No ano seguinte, lançamos o Rome Call for AI (a iniciativa vaticana para a utilização ética da IA). Foi nesse momento que Bergoglio começou a se interessar por essas questões.
Desde então tudo mudou. A IA mostrou um potencial difícil de imaginar.
A partir deste momento, muitos representantes de outras empresas vieram ao Vaticano. Bergoglio compreendeu imediatamente quão central este tema poderia se tornar para o futuro da humanidade. Não apenas para a educação ou comunicação, mas sobretudo para a guerra, onde a utilização destas ferramentas representaria um enorme risco para as populações envolvidas. O Papa está consciente de que estamos diante de algo enorme. E que uma IA sem ética e enquadramento legal acarreta riscos enormes. Mas é preciso dizer ao mesmo tempo que tem um enorme potencial. Nas áreas médica e científica, por exemplo. É necessária uma conscientização adequada.
O que dirá o Papa no G7 em Bari?
Acredito que ele falará acima de tudo sobre paz. Ele sabe bem o quão perigosa a IA pode ser para guerras futuras. Drones, ataques cibernéticos e máquinas autônomas podem ter enormes consequências para os civis envolvidos em guerras. Mas acho que ele também falará sobre a importância de regulamentar a IA no mundo das comunicações e da educação.
Por que você acha que a IA se tornou um tema tão central?
Porque o desenvolvimento tecnológico toca o cerne da liberdade humana. Porque o homem pode ser manipulado. Porque o desenvolvimento não regulamentado da IA pode colocar as democracias em risco. Porque os dados que inconscientemente fornecemos aos gigantes tecnológicos tornaram-se uma riqueza inimaginável para quem os possui. A partir destas tabelas pediremos uma ampliação da responsabilidade dos governos. Precisamos regulamentar esse assunto que é inovador. Eu sei que o Papa gostaria que a ONU interviesse nestas questões.
Precisamos de uma orientação mais ampla por parte do G7?
Precisamos de ações que envolvam todos os grandes países. Um G7 sem a China é um problema. Porque a China também possui tecnologias avançadas neste setor. A perspectiva deve ser muito mais ampla. Dito isto, este G7 é um ponto de partida. Giorgia Meloni fez bem por convidar o Papa, Bergoglio fez bem por aceitar o convite.
Como você imagina uma intervenção mais ampla para regular a IA, talvez na ONU?
Minha ideia é que todos os governos da Terra se unam para determinar regras éticas e legais para o gerenciamento dessa tecnologia, que é muito sofisticada. Como foi feito no passado com a energia nuclear ou com o clima. Precisamos criar uma consciência global sobre estas questões, envolvendo governos e empresas. Sem isso, a estabilidade e a paz mundiais estarão em risco.
Quem envolveu seu manifesto por uma IA ética até agora?
Tudo começou na Pontifícia Universidade e foi compartilhado, entre outros, pela Microsoft, IBM, Cisco. Mas isso não diz respeito apenas à Igreja. Envolvemos o grão-rabino de Israel, o grão-mufti da Arábia Saudita, o arcebispo de Canterbury. Em Hiroshima discutiremos estas questões com todas as religiões, tentando envolver também as orientais.
A inteligência artificial demonstrou que pode fazer coisas tão bem e, às vezes, melhor que os humanos. Pela primeira vez na história, uma máquina parece ter um desempenho melhor do que nós na qualidade que mais consideramos nossa, o intelecto. Como religioso, que ideia você tem dessa mudança na relação entre homem e máquina?
Em outubro será lançado um livro meu que falará sobre esses temas. Acho que a inteligência artificial é o resultado das habilidades humanas. É um produto do homem. Assim como o porrete, que poderia ser usado como ferramenta de caça ou para matar outro ser humano. É sempre o homem quem produz esses instrumentos. A IA representa um risco maior e quanto mais a tecnologia avança, maiores serão os riscos. Mas a lógica é sempre a mesma. Precisamos intervir, regular, estabelecer objetivos éticos enquanto ainda temos tempo.
Ainda estamos a tempo?
Hoje o risco é que, embora a capacidade criativa da tecnologia seja enorme e avance rapidamente, a capacidade humana de se adaptar e tomar contramedidas do ponto de vista ético ou legal seja mais lenta. A OpenAi pensava que criaria o ChatGPT em 10 anos, demoramos 3. Se a tecnologia funciona, se quisermos ainda chegar a tempo temos que aprender a correr mais.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
D. Paglia: “O uso da IA nas guerras preocupa o Papa, no G7 ele pedirá a intervenção dos governos” - Instituto Humanitas Unisinos - IHU
O discurso do Papa Francisco de que as escolas estão ensinando as crianças que elas podem escolher o seu sexo – o que seria um[...]
LER MAIS
