18 Junho 2024
"O discurso do Papa Francisco representa um momento histórico que nos permite pensar e agir para que a IA esteja realmente a serviço da humanidade: somos chamados a construir um amanhã que saiba manter o homem no centro", o comentário é do frei e professor Paolo Benanti, em artigo publicado por Avvenire, 15-06-2024. A tradução é de Luisa Rabolini.
Paolo Benanti é presidente da Comissão de Algoritmos do Departamento de Informação e Publicação do Palazzo Chigi, que trata de Inteligência Artificial (IA). Além disso, é o único membro italiano da comissão de especialistas da ONU sobre o tema.
O discurso do Papa Francisco ao G7 segue uma linha de profunda continuidade com todo o pontificado.
Isso começou em Lampedusa, lançando luz sobre a questão dos migrantes, continuou com a encíclica Laudato si' sobre o meio ambiente e as mudanças climáticas, e agora aborda a inteligência artificial (IA). Francisco – um Pontífice do fim do mundo, como ele mesmo se definiu – olha para o horizonte e coloca o olhar naquelas questões de fronteira, nos desafios que a humanidade tem que enfrentar. O Papa, que fala da imensa mudança que estamos atravessando, lê os sinais dos tempos. E define a IA como um instrumento “fascinante e tremendo”, capaz de aportar grandes benefícios, mas também de gerar perigos.
O entusiasmo pelas suas potencialidades é acompanhado pelo temor das consequências negativas que poderiam resultar de seu uso imprudente.
“O tema da inteligência artificial é, no entanto, muitas vezes percebido como ambivalente: por um lado, entusiasma pelas possibilidades que oferece, por outro lado gera medo pelas consequências que deixa prever".
O Papa enfatiza que a IA é um instrumento e, como tal, o seu impacto positivo ou negativo depende do uso que o homem faz dele. A liberdade humana, no entanto, muitas vezes se traduziu num uso distorcido da tecnologia, com consequências negativas para o próprio homem e para o meio ambiente.
“No entanto, a utilização dos nossos utensílios nem sempre visa inequivocamente o bem. [...] Na verdade, não raramente, graças justamente à sua liberdade radical, a humanidade perverteu os fins do seu ser transformando-se em inimiga de si mesma e do planeta".
A atenção que o Papa dá às inteligências artificiais é, no entanto, introduzida e apoiada por uma visão única sobre a tecnologia: a condição humana é uma condição tecno-humana. A condição tecno-humana refere-se à ideia de que os humanos sempre existiram em relação com o ambiente circunstante por meio dos instrumentos que criou.
A história da humanidade e da civilização é inseparável da história desses instrumentos. Essa relação não deriva de uma falta ou de um déficit no ser humano. Em vez disso, os humanos são caracterizados por uma abertura para além de si mesmos, que é a fonte de sua abertura aos outros, a Deus, à criatividade e à capacidade técnica. A tecnologia é vista como um traço dessa abertura para o lado externo.
A IA deve ser compreendida nessa condição humana e é dela fruto e traço. O Pontífice, mesmo reconhecendo o potencial positivo da IA em vários âmbitos, alerta para os riscos que sua utilização implica, sublinhando a necessidade de uma ética e de uma "política saudável" para orientar seu desenvolvimento e aplicação.
Ao contrário dos outros instrumentos, a IA pode fazer escolhas autônomas para atingir o objetivo predeterminado. O Papa Francisco alerta contra o risco de delegar às máquinas decisões que cabem ao homem, principalmente quando estas têm um impacto sobre a vida das pessoas.
“Condenaríamos a humanidade a um futuro sem esperança se retirássemos das pessoas a capacidade de decidir sobre si mesmas e as suas vidas, condenando-as a depender das escolhas das máquinas".
Francisco destacou os limites intrínsecos da IA, ligada a uma abordagem algorítmica baseada em dados numéricos e categorias predefinidas. Essa abordagem corre o risco de excluir outras formas de verdade e de impor uma visão limitada e uniforme do mundo. Seguindo o Pontífice, é necessária a algorética: “Por isso, comemorei a assinatura em Roma, em 2020, do ‘Rome Call for AI Ethics’ e o seu apoio àquela forma de moderação ética dos algoritmos e dos programas de inteligência artificial que chamei de ‘algorética’...
Mas na análise ética também podemos recorrer também a outros tipos de instrumentos: se tivermos dificuldade em definir um único conjunto de valores globais, podemos, no entanto, encontrar princípios compartilhados com os quais enfrentar e resolver eventuais dilemas ou conflitos da vida". Para o Papa Francisco, é essencial desenvolver uma ética para a IA, que oriente a sua utilização para o bem comum e para a promoção da dignidade de cada pessoa. Nesse contexto, a política desempenha um papel crucial para criar as condições para que isso seja possível. E essa é a tarefa de todo homem de boa vontade: “Cabe a cada um fazer bom uso e cabe à política criar as condições para que esse bom uso seja possível e frutífero”. A aplicação disso ao mundo da guerra é particularmente forte. Há uma necessidade urgente de repensar o desenvolvimento e a utilização de “armas letais autônomas” nos conflitos armados e proibir o seu uso. Um empenho concreto para introduzir um maior controle humano e significativo na utilização dessas armas deveria ser o primeiro passo. Nenhuma máquina jamais deveria ter o poder de decidir tirar a vida de um ser humano.
O discurso do Papa Francisco representa um momento histórico que nos permite pensar e agir para que a IA esteja realmente ao serviço da humanidade: somos chamados a construir um amanhã que saiba manter o homem no centro.
Leia mais
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
A serviço da humanidade. A fronteira da Inteligência Artificial. Artigo de Paolo Benanti - Instituto Humanitas Unisinos - IHU