• Dom Ettore Balestrero falou sobre o tema em um debate do Grupo de Especialistas Governamentais, reiterando que o armamento liderado pela IA nunca deveria escolher remover a vida de um ser humano.

A informação é de Vatican News, publicada por Religión Digital, 30-08-2024.

Para a Santa Sé é “de extrema urgência” dotar-se de um “sólido instrumento juridicamente vinculativo” que proíba o uso das chamadas “armas letais autônomas” e, entretanto, “estabelecer uma moratória imediata sobre o seu desenvolvimento e utilização". Isto foi sublinhado por D. Ettore Balestrero, Observador Permanente da Santa Sé junto das Nações Unidas e das Organizações Internacionais em Genebra, no seu discurso na segunda sessão do Grupo de Peritos Governamentais 2024 sobre tecnologias emergentes no domínio dos sistemas de armas letais autônomas, que acontece na cidade suíça de 26 a 30 de agosto.

Citando o discurso do Papa Francisco sobre Inteligência Artificial aos líderes do G7 reunidos em Borgo Egnazia (Itália) no dia 14 de junho, Balestrero lembrou que o Pontífice os exortou a “reconsiderar o desenvolvimento e o uso de dispositivos como as chamadas armas autônomas letais” e, eventualmente, proibir seu uso. Isto começa com um compromisso eficaz e concreto de introduzir um controle humano cada vez mais adequado. “Nenhuma máquina deveria escolher tirar a vida de um ser humano”. No entanto, para o prelado, os atuais campos de batalha “também se tornam campos de testes para armas cada vez mais sofisticadas”.

A Santa Sé, continuou o arcebispo, aprova e apoia a abordagem do Grupo de Peritos “na análise das funções potenciais e dos aspectos tecnológicos dos sistemas de armas autônomas”, porque a identificação de sistemas “incompatíveis com o direito humanitário internacional e outras leis internacionais existentes obrigações" poderia ser muito útil no estabelecimento de proibições e restrições, "levando em conta considerações éticas mais amplas”.

Para a Santa Sé, esclareceu o Observador Permanente, “os sistemas de armas autônomos não podem ser considerados entidades moralmente responsáveis”. Com efeito, a pessoa humana, dotada de razão, “possui uma capacidade única de julgamento moral e de tomada de decisões éticas que não pode ser reproduzida por qualquer conjunto de algoritmos, por mais complexos que sejam”. Por isso, a delegação da Santa Sé aprecia as referências tanto ao “controle adequado” como ao “julgamento humano” no “texto fluente” redigido como base para o debate da sessão, embora apele a “maior clareza e compreensão comum destes termos”.

Uma máquina escolhe, um homem decide com o coração

Por isso Balestrero recordou a diferença entre “escolha” e “decisão”. No seu discurso no G7 em Borgo Egnazia, o Pontífice, sublinhando que as máquinas se limitam a produzir escolhas técnicas algorítmicas, recordou que “o ser humano, porém, não só escolhe, mas no seu coração é capaz de decidir”. E este é um elemento mais estratégico do que uma escolha, porque exige uma avaliação prática. Além disso, continuou o Papa Francisco, “uma decisão ética é aquela que leva em conta não só os resultados de uma ação, mas também os valores em jogo e os deveres que ela acarreta”. Por isso, citando sempre o discurso do Papa, o arcebispo reiterou que para a Santa Sé é necessário “garantir e salvaguardar um espaço de controle humano adequado sobre as escolhas feitas pelos programas de inteligência artificial: disso depende a própria dignidade humana”.

O progresso técnico, ao serviço do bem comum

O representante do Vaticano sublinhou então que há uma crescente “consciência global sobre as preocupações éticas levantadas pelo uso da inteligência artificial como arma”. Isto também se refletiu no papel proeminente atribuído às considerações éticas na recente conferência “Humanidade na Encruzilhada: Sistemas de Armas Autônomos e o Desafio da Regulamentação”, realizada em Viena, de 29 a 30 de abril de 2024.

E concluiu lembrando que “o desenvolvimento de armas cada vez mais sofisticadas não é certamente a solução”. Os benefícios que a humanidade obterá do atual progresso tecnológico dependerão, como escreve Francisco na encíclica Laudato si', “da medida em que esse progresso seja acompanhado por um adequado desenvolvimento de responsabilidades e valores que coloquem os avanços tecnológicos ao serviço do desenvolvimento humano integral e do bem comum”.

Leia mais

• Alerta no Vaticano para uso de Inteligência Artificial para criação de armas automatizadas
• Papa Francisco no G7: “A inteligência artificial é um instrumento fascinante e tremendo”
• “Para o Papa Francisco, a inteligência artificial é uma questão social”. Entrevista com Paolo Benanti
• O Papa aos sete grandes: “A IA não deve tornar-se um instrumento de guerra”
• A necessidade de uma algorética para enfrentar o desafio da inteligência artificial. Artigo de Paolo Benanti
• O Papa: que as formas de inteligência artificial sirvam a causa da fraternidade e da paz
• Lavender, a inteligência artificial de Israel que decide quem é bombardeado em Gaza
• “É o momento de maior risco, na História, de uma guerra nuclear em grande escala”. Entrevista com Carlos Umaña
• Mundo precisa de um tratado contra o uso de drones armados
• ''Enviar robôs inteligentes para a guerra apaga a culpa.'' Entrevista com Marco Dorigo
• As armas autônomas: questões não resolvidas
• Inteligência artificial: um desafio sério. Artigo de Giuseppe Savagnone
• A verdadeira história da guerra na Ucrânia. Artigo de Jeffrey Sachs
• Da ficção científica à realidade: os novos dilemas éticos da Inteligência Artificial. Entrevista especial com João Cortese
• “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton
• Na Ucrânia, o desafio dos robôs assassinos voadores
• ‘Robôs assassinos’. É preciso acabar com as armas autônomas. Artigo de Paolo Benanti
• Robôs assassinos, a nova ameaça
• Em carta aberta à ONU, cientistas em todo o mundo pedem mais ações para parar ‘robôs assassinos’
• Novas armas: drones já decidem por si próprios se e quando matar. Artigo de Paolo Benanti e Sebastiano Maffettone