Pesquisadores comentam a primeira encíclica de Leão XIV
Teólogos e especialistas cujas pesquisas abordam temas tratados na Carta Encíclica Magnifica Humanitas. Sobre a salvaguarda da pessoa humana na era da inteligência artificial, do Papa Leão XIV, compartilham as primeiras impressões do texto magisterial, publicado ontem, 25-05-2026. Entre os tópicos comuns do documento pontifício e os estudos dos entrevistados estão a dignidade humana e os impactos do uso da Inteligência Artificial (IA) em diferentes esferas da vida.
Hoje, o Instituto Humanitas Unisinos – IHU publica as avaliações iniciais de Peter G. Kirchschläeger, professor de Ética e diretor do Instituto de Ética Social (ISE) da Faculdade de Teologia da Universidade de Lucerna, na Suíça, Virginia Dignum, cientista da computação e membro do Órgão Consultivo da Organização das Nações Unidas (ONU) sobre IA, e Noreen Herzfeld, teóloga e cientista da computação que integra o Grupo de Pesquisa em IA do Centro de Cultura Digital do Dicastério para a Cultura e a Educação do Vaticano. As entrevistas foram concedidas por e-mail.
Virginia Dignum (Foto: Mikael Hansson | Esbri)
Virginia Dignum é cientista da computação e leciona Inteligência Artificial Responsável na Universidade de Umeå, na Suécia, onde também dirige o Laboratório de Políticas de IA. É membro do Órgão Consultivo da Organização das Nações Unidas (ONU) sobre IA e consultora da Fundação Wallenberg, instituição que financia pesquisa nas áreas de medicina, tecnologia e ciências naturais.
Dra. Norren Herzfeld (Foto: Escola de Teologia e Seminário de São João)
Noreen Herzfeld é diretora de Espiritualidade Beneditina e Ecoteologia da Escola de Teologia e Seminário de São João, de Collegeville, em Minnesota, nos Estados Unidos, e pesquisadora do Instituto de Estudos Filosóficos e Religiosos (ZRS), de Koper, Eslovênia. É autora de, entre outros, The Artifice of Intelligence: Divine and Human Relationship in a Robotic World (Fortress, 2023), In Our Image: Artificial Intelligence and the Human Spirit (Fortress, 2002), Technology and Religion: Remaining Human in a Co-Created World (Templeton, 2009). Coescreveu e editou Encountering AI: Ethical and Anthropological Explorations (Pickwick, 2024 para o Dicastério para a Cultura e a Educação do Vaticano.
Peter G. Kirchschläeger (Foto: Universidade de Lucerna)
Peter G. Kirchschläeger é formado em Teologia pela Universidade de Lucerna, na Suíça, e pela Gregoriana, em Roma. Estudou Filosofia, Estudos Religiosos e Ciência Política, na Universidade de Zurique. É diretor do Instituto de Ética Social (ISE) da Faculdade de Teologia da Universidade de Lucerna, professor visitante da Cátedra de Aprendizagem Neuronal e Sistemas Inteligentes do Instituto Federal de Tecnologia (ETH) de Zurique.
IHU – Qual é a importância da publicação da Magnifica Humanitas diante dos avanços técnico-científicos e atual contexto geopolítico?
Virginia Dignum – O momento é significativo. A encíclica intervém num ponto de inflexão em que sistemas de IA estão sendo integrados em processos de decisão, nos mercados de trabalho, na administração pública, em sistemas militares e em ecossistemas de informação, antes de existirem quadros de governação adequados. O enraizamento na tradição da Rerum Novarum é estrategicamente acertado: essa encíclica surgiu quando o capitalismo industrial já havia reestruturado a sociedade antes de existirem direitos laborais. O paralelismo é mais do que retórico: tal como na Revolução Industrial, a tecnologia já transformou profundamente as condições de vida e de trabalho antes de existirem direitos ou instituições capazes de proteger as pessoas mais vulneráveis. A história não esperou pela governação, e a IA também não está a esperar.
Porém, a encíclica abre com uma afirmação problemática: que a humanidade enfrenta hoje uma escolha civilizacional decisiva em torno da IA. Isso é contestável. As alterações climáticas, a perda de biodiversidade, o risco nuclear e a pobreza extrema colocam ameaças mais imediatas, mais concretas e a mais pessoais. Elevar a IA ao estatuto de desafio central da nossa era arrisca inflar a sua importância atual e, mais significativamente, desviar atenção e capital político de desafios onde as cadeias causais são mais bem compreendidas e as intervenções mais claramente definidas. Há também um problema estrutural: esta narrativa de inevitabilidade da IA serve os interesses da indústria da IA, que tem todo o interesse para se apresentar como historicamente sem precedentes e civilizacionalmente decisiva. O Vaticano, mesmo sem essa intenção, acaba por reproduzir essa narrativa sem a questionar.
A encíclica também não coloca aquilo a que chamamos a questão zero: se certos sistemas de IA devem ser desenvolvidos de todo, por quem, a que ritmo e com que mandato democrático. Ao saltar diretamente para a questão de como orientar o desenvolvimento, o documento trata a trajetória tecnológica atual como um dado adquirido e não como uma escolha política. Esta ausência não é neutra. Uma encíclica fundada na dignidade humana e na doutrina social da Igreja teria todas as razões teológicas e filosóficas para afirmar que "não" é uma resposta legítima, que a moratória e a proibição em domínios específicos são compatíveis com uma visão cristã do progresso, e que o desenvolvimento tecnológico sem mandato democrático não é inevitável, mas é uma escolha que pode e deve ser contestada. Ao não o fazer, a encíclica perde a oportunidade de oferecer uma contribuição verdadeiramente distintiva ao debate global, limitando-se a um enquadramento que, na sua estrutura profunda, não difere substancialmente do consenso dominante na indústria.
Noreen Herzfeld – A Igreja Católica está numa posição única para abordar questões sociais globais como a Inteligência Artificial (IA). Outras denominações cristãs são demasiado fragmentadas e paroquiais, enquanto uma declaração do Vaticano tem alcance e autoridade globais. Embora eu não tenha certeza se este documento terá grande influência sobre os desenvolvedores de tecnologia de IA no Vale do Silício, ele tem o potencial de fortalecer uma crescente reação contra a incorporação da IA em todas as facetas da vida diária e do trabalho.
Leão também aborda o contexto geopolítico atual, particularmente em sua condenação da normalização da guerra e da incorporação da IA em armas autônomas letais, ataques cibernéticos e disseminação de desinformação. Ele também observa as conotações neocoloniais que vemos no uso de mulheres e jovens do terceiro mundo para rotular dados para treinamento de IA, com baixos salários e em condições de trabalho precárias. Da mesma forma, homens que extraem os metais de terras raras necessários para o hardware de IA são tratados apenas marginalmente melhor do que escravos. De fato, Leão chama isso de uma “nova escravidão”. Por fim, o Papa observa que a IA está ajudando a renovar a crença, entre alguns líderes, de que "a força faz o direito" e que o poder, seja exercido por corporações tecnológicas ou por atores governamentais, pode ser usado com muita facilidade para o benefício de poucos, em vez do bem comum.
Peter G. Kirchschläeger – A publicação da Magnifica Humanitas é extraordinariamente significativa porque a humanidade busca uma orientação ética diante do rápido avanço da chamada "inteligência artificial (IA)", que eu sugeriria denominar mais adequadamente como "sistemas baseados em dados (SD)", visto que essas máquinas não são inteligentes. O Papa Leão XIV e a Igreja Católica podem oferecer conhecimento moral sobre como os humanos podem cumprir sua responsabilidade exclusiva pela conceitualização, o projeto, o desenvolvimento, a produção, o uso e o não uso, motivado por princípios éticos, de sistemas baseados em dados (SD) – criando uma sociedade mais justa e sustentável.
Essa orientação moral é concreta e realista. “Não basta invocar a ética no abstrato; são necessários arcabouços legais robustos, supervisão independente, usuários informados e um sistema político que não abdique de sua responsabilidade. Caso contrário, a mudança será governada apenas pelo pensamento tecnocrático e apresentada como necessária e inevitável, impondo, em última instância, regras moldadas por aqueles que controlam os dados, a infraestrutura e o poder computacional.”
E essa orientação moral oferece possíveis soluções para questões candentes da atualidade, por exemplo, em relação a dispositivos digitais e “mídias sociais”, que, com base em minha pesquisa, deveriam ser chamadas de “mídias antissociais”, pois foram criadas desde o início como produtos viciantes: “Nos últimos anos, a literatura psicológica e psiquiátrica tem documentado com crescente insistência como a exposição precoce e sem supervisão a dispositivos digitais e mídias sociais pode impactar negativamente o sono, a capacidade de atenção, o controle das emoções e os relacionamentos, especialmente durante as fases mais vulneráveis da vida, às vezes com consequências trágicas. Isso é ainda mais agravado pelo fácil acesso a conteúdo violento ou degradante que ofende a sensibilidade, o material pornográfico e hipersexualizado, a mensagens que banalizam o corpo e as emoções e a propostas que normalizam comportamentos de risco.
Fenômenos online como aliciamento, chantagem e exploração sexual de menores não são incomuns e se tornam mais insidiosos pelo uso de perfis falsos, algoritmos que facilitam contatos perigosos e ferramentas de IA capazes de manipular imagens e vídeos. Ter um dispositivo móvel pessoal em idade muito precoce e usá-lo sem a supervisão de um adulto pode exacerbar os problemas de vulnerabilidade dos jovens, fomentando o vício e os expondo ao isolamento, ao bullying e ao cyberbullying, bem como à pressão para compartilhar imagens íntimas ou informações sensíveis. (...)
Políticas públicas de longo prazo são necessárias para se opor aos interesses imediatos das plataformas, concentrados em poucas mãos, quando estes entram em conflito com o bem-estar dos menores. Nesse sentido, intervenções legislativas são apropriadas para estabelecer limites de idade, responsabilizar os provedores de serviços em vez de transferir todo o ônus do controle para as famílias e para fornecer proteções específicas contra todas as formas de exploração e violência sexual online. (...) Ao mesmo tempo, também é necessário ensinar crianças, adolescentes e jovens a reconhecer a manipulação, defender sua dignidade e respeitar a dos outros em ambientes digitais.”
IHU – Quais são os três pontos do texto mais pertinentes na sua avaliação? Por quê?
Virginia Dignum – Em primeiro lugar, a identificação da governança da IA como um problema de poder privado. A encíclica é invulgarmente direta ao notar que os principais impulsionadores do desenvolvimento da IA são atores privados transnacionais cujos recursos excedem os de muitos Estados. Isto é analiticamente correto e frequentemente subestimado no discurso político, que tende a centrar-se na regulação como se governos estivessem numa posição simétrica face à indústria. Não estão. A maior parte dos governos carece de capacidade técnica, de recursos e, acima de tudo, de vontade política para desafiar o poder das grandes empresas tecnológicas. Ao mesmo tempo, agências multilaterais, incluindo as Nações Unidas, encontram-se num estado de fragilidade institucional que as impede de exercer qualquer autoridade efetiva sobre atores privados transnacionais. O resultado é um vazio de governança que não resulta apenas de lacunas regulatórias, mas de uma assimetria de poder fundamental: os Estados sabem que dependem economicamente destas empresas, temem ficar para trás na corrida tecnológica, e raramente têm a coragem política de impor limites concretos. A regulação, nestas condições, arrisca tornar-se um exercício de legitimação, dando a aparência de controlo sem o exercer efetivamente. A encíclica faz bem em nomear este problema. O que falta, dentro e fora da Igreja, é a coragem de tirar as consequências práticas: os governos precisam urgentemente sacudir a passividade e assumir a responsabilidade política que lhes compete.
Em segundo lugar, o tratamento das armas autônomas. A encíclica aborda diretamente a utilização militar da IA, o que é significativo numa encíclica social. A normalização da autonomia letal, que retira o julgamento humano das decisões sobre matar, é um dos desafios de governança mais urgentes e menos regulados do nosso tempo. Enquadrá-lo numa perspectiva de dignidade humana, e não apenas no direito humanitário, alarga a coligação normativa capaz de enfrentar a questão. Porém, é necessária aqui uma reserva simétrica à que se aplica ao resto do documento.
Tratar a IA militar como uma categoria especial de ameaça, distinta de outras tecnologias letais, arrisca reproduzir o mesmo erro de antropomorfização: a ideia de que é a IA, enquanto tal, que constitui o perigo, e não as escolhas humanas sobre o seu desenvolvimento, a sua implantação e a ausência de controlo democrático. Um míssil de precisão guiado por algoritmos não é categoricamente diferente de outras armas de destruição que já existem e que continuam igualmente mal reguladas. O problema não é a tecnologia, é a ausência de controle humano efetivo e de responsabilização política, independentemente do sistema de armas em causa. A encíclica faria melhor em insistir nesse ponto de forma consistente, em vez de destacar a IA como se representasse uma ruptura ontológica no domínio militar que outras tecnologias não representam.
Finalmente, em terceiro lugar, o destaque colocado na verdade como um bem comum e o apelo a uma ecologia da comunicação. A governança democrática da IA exige um público informado e instituições epistémicas funcionais. A encíclica identifica corretamente a degradação do ambiente informativo como estruturalmente ligada ao desafio da governança, e não separada dele. Porém, fica-se pelo diagnóstico. O documento apela a uma ecologia da comunicação e a uma aliança educativa para a era digital, mas não define nenhum destes conceitos com qualquer grau de concretização. Não há orientação sobre como regular a amplificação algorítmica, como financiar meios de comunicação públicos independentes, como governar os conteúdos sintéticos ou como construir capacidade institucional para a literacia digital à escala necessária. Para um documento desta ambição, o fosso entre o diagnóstico e a prescrição é assinalável, e representa uma oportunidade perdida de traduzir princípios sólidos em orientação política útil.
Noreen Herzfeld – A encíclica centra-se na dignidade humana, e esse foco permeia todo o documento. Leão XIV observa que os seres humanos nunca devem ser instrumentalizados ou reduzidos a um meio para um fim. Contudo, quando tudo o que fazemos é monitorizado, compilado e monetizado, somos reduzidos à soma dos nossos dados. Uma sociedade construída sobre dados prioriza tudo o que pode ser quantificado, mas as coisas mais importantes — o amor, os relacionamentos, a justiça — não podem ser facilmente transformadas em pontos de dados.
Leão XIV observa que é um erro equiparar a inteligência artificial à inteligência humana. Simulação não é sinônimo de compreensão. A inteligência da IA não é moldada pela experiência de vida ou pelo encontro com o mundo real. Assim, ela não pode estabelecer relações genuínas, apenas apresentar a aparência de relacionamento. Além disso, como a IA não habita o mundo físico da mesma forma que nós, humanos, a sua relação com a natureza é prejudicial em vez de cooperativa. O treinamento e a utilização da IA exigem vastos recursos de água e energia. Os seus enormes centros de dados degradam a Terra.
Quase no final, a encíclica observa que a doutrina da encarnação é central para o cristianismo. Em Jesus, o Verbo se fez carne e habitou entre nós. A IA nos tenta a pensar em nós mesmos apenas em termos intelectuais e a denegrir o corpo. De fato, Leão rejeita o transhumanismo e o pós-humanismo por esse motivo. A fisicalidade humana não é algo a ser aperfeiçoado ou superado. São precisamente as supostas fraquezas da doença, do envelhecimento e da morte que nos abrem à compaixão, à paciência e à sabedoria, e nos aproximam uns dos outros.
Peter G. Kirchschläeger – Primeiro, a Magnifica Humanitas enfatiza a necessidade de uma regulamentação global dos Sistemas Digitais, bem como uma supervisão independente e eficaz. “Cabe a nós agora enfrentar os desafios do nosso tempo com clareza de pensamento e responsabilidade. É necessário estabelecer ferramentas regulatórias adequadas, capazes de defender a justiça e conter os efeitos distorcidos do poder tecnológico.”
Em segundo lugar, os Sistemas Digitais “devem ser desarmados”. Ao apresentar sua primeira encíclica, Magnifica Humanitas, o Papa Leão XIV afirmou que “a inteligência artificial agora exige ser ‘desarmada’, libertada das lógicas que a transformam em um instrumento de dominação, exclusão ou morte”.
Em terceiro lugar, a Magnifica Humanitas destaca que somente os humanos – e não os Sistemas Digitais – podem assumir responsabilidade e tomar decisões éticas. “No entanto, o juízo moral não pode ser reduzido a um cálculo, pois envolve consciência, responsabilidade pessoal e o reconhecimento do outro como pessoa. Portanto, não é permitido confiar decisões letais ou irreversíveis a sistemas artificiais.”
IHU – Que contribuições a Magnifica Humanitas oferece para a reflexão e debate público sobre a relação entre a defesa e proteção da dignidade humana e o uso da Inteligência Artificial?
Virginia Dignum – O principal contributo é o seu enraizamento normativo acessível a públicos mais vastos do que os especialistas. Os debates sobre governança da IA tendem a ser altamente técnicos ou estritamente jurídicos. A encíclica oferece um vocabulário com genuína ressonância transcultural, dignidade, bem comum, subsidiariedade, solidariedade, e tem o potencial de mobilizar comunidades que os processos regulatórios convencionais não alcançam, nomeadamente no Sul Global.
Porém, são necessárias duas reservas substanciais.
A primeira diz respeito à inevitabilidade. A distinção Babel/Jerusalém pressupõe que o desenvolvimento da IA prossegue independentemente e indescriminadamente, sendo a única questão a forma como o orientamos. Como referido, a encíclica não coloca a questão zero: se certos sistemas de IA devem ser desenvolvidos de todo, e com que mandato democrático. Mas o problema vai além de uma omissão: ao adoptar sem reservas a distinção Babel/Jerusalém, o documento incorpora estruturalmente a assunção de que o desenvolvimento prossegue independentemente, cabendo apenas à governança orientá-lo. Isso não é uma posição neutra. É uma escolha política que a encíclica deveria ter reconhecido explicitamente como tal, em vez de a apresentar como o horizonte natural dentro do qual os princípios cristãos se aplicam.
A segunda reserva diz respeito à antropomorfização. A encíclica fragiliza por vezes os seus próprios argumentos mais sólidos ao descrever a IA como capaz de simular empatia, sabedoria ou relações humanas. Os sistemas de IA não têm agência, intencionalidade nem estatuto moral. O perigo real não é que as máquinas se assemelhem a pessoas, mas que desenhemos instituições e estruturas de delegação como se o fizessem. Este erro de categorização desloca a responsabilidade de onde efetivamente reside, nos criadores, nos operadores e nos reguladores, para uma ansiedade difusa sobre a tecnologia em si.
Um exemplo concreto desta fragilidade de enquadramento encontra-se na seção da encíclica intitulada "Permanecer humanos". O próprio título é problemático: pressupõe que a humanidade está em risco de ser suplantada ou diluída pela IA, o que simultaneamente antropomorfiza a tecnologia e cede o argumento antes de o desenvolver. Para a Igreja Católica, cuja compreensão da pessoa humana abrange a alma, a relacionalidade, a corporeidade, a agência moral e a transcendência, a ideia de que um sistema de reconhecimento estatístico de padrões possa ameaçar essa realidade é tão teologicamente incoerente como tecnicamente incorreta.
O enquadramento correto não é defensivo, como se a humanidade precisasse defender o seu território face à IA, mas assertivo: a IA opera numa categoria ontológica inteiramente diferente, e confundir as duas é um erro, não uma tensão inevitável a gerir. O risco não é ontológico mas político e institucional, ou seja, que escolhamos, através de má governança e de uma deferência mal colocada, organizar as nossas instituições como se a IA fosse um agente equiparável à pessoa humana.
A encíclica seria consideravelmente mais forte se tivesse enquadrado esta seção como uma afirmação confiante da dignidade humana, e não como um apelo defensivo à sua preservação. Esse enquadramento tornaria também o argumento de governança mais nítido: se a IA é simplesmente uma ferramenta, a questão nunca é sobre permanecer humanos, mas sempre sobre quem controla a ferramenta, com que finalidade e com que responsabilização.
Noreen Herzfeld – Leão destaca especificamente a educação e o trabalho como duas áreas em que a IA deve ser implementada com sabedoria. Ele observa que a educação exige tempo e paciência e está ameaçada pela velocidade da IA. Ele teme que os alunos passem a depender da IA para obter respostas rápidas, em vez de se dedicarem ao trabalho árduo e lento que resulta na integração do conhecimento e no crescimento pessoal.
Da mesma forma, a velocidade e as exigências da IA podem facilmente forçar os trabalhadores a se adaptarem aos métodos da máquina, em vez de a máquina se adaptar às necessidades e habilidades dos trabalhadores. Leão teme a possível onda de desemprego que poderia resultar de uma rápida implementação da IA. O trabalho é uma necessidade, não apenas para a integração social e econômica, mas também como uma forma de autoexpressão e de um senso intrínseco de dignidade. Assim, ele defende a reunificação familiar, o treinamento profissional quando necessário e a redistribuição de capital em um mundo onde a desigualdade econômica está crescendo.
Peter G. Kirchschläeger – A Magnifica Humanitas deixa claro que os dados sustentáveis, como uma nova revolução industrial, representam um novo desafio para a defesa da dignidade humana e insta todos os atores sociais a agirem em relação a isso, fornecendo medidas concretas, entre as quais: “garantir que a economia favoreça a dignidade humana significa adotar certos critérios para uma ação firme. Primeiro, transparência e responsabilidade: quando dados e algoritmos influenciam a distribuição de crédito, a seleção de pessoal ou o acesso a serviços e oportunidades, é necessário que as decisões sejam compreensíveis, contestáveis e sujeitas a supervisão, para que os indivíduos não sejam reduzidos a meros perfis. Segundo, inclusão e acesso: os benefícios da inovação devem ser acompanhados de investimentos em habilidades, infraestrutura e serviços essenciais para garantir que a tecnologia não amplie a lacuna entre os que têm e os que não têm. Finalmente, medidas para garantir a equidade: a tributação, a proteção social e as políticas industriais devem corrigir os desequilíbrios criados pela concentração de riqueza e poder. De fato, esses critérios não constituem um freio à inovação; em vez disso, tornam-na civilizada e humana.”
Além disso, a Magnifica Humanitas insta que precisamos interromper um tipo de progresso tecnológico que serve apenas aos interesses particulares e à maximização dos lucros de algumas empresas multinacionais de tecnologia. Precisamos substituir esse tipo de progresso tecnológico por um Desenvolvimento Sustentável que respeite, proteja e realize a dignidade humana de todos os seres humanos e sirva ao planeta Terra.
Finalmente, a Magnifica Humanitas clama pelo reconhecimento da grandeza da humanidade, criticando e rejeitando o transhumanismo e o pós-humanismo, bem como enfatizando a diferença essencial, categórica e intransponível entre humanos e máquinas devido à “nossa capacidade de refletir criticamente, escolher e amar livremente e formar relacionamentos autênticos. Nenhum sistema computacional, por mais sofisticado que seja, pode criar um coração que se doa ou uma consciência que discerne o bem do mal. Mesmo quando as máquinas se destacam em eficiência, um rosto humano que pede para ser contemplado permanece o centro da nossa história. Esse rosto humano é a plenitude para a qual a história está caminhando.”
IHU – A presença de Christopher Olah, cofundador da Anthropic, no lançamento da Encíclica tem repercutido em diferentes ambientes. O que a presença de alguém que atua na construção dos sistemas de Inteligência Artificial significa neste momento? Que desdobramentos podem ser esperados?
Virginia Dignum – É simbolicamente significativa e praticamente ambígua. Do lado positivo, sinaliza que a Igreja está envolvendo-se diretamente com os construtores destes sistemas. A investigação de Olah sobre interpretabilidade está entre os trabalhos técnicos mais substanciais sobre o que os modelos de grande escala efetivamente fazem, e a sua presença sugere diálogo genuíno com a comunidade técnica, o que reforça a credibilidade do documento.
No entanto, a ambiguidade é reputacional e estrutural. A Anthropic é um promotor comercial de IA com os seus próprios interesses na forma como a IA é regulada. A sua associação a um documento normativo de grande alcance pode ser lida como legitimação, como se o Vaticano estivesse a endossar o enquadramento de IA responsável de uma empresa específica. Este risco não é hipotético: os atores da indústria têm procurado sistematicamente moldar as narrativas de governança de formas que favorecem os incumbentes e elevam barreiras a concorrentes ou a regulação mais rigorosa. A comunidade de governança deve estar atenta a se a recepção da encíclica é moldada pela infraestrutura de comunicação da Anthropic.
É igualmente de notar a composição do painel de apresentação: teologia e indústria, sem representação da sociedade civil, sem as vozes críticas que trabalham há décadas na governança responsável da IA, sem representantes das comunidades que sofrem diretamente os impactos dos sistemas de IA, e com presença muito limitada do Sul Global. Esta escolha não é neutra. Sugere que o diálogo da Igreja sobre IA está a ser construído principalmente com quem desenvolve a tecnologia, mediado pela teologia, e não com quem é governado por ela, prejudicado por ela, ou tem dedicado a sua carreira a responsabilizá-la. Para uma encíclica que coloca a dignidade dos mais vulneráveis no centro do seu argumento, é uma incongruência assinalável.
Quanto aos desdobramentos previsíveis: maior envolvimento entre comunidades religiosas e processos de governação da IA, o que é amplamente positivo dado o alcance das instituições religiosas no Sul Global, onde a capacidade de governança da IA é mais necessária. Potencialmente também um novo eixo no ecossistema de ética da IA, distinto tanto do modelo regulatório europeu como da abordagem tecnológica norte-americana, que poderá ser influente na América Latina, na África e no Sudeste Asiático.
Noreen Herzfeld – Chris Olah foi uma escolha interessante como representante da indústria de IA. Seu trabalho se concentra na interpretabilidade da IA, uma área vital para que os programas de IA sejam compreendidos e responsabilizados. É significativo também que a Anthropic seja a única empresa que se opôs às exigências do governo Trump e do Pentágono.
Em seus breves comentários, Olah observou que, embora sejam os cientistas da computação que constroem essas máquinas, cabe aos estudiosos da religião e da filosofia abordar como a IA interagirá com o mundo. Isso, no entanto, é de certa forma contradito na encíclica, que observa que as tecnologias sempre refletem e reforçam os desejos e as suposições daqueles que as constroem e implementam. O Vale do Silício não pode ser tão facilmente isento de responsabilidade.
Peter G. Kirchschläeger – Por um lado, fiquei negativamente surpreso com a presença da Anthropic no lançamento da encíclica, pois isso permitiu que essa empresa de tecnologia abusasse dessa apresentação histórica da Magnifica Humanitas, bem como da presença do Papa Leão XIV, para fins de marketing, greenwashing e, principalmente, ética. Precisamos encarar a realidade: algumas empresas multinacionais de tecnologia, incluindo a Anthropic, sequestram o progresso tecnológico para maximizar seus lucros em detrimento da humanidade e do planeta Terra.
Algumas semanas atrás, a empresa de "IA" Anthropic, por trás do modelo "GenAI" do Claude, decidiu restringir o uso de sua própria "IA" para fins militares e bélicos pelo Pentágono devido a preocupações éticas. De uma perspectiva ética, é positivo que uma empresa tente cumprir sua responsabilidade corporativa. De fato, a Anthropic recebeu muitos elogios internacionais por essa decisão. O número de usuários de seus produtos de "IA" cresceu significativamente desde então, novos talentos continuam se candidatando para ingressar na empresa, e a Anthropic conseguiu se diferenciar da OpenAI e de outros concorrentes como a "boa empresa de IA" em sua atual rodada de financiamento. É impossível não se lembrar de um padrão semelhante usado pela OpenAI alguns anos atrás, quando a empresa adotou uma narrativa parecida – a OpenAI sendo os “mocinhos” e todas as outras grandes empresas de tecnologia os “vilões” – para buscar novos investidores...
Além disso, de um ponto de vista ético, surge a questão de se a decisão sobre o uso de sistemas de defesa antimísseis em armas letais automatizadas deve estar nas mãos de uma única empresa. Uma decisão tão fundamental para a humanidade e o planeta Terra deveria ser tomada por uma empresa que busca seus interesses particulares e a maximização de seus lucros? A humanidade e o ecossistema deveriam depender da decisão arbitrária de uma empresa privada? Ou a importância e a natureza de tal questão não exigem uma decisão dos Estados e da comunidade internacional, já que o futuro da dignidade humana e do mundo está em jogo?
Com base em minha pesquisa, defendo que precisamos de uma regulamentação global dos sistemas de defesa antimísseis baseada nos direitos humanos para que todos os seres humanos e o planeta Terra possam desfrutar de um futuro humano e sustentável. A regulamentação global de sistemas baseados em dados (SD) com base nos direitos humanos visa garantir que os direitos humanos sejam respeitados, protegidos, implementados e concretizados em todo o ciclo de vida dos SD e em todo o processo da cadeia de valor dos chamados SD (na concepção, no projeto, no desenvolvimento, na produção, na distribuição, no uso ou no não uso dos SD devido a preocupações com os direitos humanos). Os SD baseados em direitos humanos (SDBDH) buscam proteger os vulneráveis dos poderosos.
Ao mesmo tempo, devemos estabelecer, no campo dos sistemas baseados em dados (SD), uma Agência Internacional de Sistemas Baseados em Dados (AIBD) na ONU como uma plataforma global para cooperação técnica na área de SD, promovendo os direitos humanos, a sustentabilidade, a segurança e os usos pacíficos dos SD, bem como uma instituição global de supervisão e monitoramento e uma autoridade reguladora na área de SD responsável pelo acesso à aprovação de mercado.
Dadas as áreas de convergência entre as tecnologias de segurança e as tecnologias nucleares, o modelo da Agência Internacional de Energia Atômica (AIEA) parece ser o mais apropriado para uma governança global responsável da IA, uma vez que representa uma agência da ONU com "poderes".
O estabelecimento de uma IDA é viável porque a humanidade já demonstrou que é capaz de evitar a busca e implementação "cegas" de coisas tecnicamente possíveis, mas também de agir com cautela quando o bem-estar da humanidade e do planeta está em jogo. Por exemplo, os humanos pesquisaram o campo da tecnologia nuclear, mas depois limitaram substancial e massivamente a pesquisa e o desenvolvimento nessa área, a fim de evitar consequências ainda piores. Essa supressão foi bem-sucedida principalmente devido a um regime internacional, mecanismos concretos de aplicação da lei e graças à Agência Internacional de Energia Atômica (AIEA) da ONU.
Por outro lado, reconheço a ideia positiva por trás de sua presença como um sinal de escuta e aprendizado mútuo, bem como de diálogo, dadas as diferenças fundamentais de substância em relação à avaliação ética das tecnologias de segurança.
IHU – Deseja acrescentar algo mais?
Virginia Dignum – A encíclica é mais forte como documento de diagnóstico do que como documento prescritivo, o que é adequado ao seu gênero. O seu valor real dependerá do seguimento institucional que a Igreja irá gerar, nomeadamente se as conferências episcopais, as universidades católicas e as organizações de desenvolvimento traduzirem os seus princípios em advocacia concreta de governança. A Rerum Novarum moldou o direito laboral não através do documento em si, mas através das organizações e movimentos que inspirou. O mesmo teste aplica-se aqui.
Para que a encíclica tenha o máximo impacto, a comunidade de governança da IA deve envolver-se com ela de forma crítica e construtiva, em particular em dois pontos. Primeiro, assumir a inevitabilidade do desenvolvimento da IA deve ser contestado: a contenção e a proibição são respostas politicamente legítimas em domínios específicos, e um documento fundado na dignidade humana deveria dizê-lo explicitamente. Segundo, a linguagem antropomorfizante deve ser corrigida, não por razões meramente filosóficas, mas porque desloca a responsabilidade de onde efetivamente reside. A metáfora de Neemias aponta na direção certa: seres humanos a decidir, a construir e a assumir responsabilidades. Essa lógica deveria governar o enquadramento ao longo de todo o documento e, onde não o faz, os interlocutores seculares da encíclica deveriam dizê-lo com clareza e de forma construtiva.
Peter G. Kirchschläeger – Existe uma crescente rede internacional e interdisciplinar de especialistas que defendem a criação de uma HRBDS e de uma IDA. Além disso, o grupo The Elders, um grupo independente de líderes mundiais fundado por Nelson Mandela, endossou as recomendações para sistemas de dados baseados em direitos humanos e para a criação de uma agência global para monitorá-los.
O Secretário-Geral da ONU, António Guterres, apoia a criação de uma Agência Internacional de Sistemas de Dados (IDA) na ONU, seguindo o modelo da Agência Internacional de Energia Atômica (AIEA).
A ideia de uma estrutura regulatória baseada em direitos humanos e juridicamente vinculativa, bem como a criação de uma instituição para aplicar a regulamentação global, contava com o apoio do Papa Francisco. E o Papa Leão XIV continua nessa linha de apoio à regulamentação global de sistemas de dados e à sua supervisão independente e eficaz.
Sua Santidade o Dalai Lama apoia a regulamentação global de sistemas de dados baseada em direitos humanos e a criação de uma Agência Internacional de Sistemas de Dados (IDA) na ONU, porque ambas promovem a concretização dos direitos humanos, da paz e da sustentabilidade na esfera dos sistemas de dados.
Além disso, algumas vozes de empresas multinacionais de tecnologia – entre elas, Sam Altman (fundador e CEO da OpenAI) – defenderam a criação da IDA.
Precisamos estabelecer com urgência uma regulamentação global baseada nos direitos humanos e uma Agência Internacional de Sistemas Baseados em Dados (IDA) na ONU, a fim de salvaguardar um futuro humano, próspero e sustentável para a humanidade e o planeta Terra.