Primeira encíclica do Papa Leão XIV reforça o conceito de dignidade ontológica absoluta, denuncia a não neutralidade tecnológica e concentração privada do poder digital e chega a um público que os documentos jurídicos não alcançam, diz advogado e pesquisador da área do Direito
Em comparação a documentos técnicos e jurídicos, regulamentos ou acordos internacionais que propõem a regulamentação da Inteligência Artificial (IA), como os princípios da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), o AI Act e o Processo de Inteligência Artificial de Hiroshima do G7, a Magnifica Humanitas oferece “algo que nenhum tratado intergovernamental pode oferecer: uma narrativa de sentido”, sublinha Marcelo Chiavassa, na entrevista a seguir, concedida ao Instituto Humanitas Unisinos – IHU por e-mail.
Na avaliação do pesquisador, a encíclica do Papa Leão XIV, diferentemente dos documentos normativos, “nomeia o problema filosófico” que fundamenta a atual discussão mundial sobre os impactos da IA. “A encíclica chama de ‘paradigma tecnocrático’ a tendência de subordinar as relações humanas à lógica do desempenho e da otimização algorítmica, e identifica no transumanismo e no pós-humanismo as ideologias que fornecem cobertura intelectual a este processo. Ao fazer isso, ela preenche uma lacuna que os documentos jurídicos e regulatórios costumam deixar em aberto: a questão dos fundamentos”, resume.
Segundo ele, “o aspecto mais singular” do documento do Magistério em comparação aos instrumentos jurídicos de regulamentação da IA publicados nos últimos anos é o fato de a Magnifica Humanitas não representar “o interesse de nenhum Estado, de nenhum bloco econômico e de nenhuma corporação. Todos os demais instrumentos de governança da IA – por mais bem-intencionados que sejam – carregam, em graus variados, as marcas dos interesses que os produziram”.
A seguir, Chiavassa comenta e analisa a encíclica à luz dos instrumentos jurídicos que integram o processo de construção de uma governança internacional da IA, a situa no contexto geopolítico global e aponta os limites do texto. “A encíclica afirma, com precisão analítica, que ‘outrora, eram sobretudo os Estados a orientar e a dirigir a inovação. Hoje, pelo contrário, os principais motores do desenvolvimento são sujeitos privados, frequentemente transnacionais, dotados de recursos e capacidades de intervenção superiores aos de muitos Governos’ (n. 5), e que este poder assume uma ‘identidade inédita, predominantemente privada e, portanto, ainda mais difícil de discernir, gerir e orientar para o bem comum’. É uma leitura que nenhum documento governamental teria facilidade de fazer com tal franqueza, precisamente porque os Estados e os blocos que os produziram têm, eles próprios, relações ambíguas com as corporações tecnológicas que a encíclica critica”, observa.
Magnifica Humanitas foi publicada nesta segunda-feira, 25-05-2026. O IHU está repercutindo as primeiras impressões do texto em sua página eletrônica. Ontem, publicamos uma entrevista com Virginia Dignum, cientista da computação e membro do Órgão Consultivo da Organização das Nações Unidas sobre IA, com Noreen Herzfeld, teóloga e cientista da computação que integra o Grupo de Pesquisa em IA do Centro de Cultura Digital do Dicastério para a Cultura e a Educação do Vaticano, e com Peter G. Kirchschläeger, professor de Ética e diretor do Instituto de Ética Social da Faculdade de Teologia da Universidade de Lucerna, na Suíça, disponível aqui.
Igualmente, artigos e entrevistas sobre a Carta Encíclica foram publicados pelo Instituto Humanitas Unisinos – IHU no dia de ontem e no dia de hoje.
Marcelo Chiavassa (Foto: Alessandro Couto)
Marcelo Chiavassa de Mello Paula Lima é doutor em Direito Civil pela Universidade de São Paulo (USP), mestre em Direito Civil pela Pontifícia Universidade Católica de São Paulo (PUC-SP), especialista em Direito Contratual pela PUC-SP e especialista em Direito Civil italiano pela Universidade de Camerino, Itália. Pesquisador visitante na Università degli Studi di Perugia, também leciona Direito Civil e Direito Digital na Faculdade de Tecnologia de Piracicaba (FATEP). É pesquisador na área de Direito e Tecnologia e Riscos do Desenvolvimento Tecnológico, criador do podcast Digitopia (Mackenzie), advogado e consultor jurídico.
IHU – Qual é a importância da publicação da Magnifica Humanitas diante dos avanços técnico-científicos e do atual contexto geopolítico?
Marcelo Chiavassa – A Magnifica Humanitas emerge em um momento em que o debate sobre a governança da inteligência artificial já acumula uma cadeia consistente de documentos institucionais, de natureza e força normativa variadas, produzidos por organizações de alcance global e regional. Situá-la adequadamente neste ecossistema é condição para avaliar sua importância real, que não pode ser nem superestimada por deferência ao prestígio da Igreja Católica, nem subestimada por confundi-la com mera manifestação religiosa sem relevância pública.
Do ponto de vista cronológico e normativo, o processo de construção de uma governança internacional da IA tem seu marco técnico inicial na Recomendação do Conselho da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) sobre Inteligência Artificial, adotada em 22 de maio de 2019 e atualizada em 2024, considerada a primeira norma intergovernamental do mundo sobre o tema.
O documento, adotado inicialmente em 2019, propõe a adoção de um conjunto de princípios para uma gestão responsável e de confiança da IA, baseados nos valores do respeito pelos direitos humanos e pelos valores democráticos, da inclusão, da diversidade, da equidade, da inovação e do bem-estar, tendo sido posteriormente endossado pelo G20 e influenciado quadros normativos nos Estados Unidos, União Europeia, Japão e outras jurisdições.
Em novembro de 2021, a Organização das Nações Unidas para a Educação, Ciência e Cultura (Unesco) aprovou a Recomendação sobre a Ética da Inteligência Artificial, resultado de dois anos de consultas globais e considerado o primeiro instrumento global de definição de padrões sobre a ética da Inteligência Artificial, abordando dilemas éticos contemporâneos como a transparência, a privacidade de dados e questões ligadas à desigualdade de acesso aos seus benefícios.
Em setembro de 2024, o Conselho da Europa abriu à assinatura a Convenção-Quadro sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito (CETS nº 225), que representa o primeiro tratado internacional juridicamente vinculante neste campo, com o objetivo de assegurar que as atividades ao longo do ciclo de vida dos sistemas de IA sejam plenamente consistentes com os direitos humanos, a democracia e o Estado de direito.
No plano regional europeu, o Regulamento (UE) 2024/1689 (AI Act) estabeleceu o modelo de regulação por nível de risco, com obrigações concretas de transparência, auditabilidade e supervisão humana para sistemas de alto impacto. A estes se somam o Processo de Hiroshima do G7 (2023), dedicado à definição de padrões internacionais de gestão de riscos e responsabilidade em IA, e o relatório do secretário-geral da ONU “Governing AI for Humanity” (2023), que propugnou por um órgão internacional de governança da IA análogo à Agência Internacional de Energia Atômica (AIEA) no campo nuclear.
É neste contexto, já densamente povoado, que a Magnifica Humanitas é publicada. A questão relevante, portanto, não é se ela inova tecnicamente em relação ao AI Act ou ao CETS 225, mas sim o que ela acrescenta que os demais documentos não oferecem, ou oferecem de forma insuficiente.
Diante desse contexto, ela ocupa o mesmo plano de outros documentos de soft law como as recomendações da OCDE e da Unesco – instrumentos sem força coercitiva direta, mas com capacidade de influenciar agendas e moldar legislações. A diferença, porém, é que a Encíclica não fala a governos: fala a pessoas. Seus destinatários primários são os mais de 1 bilhão de católicos no mundo, os líderes de comunidades, os educadores, os empresários, os operadores do direito e os próprios legisladores que professam esta fé.
Além disso, a Magnifica Humanitas faz algo que os documentos técnicos e jurídicos tendem a evitar por razões de neutralidade institucional: ela nomeia o problema filosófico que está na base de todos os outros. A Encíclica chama de “paradigma tecnocrático” a tendência de subordinar as relações humanas à lógica do desempenho e da otimização algorítmica, e identifica no transumanismo e no pós-humanismo as ideologias que fornecem cobertura intelectual a este processo. Ao fazer isso, ela preenche uma lacuna que os documentos jurídicos e regulatórios costumam deixar em aberto: a questão dos fundamentos.
Os princípios da OCDE e o CETS 225 dizem como regular a IA; a Magnifica Humanitas diz por que regular. E, mais do que isso, em nome de quê se resiste à concentração de poder tecnológico. A resposta que ela oferece, qual seja a dignidade ontológica da pessoa, que não depende de desempenho, eficiência ou utilidade, é uma resposta que os instrumentos jurídicos pressupõem, mas raramente fundamentam.
O aspecto mais singular da Magnifica Humanitas, no contexto geopolítico atual, é precisamente o que a diferencia de todos os demais documentos: ela não representa o interesse de nenhum Estado, de nenhum bloco econômico e de nenhuma corporação. Todos os demais instrumentos de governança da IA – por mais bem-intencionados que sejam – carregam, em graus variados, as marcas dos interesses que os produziram.
O AI Act europeu reflete, entre outras coisas, a estratégia da União Europeia de se posicionar como potência regulatória global em um campo onde não é potência tecnológica – o chamado “efeito Bruxelas” (Brussels Effect), pelo qual a regulação europeia mais exigente se torna padrão de fato para empresas que operam globalmente. Os princípios da OCDE foram negociados por países predominantemente do Norte Global, com economias avançadas e interesses alinhados à preservação da liderança tecnológica ocidental. O Processo de Hiroshima do G7 é, em sua essência, um exercício de coordenação entre as democracias industrializadas que dominam o desenvolvimento da IA. Até a Unesco, enquanto agência internacional, opera dentro de equilíbrios de poder que tornam seus documentos resultado de negociações entre visões de mundo muito distintas.
Neste panorama, o atual contexto geopolítico torna ainda mais agudo o problema da governança da IA: a rivalidade tecnológica entre os Estados Unidos e a China produz uma corrida ao desenvolvimento em que a velocidade é priorizada sobre a segurança; a militarização da IA – tema que a Magnifica Humanitas aborda explicitamente no Capítulo V, ao tratar da “normalização da guerra” e das “armas e IA” – avança sem que haja qualquer tratado internacional que a limite de forma efetiva; e os países do Sul Global se encontram, em sua maioria, na posição de receptores de tecnologias desenvolvidas segundo parâmetros que não refletem suas necessidades, culturas e vulnerabilidades.
A encíclica afirma, com precisão analítica, que “outrora, eram sobretudo os Estados a orientar e a dirigir a inovação. Hoje, pelo contrário, os principais motores do desenvolvimento são sujeitos privados, frequentemente transnacionais, dotados de recursos e capacidades de intervenção superiores aos de muitos Governos” (n. 5), e que este poder assume uma “identidade inédita, predominantemente privada e, portanto, ainda mais difícil de discernir, gerir e orientar para o bem comum”. É uma leitura que nenhum documento governamental teria facilidade de fazer com tal franqueza, precisamente porque os Estados e os blocos que os produziram têm, eles próprios, relações ambíguas com as corporações tecnológicas que a Encíclica critica.
A presença geográfica da Igreja Católica é outro fator de relevância geopolítica frequentemente subestimado. Ela é forte exatamente onde o debate sobre governança da IA menos avança: América Latina, África Subsaariana, Filipinas, partes da Europa Central e Oriental. Nessas regiões, a Encíclica possivelmente tenha um alcance e uma autoridade que convenções de Estrasburgo ou recomendações de Paris dificilmente alcançam. Ao afirmar que os dados, algoritmos e plataformas são bens cuja destinação universal deve beneficiar a todos – e que a exclusão digital é uma forma de violação da dignidade humana –, a Magnifica Humanitas fala diretamente às populações que mais têm a perder com a concentração tecnológica e que menos têm voz nos fóruns internacionais onde as regras são estabelecidas.
Uma análise equilibrada não pode omitir os limites da Encíclica, enquanto documento que propõe uma análise crítica sobre o problema. A começar pelo mais óbvio: ela representa uma tradição específica – a cristã, e mais especificamente a católica – que, por mais universalista que seja em suas pretensões, não tem o mesmo alcance em contextos predominantemente muçulmanos, budistas, hindus ou laicos. O diálogo inter-religioso e intercultural sobre governança da IA, que documentos como a Recomendação da Unesco buscam construir, exige uma pluralidade de vozes que a encíclica, por definição, não pode oferecer sozinha.
Ademais, a Magnifica Humanitas é, como todos os documentos de sua natureza, mais eficaz no diagnóstico do que na prescrição. Ela identifica com precisão o “paradigma tecnocrático”, a concentração de poder digital em mãos privadas, o risco da desumanização algorítmica e a necessidade de controles – mas as soluções que propõe (transparência, responsabilidade partilhada, participação democrática, subsidiariedade) são princípios que ainda precisam ser traduzidos em arquiteturas jurídicas concretas. Este é o trabalho que o CETS 225, o AI Act e os demais instrumentos regulatórios realizam, e que a encíclica, por sua natureza doutrinária, não pretende substituir.
Por fim, é legítimo questionar se o engajamento da Igreja com grandes corporações tecnológicas – ilustrado pela presença do cofundador da Anthropic na cerimônia de apresentação da encíclica – não cria tensões com o diagnóstico crítico que o próprio documento oferece sobre a concentração privada do poder tecnológico. Não se trata de impugnar a boa-fé dos interlocutores, mas de notar que a credibilidade do magistério social depende, historicamente, de sua independência em relação às forças econômicas que critica.
Parece-nos, portanto, que a importância da Magnifica Humanitas não está em seu peso jurídico, que é nenhum, nem em sua originalidade técnica, que é limitada. Está em algo que nenhum tratado intergovernamental pode oferecer: uma narrativa de sentido. Em um debate sobre governança da IA que é, frequentemente, dominado por engenheiros, economistas, reguladores e juristas falando entre si, a encíclica lembra que a questão central não é técnica, mas humana. É um documento acessível e que será lido em diferentes partes do mundo, inclusive por pessoas (líderes religiosos e população em geral) que formam, ou ajudam a formar, consciências e que influenciam comportamentos eleitorais e culturas institucionais. A boa governança da IA precisará de normas jurídicas efetivas, mas precisará também de uma cultura ética que as sustente. Neste ponto, a contribuição da Igreja Católica, expressa na Magnifica Humanitas, pode vir a ser insubstituível.
IHU – Quais são os três pontos do texto mais pertinentes na sua avaliação? Por quê?
Marcelo Chiavassa – Os pontos são:
O primeiro eixo de reflexão da Magnifica Humanitas diz respeito ao risco estrutural de exclusão que acompanha a expansão acelerada das tecnologias digitais. A encíclica afirma, com precisão analítica, que entre os bens que se destinam universalmente a todos deve-se agora contar “as novas formas de propriedade: patentes, algoritmos, plataformas digitais, infraestruturas tecnológicas e dados”, alertando que “quando estes bens permanecem concentrados nas mãos de poucos, sem formas adequadas de partilha e acesso, cria-se um novo desequilíbrio que contradiz a destinação universal dos bens e alimenta o fosso entre incluídos e excluídos, entre quem pode participar na revolução digital e quem fica à margem” (n. 67). Esta formulação é juridicamente significativa porque transpõe o clássico princípio da destinação universal dos bens – fundado na tradição tomista e reafirmado pelo magistério social desde Leão XIII – para a dimensão imaterial e informacional da riqueza contemporânea, reconhecendo que a exclusão digital não é apenas um fenômeno socioeconômico, mas uma forma de violação da dignidade da pessoa.
Esta perspectiva converge com o processo de reconhecimento internacional do acesso à internet como direito humano, consolidado progressivamente no âmbito das Nações Unidas. O marco inicial deste processo foi o Relatório do Relator Especial sobre a Promoção e Proteção do Direito à Liberdade de Opinião e Expressão, Frank La Rue, submetido ao Conselho de Direitos Humanos da ONU em 16 de maio de 2011 (Resolução A/HRC/17/27). Naquele documento, afirmou-se que a internet se transformou em um dos principais meios pelos quais os indivíduos podem exercitar seus direitos à liberdade de opinião e expressão, conforme garantido pelo artigo 19 da Declaração Universal dos Direitos Humanos e pelo Pacto Internacional sobre Direitos Civis e Políticos, concluindo que qualquer restrição ao acesso constitui, em princípio, violação desproporcional de tais direitos.
Em 2012, o Conselho de Direitos Humanos aprovou a Resolução A/HRC/20/L.13, reforçando que todos os direitos que as pessoas possuem no mundo físico devem ser igualmente protegidos no ambiente digital, e em 2016, a Resolução A/HRC/32/L.20 condenou expressamente os Estados que adotam restrições ao uso da internet. Em 2013, a Assembleia Geral das Nações Unidas, por meio da Resolução A/RES/68/167, abordou especificamente o direito ao livre desenvolvimento da personalidade na era digital.
O diálogo entre a Encíclica e as regras da ONU é evidente: se o acesso à internet constitui condição de exercício de direitos fundamentais à liberdade de expressão, informação, educação, trabalho e participação política, então a exclusão digital não é apenas pobreza material, mas exclusão da própria condição de sujeito de direitos pleno na sociedade contemporânea. A Magnifica Humanitas eleva esta intuição a fundamento doutrinário ao afirmar que o princípio da destinação universal dos bens exige que “a utilização dos bens da criação e das novas possibilidades oferecidas pela técnica seja regulada de modo a respeitar o ambiente, evitando desperdícios e novas formas de pilhagem” (n. 67). A palavra “pilhagem” é aqui tecnicamente reveladora: qualifica a concentração de infraestruturas digitais não como exercício legítimo de propriedade, mas como apropriação ilegítima de um bem que é, por natureza, destinado a todos.
O segundo eixo temático da encíclica talvez seja o mais provocador para o operador do direito: a afirmação de que a tecnologia não é neutra. A Magnifica Humanitas é direta ao declarar que a técnica “tem o rosto daqueles que a concebem, financiam, regulam e utilizam” (n. 9), rejeitando simultaneamente a tecnoutopia (a ideia de que a tecnologia resolve por si os problemas da humanidade) e o catastrofismo (a ideia de que a tecnologia é intrinsecamente maléfica). Esta posição mediana não é, porém, uma concessão ao pensamento técnico-neutro; ao contrário, a encíclica radicaliza o argumento ao identificar o sujeito do poder tecnológico contemporâneo: “outrora, eram sobretudo os Estados a orientar e a dirigir a inovação. Hoje, pelo contrário, os principais motores do desenvolvimento são sujeitos privados, frequentemente transnacionais, dotados de recursos e capacidades de intervenção superiores aos de muitos Governos. O poder tecnológico assume, destarte, uma identidade inédita, predominantemente ‘privada’ e, portanto, ainda mais difícil de discernir, gerir e orientar para o bem comum” (n. 5).
Essa passagem representa uma mudança de paradigma em relação à doutrina social clássica. A Rerum Novarum identificou no proprietário dos meios de produção e no capital financeiro os atores do poder econômico, apelando ao Estado como árbitro e regulador. A Magnifica Humanitas constata que esta equação foi profundamente alterada: o poder já não está apenas no capital que compra braços e terras, mas em quem detém dados, algoritmos e infraestruturas de comunicação – e que este poder é exercido, em grande medida, à margem de qualquer controle democrático efetivo. A concentração de dados e algoritmos nas mãos de um pequeno número de corporações privadas globais constitui, segundo a encíclica, uma nova forma de dominação que pode operar tanto no plano econômico quanto no político, modelando preferências, orientando decisões eleitorais, classificando pessoas e definindo quem tem acesso a crédito, emprego ou informação.
A dimensão estatal deste problema é igualmente abordada. A encíclica identifica no “paradigma tecnocrático” uma das ameaças centrais à dignidade humana, compreendendo-o como a tendência de subordinar todas as relações humanas – inclusive as políticas – à lógica do desempenho, da eficiência e da optimização algorítmica. O estado tecnocrático não é aquele que domina pela força bruta, mas aquele que governa pela administração de dados e pela opacidade dos sistemas de decisão automatizada, transformando o cidadão em objeto de processamento em vez de sujeito de direitos. A referência explícita da Encíclica ao risco do “controle social” por meio de “dependências” algorítmicas (n. 4, Capítulo IV) aponta para um horizonte preocupante no qual a liberdade de consciência, de pensamento e de ação pode ser progressivamente restringida não por lei, mas por arquitetura técnica – o que a doutrina jurídica contemporânea, na esteira de Lawrence Lessig, denomina “regulação pelo código” (Code is Law).
A Magnifica Humanitas reivindica, contra este paradigma, a primazia da “dignidade ontológica” da pessoa – aquela que “não depende das capacidades que possui, das riquezas ou da função que desempenha” (n. 51) – como limite intransponível a qualquer sistema de categorização, perfilamento ou descarte algorítmico.
O terceiro eixo da encíclica, e talvez o mais urgente do ponto de vista jurídico, é a demanda por mecanismos concretos de controle do desenvolvimento tecnológico, especialmente da inteligência artificial. A Magnifica Humanitas não se limita a fazer apelos abstratos: ela formula exigências específicas, afirmando que é necessário adotar “instrumentos normativos adequados, capazes de salvaguardar a justiça e de conter os efeitos nocivos do poder tecnológico”, e que os princípios de subsidiariedade e de bem comum exigem “a transparência, a responsabilidade e formas concretas de participação (auditorias independentes, transparência sobre os algoritmos, acesso equitativo aos dados, instrumentos de recurso)” (n. 71). Esta linguagem é explicitamente regulatória e converge com as exigências centrais do AI Act europeu (Regulamento (UE) 2024/1689), que adota, precisamente, uma abordagem de responsabilidade diferenciada por nível de risco, impondo obrigações de transparência, auditabilidade e supervisão humana aos sistemas de IA de alto impacto.
A história do direito oferece dois paralelos analógicos preciosos para compreender a dinâmica regulatória aqui exigida, ambos referenciáveis pela encíclica. O primeiro é a trajetória do desenvolvimento industrial ao longo dos séculos XIX e XX. A revolução industrial à qual a Rerum Novarum respondeu produziu, inicialmente, condições de trabalho que hoje seriam consideradas incompatíveis com qualquer padrão de direitos humanos: jornadas extenuantes, trabalho infantil, ausência de proteção em acidentes, salários de subsistência. A resposta não foi a rejeição da industrialização, mas sua regulamentação progressiva – pela via do direito do trabalho, da legislação de seguridade social, das normas ambientais e das regras de segurança industrial. Em cada etapa, a sociedade reconheceu que determinados efeitos da tecnologia produtiva eram inaceitáveis e criou instrumentos normativos para contê-los, sem paralisar o desenvolvimento. A Magnifica Humanitas explicita esta lição histórica ao afirmar que “a Igreja não rejeita a inovação tecnológica, mas a orienta de forma ética e responsável” (n. 14), evocando o mesmo movimento de adaptação progressiva que caracterizou a domesticação jurídica da revolução industrial.
O segundo paralelo, ainda mais ilustrativo para o momento presente, é o processo de regulação dos organismos geneticamente modificados. O avanço da biotecnologia moderna nas décadas de 1980 e 1990 produziu organismos transgênicos com potencial agrícola significativo, mas também com riscos ainda não completamente avaliados para a biodiversidade e a saúde humana. A resposta regulatória internacional materializou-se no Protocolo de Cartagena sobre Biossegurança, adotado em Montreal em 29 de janeiro de 2000, no âmbito da Convenção sobre Diversidade Biológica, e em vigor desde setembro de 2003. O ponto central do Protocolo é a incorporação do princípio da precaução, consagrado no Princípio 15 da Declaração do Rio sobre Meio Ambiente e Desenvolvimento (1992), segundo o qual “onde existam ameaças de riscos sérios ou irreversíveis, não será utilizada a falta de certeza científica total como razão para o adiamento de medidas eficazes”. Mais do que isso, o Protocolo inverteu o ônus da prova: não cabe às populações afetadas demonstrar que os transgênicos causam danos; cabe aos produtores demonstrar que não os causam.
A analogia com a regulação da IA é direta e fecunda. Assim como os transgênicos operam em sistemas complexos cujos efeitos são de difícil previsão, os sistemas de IA operam em sistemas sociais complexos com efeitos igualmente de difícil previsão e potencialmente grave em termos de discriminação, manipulação e concentração de poder. A resposta regulatória adequada, à luz desta analogia histórica, não pode esperar a acumulação de danos já concretizados para agir: ela deve antecipar os riscos, exigir avaliações de impacto antes da implantação, atribuir o ônus da prova aos desenvolvedores e operadores dos sistemas, e garantir mecanismos de auditoria e responsabilização. Esta é precisamente a lógica do AI Act europeu, e é também a lógica subjacente às demandas da Magnifica Humanitas quando exige “avaliações de impacto humano e social” e “inclusão dos mais frágeis” como condição de legitimidade do desenvolvimento tecnológico (n. 14).
O que a encíclica acrescenta, porém, ao debate estritamente regulatório é uma dimensão que o direito tende a subestimar: a dimensão dos fins. A regulação do desenvolvimento industrial e dos transgênicos orientou-se, fundamentalmente, por critérios de minimização de danos, de modo a estabelecer limites à exploração do trabalho, garantir níveis mínimos de segurança alimentar, proteger a biodiversidade.
A Magnifica Humanitas vai além ao afirmar que a questão decisiva não é apenas “não causar dano”, mas “para que fins” se orienta o desenvolvimento tecnológico e “quem detém hoje este poder” (n. 5). Ao aludir à Torre de Babel como metáfora do poder tecnológico que “pretende dominar o céu”, isto é, que se legitima e escapa a qualquer controle externo; e ao aludir à reconstrução de Jerusalém como metáfora da “responsabilidade partilhada”, a encíclica propõe que a governança da IA não pode ser apenas técnica ou jurídica, mas exige uma deliberação pública genuína sobre os valores que devem orientar o desenvolvimento tecnológico. A transparência sobre os algoritmos, o acesso equitativo aos dados e os instrumentos de recurso que a encíclica reivindica não são apenas mecanismos de controle de danos; são condições de participação democrática em decisões que afetam, de forma crescente, a vida de todos.
Em síntese, a Magnifica Humanitas oferece ao jurista não um manual de soluções prontas, mas uma moldura antropológica – centrada na dignidade ontológica da pessoa e no princípio da destinação universal dos bens – a partir da qual é possível avaliar criticamente os processos de desenvolvimento tecnológico, exigir sua regulamentação e recusar tanto a rendição ao poder privado das corporações digitais quanto a captura tecnocrática do Estado. A encíclica convida, em última análise, a fazer com a IA o que as gerações anteriores fizeram com a máquina a vapor, com o capital financeiro e com os transgênicos: reconhecer que o progresso técnico não é um fim em si mesmo, domesticá-lo pelo direito e orientá-lo, com determinação, para o bem comum.
IHU – Que contribuições a Magnifica Humanitas oferece para a reflexão e debate sobre a relação entre a defesa e proteção da dignidade humana e o uso da Inteligência Artificial?
Marcelo Chiavassa – A Magnifica Humanitas oferece três contribuições efetivas ao debate sobre dignidade humana e IA, todas situadas no plano dos fundamentos éticos.
A primeira é o reforço do conceito de dignidade ontológica como limite absoluto. A afirmação de que o valor da pessoa não deriva de sua utilidade, produtividade ou desempenho, mas de sua própria existência. Num debate sobre IA frequentemente dominado por métricas de eficiência e otimização, esta afirmação é necessária, ainda que não seja nova: a filosofia personalista, o direito internacional dos direitos humanos e a tradição constitucional ocidental já a sustentam há décadas.
A segunda é a denúncia explícita da não neutralidade da tecnologia e da concentração privada do poder digital como problema ético e político, não apenas econômico.
A terceira é sua capacidade de alcançar audiências que os documentos jurídicos não alcançam, tais quais comunidades religiosas, líderes locais, populações do Sul Global, levando a este público uma linguagem sobre dignidade humana e governança tecnológica que de outra forma não chegaria.
Feitas estas considerações, a avaliação honesta é que a encíclica não inova doutrinariamente em relação ao que a Unesco, o Conselho da Europa, o AI Act e a própria tradição filosófica dos direitos fundamentais já haviam estabelecido. Ela não cria obrigações, não propõe mecanismos de enforcement e não resolve as tensões que ela mesma identifica.
A Igreja está cumprindo seu papel institucional: marcar posição moral sobre um problema central de seu tempo, como fez em 1891 diante da revolução industrial. Este papel tem valor real. Mas seria excessivo atribuir à Magnifica Humanitas uma contribuição que transcenda o que ela efetivamente é: um documento de orientação ética com alcance pastoral significativo, inserido num ecossistema regulatório já em construção por outros atores com ferramentas mais vinculantes.
IHU – A presença de Christopher Olah, cofundador da Anthropic, no lançamento da Encíclica tem repercutido em diferentes ambientes. O que a presença de alguém que atua na construção dos sistemas de Inteligência Artificial significa neste momento? Que desdobramentos podem ser esperados?
Marcelo Chiavassa – Naturalmente que a presença de um cofundador de uma das maiores corporações privadas de IA na cerimônia de lançamento de uma encíclica que critica precisamente a concentração privada do poder tecnológico é, no mínimo, uma tensão que a própria encíclica não resolve, mas cria uma ambiguidade que pode ser lida de formas opostas: como abertura ao diálogo genuíno com o setor, ou como chancela implícita a uma empresa específica em detrimento de concorrentes e, sobretudo, em detrimento da independência de julgamento que o documento reivindica.
O que pode ser dito é que este evento cria precedentes que tendem a se repetir, à medida em que a Igreja sinalizou disposição para dialogar com o setor privado de IA em termos que vão além da crítica genérica. Outras empresas do setor vão, inevitavelmente, buscar espaços análogos de interlocução com o Vaticano – seja por convicção, seja por interesse reputacional. O risco concreto é que o diálogo legítimo com especialistas técnicos se confunda, progressivamente, com lobby institucional de empresas que constroem exatamente o poder que a encíclica critica.
A independência da Magnifica Humanitas enquanto documento doutrinário não está formalmente comprometida por esta escolha. Mas a credibilidade prática do magistério social da Igreja em matéria de tecnologia dependerá, nos próximos anos, de ela demonstrar que a interlocução com o setor privado não implica deferência a ele.