09 Janeiro 2024
As mensagens do Dia Mundial da Paz do papa surgem a cada ano em um momento em que o mundo não está tão pacífico, mas ocupado. Emitidas nas semanas que antecedem o Natal, em antecipação ao Ano Novo, essas mensagens muitas vezes passam despercebidas. A mensagem deste ano, que se concentrou na inteligência artificial, é muito importante para ser ignorada.
A reportagem é de Michael Sean Winters, publicada por National Catholic Reporter, 08-01-2024.
A frase "inteligência artificial" é em si um tipo de oximoro. Como o papa afirma, "Falar no plural de 'formas de inteligência' pode ajudar a enfatizar, acima de tudo, a lacuna intransponível entre tais sistemas, por mais surpreendentes e poderosos que sejam, e a pessoa humana: no final, eles são apenas 'fragmentários', no sentido de que só podem imitar ou reproduzir certas funções da inteligência humana." Em outras palavras, a inteligência artificial é ela mesma o resultado da inteligência humana. Nós a criamos; ela não nos cria.
Essas palavras me lembraram do Professor Paul Weiss, meu professor de filosofia muitos anos atrás. Em seu curso de metafísica, ele nos disse que os computadores não podem pensar se o pensamento é o que nós humanos fazemos. "Um computador não pode colocar um ponto no final da frase, ele só pode fazer um ponto", nos disse. "Ele não pode saber que o ponto está ordenado à letra maiúscula no início da frase ou, como era o caso do grande poeta e.e.cummings, que não é assim ordenado." Quarenta anos depois, ainda lembro dessas palavras como se fossem ditas recentemente.
A tecnologia da informação pode não ser criativa como um poeta, mas pode ser tão manipuladora quanto as emoções que os poetas evocam. "Além disso, a partir das pegadas digitais espalhadas pela Internet, tecnologias que empregam uma variedade de algoritmos podem extrair dados que lhes permitem controlar hábitos mentais e relacionais para fins comerciais ou políticos, muitas vezes sem nosso conhecimento, limitando assim nosso exercício consciente da liberdade de escolha", escreve o papa. "Em um espaço como a Web, marcado pela sobrecarga de informações, elas podem estruturar o fluxo de dados de acordo com critérios de seleção que nem sempre são percebidos pelo usuário."
O verbo "controlar" salta da página. Tornamo-nos dependentes de tecnologias da informação para grande parte do que fazemos, mesmo que raramente entendamos como essas tecnologias funcionam, muito menos como podem e realmente manipulam nossas próprias escolhas éticas.
"A sobrecarga de informações" é um problema quase insolúvel. Se é verdade que as tecnologias de computador só podem fazer o que foram programadas para fazer, também é verdade que a participação na sociedade moderna exige que confiemos em computadores e redes sociais para nos fornecer informações que são, por si só, programadas. E a programação é feita por pessoas com interesses e, às vezes, com objetivos ideológicos opacos para aqueles de nós que consomem a informação. Nem a transparência é suficiente, embora fosse um passo adiante. Quantas pessoas dedicariam tempo para ler as isenções de responsabilidade ao procurar informações de que precisam? E a informação não é como outros produtos humanos. Você pode passar sem uma lava-louças e lavar sua louça à mão. Existem várias maneiras de aquecer sua casa ou chegar ao trabalho. Mas quem consegue passar o dia sem acesso à informação?
O papa oferece algumas propostas culturais sobre como enfrentar os problemas apresentados pela inteligência artificial. Ele pede "uma formação adequada na responsabilidade pelo desenvolvimento futuro [da tecnologia]. A liberdade e a convivência pacífica são ameaçadas sempre que os seres humanos cedem à tentação do egoísmo, do interesse próprio, do desejo de lucro e da sede de poder." Ele estabelece o referencial essencial para direcionar a tecnologia ao florescimento humano: "A dignidade inerente de cada ser humano e a fraternidade que nos une como membros da única família humana devem sustentar o desenvolvimento de novas tecnologias e servir como critérios incontestáveis para avaliá-las antes de serem empregadas, para que o progresso digital ocorra com devido respeito à justiça e contribua para a causa da paz."
A mensagem mostra uma consciência altamente informada dos variados problemas levantados pela inteligência artificial e outras tecnologias avançadas. O papa aponta "um problema sério quando a inteligência artificial é utilizada em campanhas de desinformação que espalham notícias falsas e levam a uma crescente desconfiança nos meios de comunicação." Ele também destaca "outras consequências negativas do uso indevido dessas tecnologias, como discriminação, interferência em eleições, o surgimento de uma sociedade de vigilância, exclusão digital e o agravamento de um individualismo cada vez mais desconectado da sociedade."
E o Papa Francisco ecoa a preocupação com paradigmas tecnocráticos que ele identificou em Laudato Si' nove anos atrás. "Os seres humanos são, por definição, mortais; ao propor superar todos os limites por meio da tecnologia, em um desejo obsessivo de controlar tudo, corremos o risco de perder o controle sobre nós mesmos; na busca por uma liberdade absoluta, corremos o risco de cair na espiral de uma 'ditadura tecnológica'", escreve ele. "Reconhecer e aceitar nossos limites como criaturas é uma condição indispensável para alcançar, ou melhor, acolher o cumprimento como um presente."
O papa considera a aplicabilidade verdadeiramente assustadora dessas tecnologias avançadas para a guerra, bem como seu potencial para acelerar nossa compreensão já distorcida do trabalho humano no bem-estar da sociedade, como meramente uma questão de eficiência. "Empregos que antes eram exclusivos do trabalho humano estão sendo rapidamente assumidos por aplicações industriais de inteligência artificial", escreve ele. "O respeito pela dignidade dos trabalhadores e a importância do emprego para o bem-estar econômico
de indivíduos, famílias e sociedades, para a segurança no emprego e salários justos, devem ser uma alta prioridade para a comunidade internacional, à medida que essas formas de tecnologia penetram mais profundamente em nossos locais de trabalho."
Não há dúvida de que a sociedade deve tomar medidas para enfrentar esses perigos. Mas quem? E como? O mercado é mais o problema do que a solução. O papa insta "a comunidade global de nações a trabalhar em conjunto para adotar um tratado internacional vinculativo que regule o desenvolvimento e o uso da inteligência artificial em suas muitas formas." O histórico das Nações Unidas na prevenção de guerras não encoraja a confiança de que poderia lidar com a inteligência artificial, não é? A União Europeia recentemente chegou a um acordo sobre uma lei para regular a inteligência artificial, mas nações rebeldes como Irã, Rússia e Coreia do Norte não se submeterão a regras internacionais. Um grupo bipartidário de senadores divulgou um projeto de lei em novembro, mas o Congresso dos Estados Unidos parece incapaz de chegar a um acordo sobre qualquer coisa nos dias de hoje.
O papa não é culpado pela disfunção da política mundial, então ninguém deve criticar este documento por ser mais forte no diagnóstico do que na cura. O que é notável no Papa Francisco, no entanto, é sua capacidade de pensar sobre questões tão complexas e discernir os dilemas morais que apresentam.
A inteligência artificial é difícil de entender, mas reconhecer a necessidade de regulamentá-la não implica tal dificuldade. A inteligência artificial pode apenas fazer o que podemos programá-la para fazer, mas ela pode executar esses programas a uma velocidade com a qual nossas pobres mentes não conseguem acompanhar. Isso sozinho deveria causar preocupação. A inteligência artificial compensa sua falta de criatividade com eficiência em esteroides. Esteroides são extremamente perigosos.
O problema mais profundo é que, mais uma vez, a capacidade da humanidade para o avanço moral parece incapaz de acompanhar nossa capacidade para o avanço tecnológico. O Papa Francisco emitiu o aviso, delineou os problemas e ofereceu um caminho adiante que é humano. A questão é se nossas sociedades e culturas são capazes de seguir por esse caminho.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Papa Francisco identifica perigos morais da IA “incrível e poderosa” - Instituto Humanitas Unisinos - IHU
O discurso do Papa Francisco de que as escolas estão ensinando as crianças que elas podem escolher o seu sexo – o que seria um[...]
LER MAIS
