13 Dezembro 2023
Todo mundo fala, muitos já começaram a utilizá-la, mas poucos ainda entendem o que é e principalmente quais podem ser suas consequências para a vida humana. Estamos falando da Inteligência Artificial (IA), que está cada vez mais surgindo como a grande inovação tecnológica do nosso tempo. Para alguns, tornará a vida de todos melhor, para outros levará à catástrofe da humanidade. Enquanto isso, seu valor econômico cresce exponencialmente e os governos tentam regulamentá-la com não pouca dificuldade, dada a rapidez com que essas “máquinas inteligentes” se tornam cada vez mais poderosas. Um dos maiores especialistas no assunto é o Padre Paolo Benanti, teólogo e filósofo, franciscano da Ordem Terceira Regular.
Em outubro, o secretário-geral das Nações Unidas, António Guterres, convidou-o a participar do Comitê de Especialistas em Inteligência Artificial da ONU, que se reuniu poucos dias atrás na sede da ONU em Nova York. Nesta entrevista aos meios de comunicação do Vaticano, Benanti debruça-se sobre os aspectos éticos e tecnológicos da IA e indica a contribuição que a Igreja, "especialista em humanidade", pode dar para o debate sobre a Inteligência Artificial.
A entrevista é de Alessandro Gisotti, publicada por L'Osservatore Romano, 12-12-2023. A tradução é de Luisa Rabolini.
Hoje em dia todo mundo fala de Inteligência Artificial. Na linguagem comum, quase se tornou um mantra: “A inteligência artificial cuidará disso”. Mas estamos realmente diante de uma realidade que, como alguns dizem, terá um impacto maior na humanidade do que o da Revolução industrial?
Efetivamente há uma certa inflação do termo “revolução”. Gostamos de pensar que muitas coisas são revolucionárias, no sentido de que mudam tudo. Desse ponto de vista eu diria que mais do que estra diante de uma verdadeira revolução, temos uma evolução da Revolução industrial. A Revolução industrial se caracterizou como um sistema para substituir algumas tarefas realizadas pelo homem com as máquinas. O início da Revolução industrial substituiu a força muscular; hoje gostaríamos de substituir um pouco aquela que é a capacidade cognitiva do homem. A máquina imita tudo isso muito bem; é muito adequada para ter um propósito, mas ainda assim essa máquina é uma imitação e não tem uma consciência própria, uma vontade própria. Então revolução é um termo demasiado forte. É uma evolução dessa automação.
No entanto, o que é bom esclarecer imediatamente é que os efeitos que pode ter em termos de impacto social podem ser “revolucionários”. Se a primeira Revolução industrial teve um impacto sobre os operários, tornando-os menos necessários no processo produtivo, a inteligência artificial pode e terá um enorme impacto sobre os trabalhadores administrativos, ou seja, aqueles empregos que formam a classe média e, se não a gerirmos de acordo com critérios que sejam também critérios de justiça social, os efeitos poderiam ser realmente devastadores, ou pelo menos muito fortes na capacidade de coesão dos Estados democráticos.
Um grande cientista, o astrofísico Stephen Hawking, afirmou há alguns anos que o sucesso da Inteligência Artificial pode ser o maior evento da história da humanidade, mas se não evitarmos os riscos, poderia até pôr fim à própria humanidade. Quais deveriam ser os passos corretos para um desenvolvimento que não tenha consequências destrutivas?
Diria, também graças a uma reflexão que é própria da Doutrina Social da Igreja, para distinguir bem entre inovação e desenvolvimento para responder a essa pergunta. Inovação ou progresso tecnológico são a capacidade de fazer algo de forma cada vez mais eficiente e cada vez mais forte.
Vamos pensar num âmbito negativo, mas infelizmente cotidiano, como o da guerra. Um revólver, uma metralhadora, uma bomba, uma bomba atômica, são alguns pontos de inovação bélica.
Ninguém, porém, pensa que a bomba atômica seja boa ou melhor que o revolver. Desenvolvimento, ao contrário, é o que se baseia na inovação tecnológica e a transforma em algo que também busca o bem social, o bem comum.
Todas as inovações tecnológicas trazem consigo questões éticas. Com a Inteligência Artificial esses questionamentos parecem muito mais complexas do que no passado. Por quê?
Os ingleses, quando falam dessas máquinas, usam um termo difícil de traduzir para o italiano, pois possui outros significados. Essas máquinas têm uma espécie de “agency”, onde poderíamos traduzir “agency” com uma série de palavras: capacidade de adaptação aos contextos para perseguir determinadas finalidades. Mas desde sempre, o fim não justifica os meios! Então, a máquina que em alguma medida pode determinar qual meio é mais adequado para atingir seu objetivo, é uma máquina que pela sua natureza necessita de “guarda-corpos éticos” muito amplos, porque precisamente o fim não justifica os meios.
A inteligência artificial poderia se pôr questionamentos éticos e encontrar respostas ou essa dimensão moral continuará sempre a ser uma prerrogativa do ser humano?
Não. Apesar daquilo que alguns filmes de ficção científica nos possam sugerir, a consciência não é algo que pertence à máquina. Portanto não há uma subjetividade que se questione sobre si mesma ou que questione o mundo. É uma máquina que executa tarefas. Recebe as finalidades do homem, como o robozinho que pode limpar a nossa casa, então eu lhe digo: "limpe a casa" e então adequar os meios utilizando o aspirador, bater, voltar, o que acontece quando talvez encontrar escadas, são todas coisas ligadas àquela finalidade. Assim essa parte, o “novo ramo” da Inteligência Artificial, ou seja, a escolha dos fins adequados, deve e só pode estar nas mãos do ser humano. Isso não isenta que dar finalidades à máquina sem pensar muito, sem fazer as perguntas certas, pode levar a resultados catastróficos, mesmo sem a presença de uma máquina consciente.
O ChatGPT, a ferramenta de Inteligência Artificial mais “popular”, comemorou seu primeiro aniversário nestes dias. Para alguns é pouco mais que um brinquedo, para outros já nos dá uma ideia das mudanças que poderá trazer para a nossa vida. Qual é a sua avaliação?
O sucesso que o ChatGPT teve é impressionante. Foi o aplicativo mais baixado de todos os tempos. Foi o aplicativo que invadiu nosso cotidiano digital. Isso, se por um lado mostra o quanto a inteligência artificial nos fascina, pelo outro lado nos expõe ao risco de más compreensões, porque o ChatGPT nasce não como um produto industrial destinado a ser utilizado para alguma coisa, mas como uma espécie de grande demo (versão de demonstração de um programa, ndr) que a empresa, a OpenAI, abriu ao público para mostrar o poder do que estava desenvolvendo.
O ChatGPT é simplesmente uma expansão de outros produtos chamados GPT, sem “Chat” na frente, que são grandes modelos linguísticos, ou seja, são máquinas que trabalharam sobre grandes quantidades de texto, oportunamente divididas em pequenas partes que se chamam “parâmetros”, e a partir disso determinaram estatisticamente, até certo ponto, como as palavras se comportam umas com as outras.
Então, o ChatGPT é um sistema onde dada uma frase de input, produz um texto de output. Mas esse texto é refinado com a interação de tantos homens que - infelizmente, mal pagos em partes muito pobres do mundo - começaram a responder a essa máquina e a “dizer” à máquina quais eram as melhores e piores respostas entre aquelas que forneceu. A maior parte das pessoas, infelizmente, quando o ChatGPT chegou, não entendeu isso dessa forma, ou seja, um demo de alguém que responde a qualquer pergunta que lhe seja feita, mas como um mecanismo de busca propriamente dito, pedindo ao sistema informações ou confiando no que ele dizia.
Então, essa má compreensão da ferramenta ChatGPT que problemas poderia gerar?
Isso leva a grandes erros, porque a máquina é feita de tal forma que o texto obrigatoriamente tem que sair de uma minha pergunta de entrada, mas esse texto não é de forma alguma verificado na veracidade dos fatos. Se o ChatGPT produz um belo texto, não significa necessariamente que produza conteúdos que sejam reais. Aqui está todo o potencial e risco da máquina. O potencial é o de ter finalmente uma ferramenta que maneja a língua de uma forma muito poderosa. O limite é que não entendemos que aquela é uma espécie de grande demo e não uma ferramenta definitiva e confiamos numa máquina para coisas que não têm nenhum valor. Nunca perguntar a essa máquina como tratar uma doença!
Há anos tem-se falado de uma exclusão digital que separa as nações tecnologicamente mais avançadas daquelas em desenvolvimento. Com a inteligência artificial esse gap não corre o risco de piorar, deixando ainda mais para trás aqueles povos que já têm dificuldades para se afirmar num mundo e numa economia cada vez mais globalizados? Absolutamente sim. A inteligência artificial pode funcionar como um multiplicador. Onde encontra riqueza e um tecido com muitos recursos pode multiplicá-los. Onde encontra, na realidade, não um sinal de mais, mas um sinal de menos, pode marcar esse sinal de menos, até mesmo porque tais sistemas – mesmo sendo globais – são prerrogativa e propriedade de pouquíssimas empresas mundiais.
Neste momento as grandes inovações da inteligência artificial são feitas por nove empresas globais, todas com uma capitalização superior a um trilhão de dólares. Para entender o que isso significa, o PIB da Grã-Bretanha é igual a 3,3 trilhões, por isso estamos falando de números astronômicos. Em suma, não é um produto difundido, não é algo que todos podem acessar. Corre-se cada vez mais o risco de uma forma de dependência de pouquíssimos monopolistas.
Outro elemento a incluir nesse balanço é o “custo oculto” dessas tecnologias que são feitas em computadores baseados em terras raras e outros materiais que têm um custo ambiental altíssimo e consomem muita energia elétrica. Então se é bom questionarmo-nos e perguntarmo-nos com assombro o que significam os prodígios dessas máquinas, também não devemos esquecer que elas têm toda uma parte bem menos visível, mas muito mais dispendiosa em termos de igualdades, custos ambientais e energéticos, que devem ser tomados em consideração para que não se tornem uma despesa que acabe sendo paga pelas nações mais pobres do mundo.
Os governos estão se dotando de regulamentações sobre a Inteligência Artificial, ao mesmo tempo que as Nações Unidas estão abordando a questão. Você foi nomeado pelo secretário-geral da ONU para fazer parte de um comitê de 39 especialistas que tratam de Inteligência Artificial. Qual são as funções desse órgão?
Como diz o próprio título do órgão de trabalho, é um comitê que assessora o secretário-geral da ONU. O que nos é pedido é, primeiramente, fotografar o que está acontecendo com essa forma de inovação e fazê-lo de uma maneira muito equilibrada. Pede-se que fotografemos, em primeiro lugar, quais poderiam ser as grandes vantagens dessas tecnologias para a humanidade. Vamos pensar no aumento da capacidade de cura, nas oportunidades em que novas formas de riqueza podem ser criadas. Mas também nos é pedido que avaliemos os riscos, não só no que diz respeito às desigualdades que podem aumentar, mas porque especialmente nas formas mais recentes de inteligência artificial, como a que mencionamos há pouco, o ChatGPT, temos uma máquina que é capaz de “narrar”, capaz de contar histórias e as histórias podem contribuir para formar a opinião pública. Essa máquina pode, portanto, ser utilizada para fins que não são exatamente positivos, como aqueles para aumentar o ódio social ou criar inimigos onde não existem.
Uma máquina que pode influenciar tanto assim a opinião pública é claramente uma máquina a ser observada com muita atenção, especialmente por aqueles organismos que têm vontade de colaborar naquela que é a paz global ou um desenvolvimento justo. A tarefa do comité da ONU é também oferecer um eventual quadro dentro do qual se possam buscar acordos internacionais baseados em plataformas de valores que possam dar a essa ferramenta uma ajuda para ser uma forma de desenvolvimento e não simplesmente uma forma de lucro para poucos.
A Igreja não se esquiva do debate sobre a Inteligência Artificial. Isso também é demonstrado pelo seu empenho pessoal. A Santa Sé também está trabalhando nessa fronteira em diversos âmbitos. As próximas Mensagens do Papa para o Dia Mundial da Paz e para o Dia Mundial das comunicações sociais terão como tema justamente a Inteligência Artificial.
Qual é a contribuição mais importante que a Igreja pode dar? A Igreja se entende como “especialista em humanidade”. É uma instituição que como tal está presente em todos os lugares. Recolher e oferecer aquela que hoje é a vida do ser humano em todas as suas grandes aspirações, nos seus sonhos, mas também nas suas fragilidades e medos, é o primeiro terreno fértil sobre o qual a Igreja oferece uma reflexão ao mundo inteiro. Desde 2020, o tema está presente e toca de múltiplas maneiras as reflexões também na Santa Sé. É claro que como todos os grandes temas precisa amadurecer também nesse encontro de riqueza de humanidade que vem de baixo, da presença pastoral, e por essa capacidade de reflexão ligada também ao Evangelho e à reflexão teológica. Essa grande atenção acontece num momento em que o Santo Padre quis dar grande relevância para alguns temas globais, como o cuidado da Casa comum e a fraternidade. Cuidado da Casa comum e fraternidade poderiam ser duas das grandes perspectivas, onde a Igreja traz a sua contribuição única, original e positiva para esse debate. Não serve apenas a contribuição política, não serve apenas aquela industrial. Essa contribuição de humanidade, de uma humanidade que se encontra vivendo num ambiente, numa casa que é o nosso planeta, e que se encontra vivendo como irmãos, é uma contribuição de “humanização” da inteligência artificial, ou seja, a transformação do progresso em autêntico desenvolvimento humano, tão necessário hoje em dia.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
A Inteligência Artificial deve estar a serviço do bem comum. Entrevista com Paolo Benanti - Instituto Humanitas Unisinos - IHU
Quais as implicações da evolução científica para as semânticas da fé cristã? É possível conciliar ciência e fé, a part[...]
LER MAISA três meses do início de seus protestos contra o sistema financeiro norte-americano, centenas de manifestantes saíram às ru[...]
LER MAIS
O desafio para a filosofia atual é ter mais audácia. É preciso não se deter na superfície. É preciso colocar os problemas fu[...]
LER MAIS
