A promessa da libertação dos limites e a utopia da IA que mata. Artigo de Jung Mo Sung

"Sem o modelo ideal, não sabemos se estamos melhorando ou piorando o objeto ou o sistema. A utopia de IA, em parte fruto da imaginação, em parte projeção do que já sabemos, é o modelo de como o sistema deve funcionar e também de como devemos agir e esperar como seres humanos", escreve Jung Mo Sung, teólogo católico e cientista da religião.

Eis o artigo.

Devemos regular a Inteligência Artificial? Eu fiz essa pergunta ao Google Gemini e “ele” me respondeu: “Sim, devemos regular a Inteligência Artificial para garantir segurança, transparência e ética”. A princípio, não haveria grandes discordâncias entre essa resposta de um aplicativo de IA e, por exemplo, da posição do Papa Leão XIV sobre esse tema. Contudo, quando olhamos mais de perto, nem tudo parece o que é.

Jeff Bezos, um dos fundadores da Amazon e um dos multibilionários mais poderosos do mundo, em uma conferência no Viva Tech, Paris, em junho, fez duas afirmações que merecem ser analisadas.

A primeira se refere ao problema de desemprego massivo que, segundo os estudiosos da área, o atual modelo de desenvolvimento de IA geraria. Por isso, muitos defendem a tese de que, em nome da sustentabilidade social, deveria haver algum tipo de regulação mais ampla do que apenas um conjunto de regras do jogo (como, por exemplo, Gemini propõe a proteção dos direitos, segurança jurídica e controle de riscos). Isto é, propõe regulação e intervenção no mercado para evitar que a IA gerasse um desemprego massivo que atingisse também os trabalhadores de classe média e média alta, com isso, uma crise social insustentável.

Jeff Bezos respondeu com a seguinte afirmação: “Sei que há muita preocupação por parte de muitas pessoas, inclusive de muitas pessoas inteligentes, de que a IA vá tornar os seres humanos desnecessários e assim por diante [...] Discordo totalmente desse ponto de vista. E acho que, na verdade, a IA vai criar uma escassez de mão de obra”. É importante destacar que, na sua fala, ele traz o tema da “preocupação”, o campo da emoção e, ao mesmo tempo, o da racionalidade. É como se apelasse para a vaidade dos inteligentes para desvalorizar essa preocupação, não apenas com o problema social dos pobres e da grande desigualdade social, mas também a insustentabilidade sistêmica do próprio capitalismo que conhecemos. É como se disséssemos, nós somos inteligentes e a IA é mais ainda e vamos inventar muito mais coisas que gerarão a falta de mão-de-obra.

Essas afirmações me parecem mais promessas de vendedores e profetas de uma nova era desejada pelos consumidores e fiéis do que argumentos razoáveis ou racionais. Isso fica claro quando ele disse: "Se conseguirmos acelerar o ciclo de sonhar e criar, todas as ideias se tornarão possíveis. E, então, acabaremos sendo limitados não por nossas capacidades, mas por nossa imaginação."

Sonhar com olhos abertos faz parte da condição humana. Isto é o que no mundo moderno chamamos de “utopia”. Sem entrar em discussão aqui sobre diversas interpretações conflitantes do que é utopia e a sua função na vida social, quero propor uma visão que ajuda a analisar a promessa de Bezos e de tantos outros “crentes”. Em primeiro lugar, a IA é hoje um conjunto de tecnologias que está mudando como o mundo funciona e também a autocompreensão de o que é ou quem é o ser humano. Nesse processo, como todo e qualquer sistema tecnológico, a IA pode ser aperfeiçoada. Para aperfeiçoá-la e também para evitar resultados maléficos, precisamos ter a noção de modelo perfeito ou ideal. Sem o modelo ideal, não sabemos se estamos melhorando ou piorando o objeto ou o sistema. A utopia de IA, em parte fruto da imaginação, em parte projeção do que já sabemos, é o modelo de como o sistema deve funcionar e também de como devemos agir e esperar como seres humanos.

Em segundo lugar, ao analisar a utopia, o mais difícil em termos emocionais ou existenciais é reconhecer que esse modelo ideal por meio do qual vemos a “realidade” e expressamos o mundo ou objeto ideal desejado, não é factível, não é possível de ser realizado. Isto é, reconhecer que nós, humanos, somos capazes de desejar e esperar coisas que não somos capazes de realizar.

Na última afirmação de Bezos que citei, temos os três termos-chave dessa questão: possível, limitação e a imaginação. Na vida concreta, nós imaginamos o que desejamos e tentamos atingir o objetivo. Se conseguimos, ótimo e ponto. Quando não conseguimos, temos que descobrir a diferença entre o que é possível e o impossível. E essa diferença é a fronteira do limite. Essa distinção entre possível e impossível ou o limite e o ilimitado não existe em si, mas sempre dentro do seu contexto e em relação ao agente das ações.

Há limites de possibilidade que são dados por questões técnicas. Por ex., atualmente, ser humano não pode viajar ao planeta Marte, mas pode ser que com novas tecnologias seja possível. Além do limite tecnológico, temos os limites sistêmicos. Por ex, em uma sociedade escravista, não é possível que todos os seres humanos sejam livres. Isso pode ser mudado somente com uma revolução social ou institucional. O terceiro tipo de limite é o da condição humana e as “leis” da natureza. O ser humano pode viver por muito tempo, mas não é possível ser imortal; assim como não é possível construir uma máquina que não gaste nenhuma energia.

Por fim, temos o limite da imaginação. Por ex, podemos imaginar um mundo sem morte e sem sofrimento (que aparece em todas as religiões) ou a acumulação ilimitada de riqueza (o sonho do capitalista). Mesmo no campo da imaginação, nós humanos não somos capazes de imaginar um triângulo quadrado. Na imaginação explicitamente religiosa de um mundo “paradisíaco”, o agente dessa realização é Deus ou um outro ser sobrenatural, e não os seres humanos, reconhecendo os seus limites.

Voltando à promessa de Bezos, ele promete a realização de todos os desejos imagináveis, isto é, uma vida sem os limites da condição humana. Outros profetas da IA, que se apresentam como filósofos do futuro, explicitamente prometem que a IA será capaz de vencer todas as doenças, incluindo o envelhecimento. Uma pergunta fundamental que surge: qual ou quem é esse agente capaz de vencer todos os limites antropológicos, históricos e naturais e realizar todas essas imaginações ilimitadas e contraditórias em si? A resposta comum: a IA. Isto é, ela foi transformada em um ente mítico, divino.

Enquanto esse não se chega à utopia, e que nunca vai, quem e como vai se decidir as opções frente à realidade da escassez no caminho? Por ex., os grandes centros de dados necessários para o funcionamento de IA gastam muita eletricidade, muita água para refrigeração e geram muito ruído e outros problemas ambientais para moradores na região. Isso nos leva ao tema da regulação e das intervenções do Estado ou da sociedade. O argumento último de Bezos, e de outros, é: a IA está ou vai realizar os desejos mais profundos da humanidade, por isso ela precisa ter toda a liberdade e nenhum limite social e político.

Não sei se outros realmente acreditam nisso, ou se são inteligentes o suficiente para saber que há desejos que são humanamente impossíveis e estão simplesmente mentindo para realizar outros desejos inconfessáveis. Isso não importa, o resultado será o mesmo. Sem a regulação e interferência, a liberdade da IA (e, no fundo, a do Mercado) vai sacrificar a vida de bilhões de pessoas.

Leia mais

• IA, o deinón de nosso tempo: a nova fronteira do maravilhamento técnico e o terror de estarmos de fora. Entrevista especial com Ricardo da Silva Kaminski – Parte II
• Colonialismo de dados: a atual revolução industrial demarca uma nova fronteira do pensamento. Entrevista especial com Ricardo da Silva Kaminski – Parte I
• “Pela primeira vez na história humana, a produção de conhecimento funde-se com a produção de lucro”. Entrevista especial com Nick Couldry
• A algorética e o colonialismo digital. Artigo de Paolo Benanti
• Inteligência Artificial, o não esquecer do sofrimento humano e a Teologia da Libertação. Artigo de Jung Mo Sung
• Inteligência artificial corre o risco de uma bolha? Veja como as gigantes da tecnologia (não) ganham dinheiro
• IA e trabalho: como fugir da transição dolorosa. Artigo de Luiz Alberto dos Santos
• O Brasil de joelhos ao colonialismo digital
• Inteligência artificial (de)generativa. Artigo de Ricardo Antunes
• A serviço da humanidade. A fronteira da Inteligência Artificial. Artigo de Paolo Benanti
• Desafios e possibilidades na era da Inteligência Artificial. Entrevista especial com Rodrigo Petronio
• Inteligência Artificial: “A autonomia está em perigo e isto é ruim para a democracia”. Entrevista com Adela Cortina
• Yuval Noah Harari: “Existe um potencial totalitário na inteligência artificial nunca antes visto”
• A Anthropic revela ao público sua arma mais poderosa: Claude Fable 5, a IA dos Mythos, chega ao mercado
• A OIT alerta para os riscos da IA ​​para a integração no mercado de trabalho de jovens altamente qualificados
• “Sob o pretexto de reduzir o tempo de execução das tarefas, o uso da IA pode acabar intensificando o trabalho”. Entrevista com Vincent Mandinaud
• “Em tempos de inteligência artificial, não queremos medir a precarização do trabalho nem seus efeitos”. Entrevista com Joan Benach
• A revolução tecnológica informacional com a subsequente superindustrialização dos serviços altera profundamente a natureza do trabalho. Entrevista especial com Márcio Pochmann