"A inteligência artificial prenuncia um novo totalitarismo ou é a libertação final da estupidez natural quando não haverá mais médicos que erram o diagnóstico e juízes que condenam inocentes porque nos seus lugares estarão robôs humanoides de superdesempenho? [...] Em suma, de que serve a inteligência, se depois não for capaz de gerar sabedoria?".
O artigo é do teólogo italiano Vito Mancuso, ex-professor da Universidade San Raffaele de Milão e da Universidade de Pádua, publicado por La Stampa, 22-05-2023. A tradução é de Luisa Rabolini.
Muitas vezes um fenômeno pode ser entendido analisando seu oposto e assim, pensando sobre a inteligência artificial, é útil considerar a estupidez natural. Farei isso à luz de duas páginas extraordinárias do teólogo protestante Dietrich Bonhoeffer escritas pouco antes de ser preso pela Gestapo (dois anos depois seria enforcado por ordem de Hitler) e precisamente no mesmo ano, 1943, em que dois estudiosos estadunidenses (McCulloch e Pitts) projetaram o primeiro neurônio artificial.
Para Bonhoeffer, a estupidez é "um inimigo mais perigoso que a maldade" porque, enquanto contra o mal é possível protestar e opor-se com a força, contra a estupidez não há defesas, as motivações não servem para nada, visto que o estúpido é estúpido exatamente porque se recusa a priori a tomar em consideração argumentos que contradizem as suas convicções. O estúpido, ao contrário do maldoso, sente-se satisfeito consigo mesmo. Tentar persuadi-lo com argumentações é insensato, pode até ser perigoso. Daí uma aquisição essencial: a estupidez diz respeito "não ao intelecto, mas à humanidade de uma pessoa". Existem homens muito dotados intelectualmente que são estúpidos e outros intelectualmente inferiores que não o são.
Entende-se assim que a inteligência é uma ferramenta a serviço de algo mais precioso. Do que, precisamente? A essa pergunta hoje não temos condições de responder, o que significa que não sabemos no que consiste a nossa essência e, portanto, não sabemos como nos proteger adequadamente.
Bonhoeffer intitulou seu artigo "Dez anos depois". Depois de quê? Depois da ascensão ao poder de Hitler acontecida em 1933. Então a seguinte questão surge em mim: a inteligência artificial prenuncia um novo totalitarismo ou é a libertação final da estupidez natural quando não haverá mais médicos que erram o diagnóstico e juízes que condenam inocentes porque nos seus lugares estarão robôs humanoides de superdesempenho? É claro que não basta ter informações para ser inteligente, e não basta ser inteligente para não ser estúpido. A pessoa pode ser muito inteligente, dotada de todas as informações e, no entanto, ser vítima da estupidez que não tem a ver com a inteligência, mas com a humanidade.
É por isso que a inteligência artificial necessariamente não sinaliza a chegada de uma era em que a estupidez natural será finalmente superada graças à eficiência da máquina humanoide, com o início de uma nova era planetária: primeiro Holoceno, hoje Antropoceno, amanhã o radioso Mecanoceno. Na nova eficientíssima era das máquinas em forma de homem dominadas pela inteligência artificial e até mesmo pela "consciência" artificial, não é garantido que a estupidez será definitivamente eliminada, pois há ignorantes que não são estúpidos e há eruditos completamente estúpidos. Então a pergunta retorna: qual é o nome daquela dimensão a respeito da qual a inteligência está a serviço e que é a nossa mais preciosa riqueza?
Os antigos gregos a chamavam de Sophia, os latinos de Sapientia, os judeus de Hokmà, outras civilizações de outras maneiras.
Para usufruir dela e cultivá-la dentro de si, não são necessárias máquinas, mas silêncio, vontade de estudar, amor pela verdade. Servem as quatro virtudes cardeais listadas primeiro por Platão: sabedoria, justiça, força e temperança. Quem a ensina hoje, quem as conhece?
Eu estava lendo outro dia que o estado de Nova York repensou e vai permitir a utilização na escola do Chat-GPT porque, dizem os responsáveis, não se pode privar as crianças das ferramentas que depois como adultos na vida real terão que usar diariamente. Anteriormente, os mesmos responsáveis haviam proibido seu uso na escola. Quando erraram? Seis meses atrás ou ontem? Não sei, eu não sou a nova "boca da verdade" chamada Chat-GPT que tem resposta a tudo, mas sinto que provavelmente a verdade, como quase sempre, está no meio termo. Existem disciplinas escolares para as quais o Chat-GPT é útil e privar-se dele seria estúpido, mas há outras para os quais seu uso seria nocivo, talvez letal, porque privaria a própria essência da pesquisa intelectual. Qual é essa essência?
Lessing, um filósofo iluminista alemão, escreveu em 1778 o seguinte: “Se Deus tivesse na sua mão direita toda a verdade e na esquerda o único eterno impulso para a verdade, e me dissesse: Escolha!, eu correria humildemente para a sua esquerda e diria: Concede-me esta, Pai! A verdade pura é somente para você!". Hoje no lugar de Deus está a máquina, hoje no centro do altar da nossa mente está a tecnologia, e se as antigas tragédias conheciam o Deus ex machina hoje temos Deus sive Machina.
Emanuele Severino resumiu bem a situação: “Deus é o primeiro técnico, a Técnica é o último deus". Para indicar a essência da indagação, reformulo assim as palavras de Lessing: “Se a Máquina tiver na mão direita todo conhecimento e a eficiência, e na esquerda apenas o eterno impulso para a pesquisa e o trabalho, e me disser: Escolha!, eu escolheria a esquerda dizendo: Conceda-me isto, Senhora! O conhecimento total e a eficiência pura são somente para você!”.
De que adianta saber que o cérebro é formado por 87 bilhões de neurônios, cada um dos quais conectado a outros dez mil neurônios para uma soma estratosférica de conexões chamada "conectoma", se depois não sei usar de forma sábia a mente que dele emana?
Sócrates não sabia nada sobre neurônios, hipocampo e amígdala, mas ele usava a sua mente da maneira sublime que ainda nos ilumina. A que serve conhecer a estrutura do átomo se depois uso esse conhecimento para fazer a bomba atômica e os projéteis de urânio empobrecido? Em suma, de que serve a inteligência, se depois não for capaz de gerar sabedoria? De fato, essa é a finalidade da vida: ser sábios, ter sabor. Em relação a isso, a inteligência é apenas um meio.
Hoje, porém, nós confundimos o meio com o fim, e assim nos encontramos à mercê das aquisições científicas como se apenas estas tivessem valor em si mesmas, como se o mero fato de poder realizar uma performance cognitiva e tecnológica realizaria o objetivo da vida. Poder para ter mais poder, com o conhecimento científico subserviente ao poderio técnico: esse é o status contemporâneo. E é por isso que, admito, a inteligência artificial me assusta. Não me assusta em si mesma, porque amo a inteligência e busco conhecimento desde criança; me assusta porque não é guiada por nenhuma sabedoria e pode paradoxalmente coincidir com o alastramento da estupidez.
Novamente Bonhoeffer: “Percebemos com espanto que, em certas circunstâncias, os homens tornam-se estúpidos, ou seja, deixam-se tornar estúpidos”. Ele acrescentava que naqueles que vivem de maneira bastante solitária, a marca da estupidez está menos presente do que naqueles que vivem constantemente em companhia. O fato, porém, acrescento eu, é que hoje quase todos nós vivemos em constante companhia, estamos sempre todos conectados, somos espectadores, somos sociais, à mercê de influenciadores e influências de todo tipo. E a estupidez, logicamente, se alastra. E o que acontece nesse cenário? Acontece que a essa humanidade cada vez mais incapaz de se governar alguém oferece (certamente não desinteressadamente) a inteligência artificial. Disso decorre o pesadelo - estupidez natural + inteligência artificial. Como irão chamar o resultado da adição?
De acordo com Bonhoeffer, que não por acaso escrevia "dez anos depois", a estupidez era um problema acima de tudo político: em sua opinião, de fato, “qualquer ostentação exterior de poder, seja político ou religioso" (hoje eu tiro religioso e acrescento técnico-científico) "causa estupidificação de uma grande parte dos homens". Ele vislumbrava uma espécie de lei sócio-psicológica: “O poder de um requer a estupidez dos outros”. E ainda: “Sob a impressão avassaladora produzida pela ostentação de poder, o homem é roubado de sua independência interior e renuncia assim, mais ou menos conscientemente, a assumir uma atitude pessoal diante das situações".
Eis aqui, perfeitamente delineado, o ponto: a independência interior. É a isso que se deve almejar. Já temos bastante técnicos que sabem tudo sobre genoma e redes neurais e depois colocam seus conhecimentos a serviço de quem paga mais, são o resultado de uma escola que entrega apenas formação e negligencia totalmente a educação. De fato, a formação tem por objetivo o técnico, o competente; a educação, ao contrário, o homem livre, independente. Obviamente, as duas coisas devem andar juntas, mas hoje a primeira inquestionavelmente prevalece.
Neste artigo, argumentei que a inteligência artificial não é necessariamente o contrário da estupidez natural. Pode haver um seu uso que reduz a estupidez natural e outro que a incrementa. De fato, a estupidez não é a ausência de conhecimento, mas ausência de sabedoria, ou seja, daquela qualidade da qual depende a humanidade.