"A fronteira da IA revela mais sobre nós, sobre o que realmente é aprendizado e inteligência no humano 'natural', do que cassandras chomskyanas imaginam estarem desmascarando no ser artificial".

O artigo é de Bruno Cava Rodrigues, graduado em Engenharia pelo Instituto Tecnológico de Aeronáutica - ITA e em Direito pela Universidade do Estado do Rio de Janeiro - UERJ, publicado por Rede Universidade Nômade - UniNomade, 19-03-2023.

Autor de várias obras, além do livro A vida da moeda: crédito, imagens, confiança (MAUAD X, 2020), também publicou A multidão foi ao deserto (Annablume, 2013) e, com Alexandre Mendes, A constituição do comum (2017). 

Eis o artigo. 

Chomsky virou aquelas matronas de livro que se arrogam o dever moral de alertá-lo sobre os perigos do mundo. Afinal, algo pode dar errado, existem pessoas más lá fora, não se deixe enganar, os lobos em pele de cordeiro, nem tudo que brilha é ouro e chavões admonitórios do tipo. É um macete.

Na recente intervenção no New York Times, traduzida ao português pela Folha (‘A falsa promessa do ChatGPT‘), Chomsky acusa o último protótipo de chatbot de exibir a “banalidade do mal”, “degradação da ciência”, “rebaixamento da ética” e “é pra rir ou chorar de sua popularidade”.

Chomsky investe contra um dos mais instigantes e densos campos de pesquisa científica hoje: Inteligência Artificial e/ou aprendizado de máquina.

Segundo Chomsky, é o triunfo do plágio no mais alto grau. De fato, milhões de estudantes em língua inglesa já estão usando o ChatGPT para fazer seus deveres de casa. Isso mostra como o ChatGPT é amoral? Que as crianças e adolescentes são imorais? Não. Mostra como devemos reavaliar o dever de casa que é passado nas escolas do século XXI.

A fronteira da IA revela mais sobre nós, sobre o que realmente é aprendizado e inteligência no humano “natural”, do que cassandras chomskyanas imaginam estarem desmascarando no ser artificial.

Fazer profecias apocalípticas é um truque velho para parecer mais inteligente do que se é. Por mais inteligente e palpitante que o conjunto da obra e todas as intervenções públicas de Chomsky sejam, esse seu último artigo ficou aquém do sofrível.

O artigo é tão fraco que acusa o ChatGPT de não conseguir captar a nuance da frase “João é teimoso demais para conversar”, porque o bot ficaria “marinando no big data”. O autor nem se deu ao trabalho de fazer o teste, como aqueles jesuítas que acusaram Galileu, mas não olhavam no telescópio. Ora, uma multidão foi lá checar e o ChatGPT, na grande maioria das interações, pegou a referida nuance. Não foi difícil.

Nem a citação de Borges no início funciona bem com o desenvolvimento argumentativo adotado por Chomsky e os dois coautores. Ficou parecendo mais um enfeite, um penduricalho retórico. E justo de Borges, que tem tantos textos sobre bibliotecas imensas, mas fúteis e inúteis. A obra borgiana tem diversas passagens que Chomsky poderia ter aproveitado para ilustrar sua acusação. A mim, só um leitor esparso e irregular de Borges, me ocorrem de imediato o conto “Funes, o memorioso” e “A biblioteca de Babel”, que sentariam muito melhor no artigo do que a passagem escolhida por eles.

Nem dá para dizer que Chomsky se apegou a algum sentimento de velha guarda, que não consegue mais compreender as novas gerações, que olha torto para as ciências de fronteira, repetindo “nada de novo sob o Sol”.

Não é isso. Não pode ser falta de atualização. A base teórica para o desenvolvimento do ChatGPT pode ser encontrada na teoria matemática da comunicação de Claude Shannon, publicada em um artigo de 1948, na década anterior aos primeiros trabalhos acadêmicos de Chomsky. Supõe-se que ele tenha lido, porque é canônico. E para um a-b-c sobre modelagem estatística de aprendizado linguístico, se pode conferir o livrinho de capa verde de Eugene Charniak (MIT Press, 1993), superpertinente.

Não foi a primeira vez que Chomsky desmereceu o campo da IA. Convidado para falar num simpósio por ocasião do 150º aniversário do MIT, de que foi docente, desdenhou em sua fala dos pesquisadores presentes e de suas pesquisas em IA/aprendizado de máquina. A fala completa dele está disponível online. Extraio alguns pontos quentes das acusações de Chomsky:

1) Não seria ciência, apenas aplicação prática de engenharia;

2) Apenas se aplicariam métodos indutivos de força bruta num conjunto abissal de dados para produzir as respostas, mas a máquina não compreende o significado, não interpreta os dados, não agrega valor de conhecimento;

3) Trabalha-se apenas com correlação e não causalidade, o que não alcança estatuto científico; e

4) Não se eleva ao método humano de aprendizado e uso da linguagem, o único significativo, criativo e ético, enquanto o da máquina seria apenas maquinal, vazio de sentido.

A palavra apenas está sobrando nos quatro pontos chomskyanos. Apresento abaixo alguns motivos por que está sobrando:

1) As engenharias não deixam de ser ciências, embora sejam ciências aplicadas, debruçadas em como os sistemas funcionam, o que fazem, para que servem. Nessa atividade prática, suscitam desenvolvimentos das ciências teóricas e seus modelos. Frequentemente, engenheiros e inventores vêm antes dos pesquisadores que, a posteriori, aproveitam os achados e vão teorizar sobre o que fizeram, sobre o que funcionou ou não funcionou.

Chomsky parece esquecer capítulos relevantes da história das ciências. Por exemplo, que a Termodinâmica não antecedeu os primeiros motores a vapor e o ciclo de Carnot. Não é que vieram os físicos e ensinaram os engenheiros a fazer motores. Ao contrário, os técnicos da revolução industrial precederam as formulações e modelagens da Termodinâmica.

Outro exemplo é a teoria monetária: praticada por mercadores, banqueiros e financistas antes de qualquer economista modelar a lógica do dinheiro ou lhes guiar a prática.

Dei dois exemplos de antecedência nítida, mas no geral o funcionamento é entretecido e concomitante, em circuito virtuoso.

Não bastasse isso, desde o final da década de 1940, a virada cibernética que apontou para a IA se deu abrindo um espaço transdisciplinar, interligando ciências exatas, humanas e biológicas. O título do chef d´œuvre de Norbert Wiener, também de 1948, é: “Cybernetics: or control and communication in the animal and the machine”.

Chomsky fazer uma defesa purista da ciência teórica em 2023 denota um desconhecimento básico sobre pelo menos 80 anos de pesquisa e desenvolvimento desse campo.

2) Pode-se dizer o que quiser que o chatbot não está compreendendo o que diz, que não entende “como um humano” entende, ou que está apenas adensando sentenças por funções de probabilidade. Ocorre que se, tomando as respostas, você não conseguir diferenciar o que o bot faz do que uma pessoa humana faz, a diferença não é relevante. A máquina em questão passa no teste de Turing se você não conseguir mais distinguir, num teste informado e esclarecido, entre as respostas dela e as respostas humanas. Não estou dizendo que o ChatGPT passa no teste de Turing em sua versão qualificada. Porém, a recente evolução dos modelos de linguagem, associada a melhores algoritmos e maior volume de dados, está caminhando nesse sentido.

O que acontece no interior do silício, o grau de “consciência” imanente ao processo, é uma questão interessante; contudo, qualquer que seja a resposta, não desqualifica a produção dos resultados, como Chomsky parece acreditar.

3) Esta objeção é a única pertinente, mas pressupõe que a inteligência humana tenha facilidade em diferenciar causalidade de correlação. Não temos. É um problema geral e que corta transversalmente as ciências e as pesquisas mais avançadas. É verdade, contudo, que o ser humano tem acesso a um senso comum, generalista, capaz de reduzir enormemente o leque possível de inferências causais. Nem sempre é uma vantagem, pois amarra o criativo, a pensar diferente, a ‘penser autrement’.

De todo modo, não significa que um modelo algorítmico transformador de linguagem não possa ser treinado de modo a tornar-se mais seletivo, para abarcar a distinção correlação/causalidade. Essa objeção de Chomsky, no fundo, é um limite produtivo, pois leva os pesquisadores e engenheiros a aprofundar não só o modelo matemático implicado, como também as distinções sutis e metafisicamente manhosas entre correlação e causalidade.

4) Neste ponto, vale remeter ao debate entre Foucault e Chomsky em 1971. Nele, Chomsky defende que a natureza humana contém, em seu código genético, invariantes estruturais que ordenam uma gramática universal.

Já Foucault argumenta que habitamos um solo epistemológico que nos condiciona o que pode ser dito e as relações entre o dito e o não-dito, entre o saber e o poder, nada existindo de universalmente válido. Por assim dizer, Foucault historiciza o sujeito transcendental kantiano, isto é, ele nega a unidade de um ser humano que teria surgido como ser mudo e depois adquirido a linguagem. Em Foucault, a própria noção de uma natureza humana é um constructo epistêmico específico e delicado, que aliás caiu em desuso com a passagem para a idade moderna (a dita “Morte do Homem”, que sucede a de Deus). Seria interessantíssimo ler o que Foucault, da mesma geração de Chomsky, teria escrito sobre o ChatGPT se estivesse vivo.

Não me admira que Chomsky, um libertário e inventivo intelectual no século XX, tenha se tornado um conservador tout court. Outras manifestações recentes dele, no campo político, caem nesse mesmo problema: o que parecia ousado e subversivo há 40 anos, repetido hoje, numa nova conjuntura, soa somente melodramático.

Leia mais

• Bolsonarismo é mais um sintoma do que uma causa da doença do corpo social que leva as pessoas a lutar por sua própria servidão. Entrevista especial com Bruno Cava
• É mais fácil imaginar o fim do mundo do que o fim de Putin? Artigo de Bruno Cava e Giuseppe Cocco
• Lula não é mais que um Biden brasileiro. Artigo de Bruno Cava
• A desmobilização oportuna. Artigo de Bruno Cava
• “Estamos mais perto das doze badaladas do Doomsday Clock (Relógio do Juízo Final)”. Comentário de Bruno Cava
• O que Noam Chomsky pensa a respeito da Inteligência Artificial do ChatGPT
• As cinco perguntas sobre o sucesso do ChatGPT
• ChatGPT: nem monstro, nem tábua de salvação
• Castells: o que (não) penso sobre o ChatGPT
• ChatGPT: entenda como funciona a inteligência artificial do momento - e os riscos que ela traz
• ChatGPT. “Apesar da IA, ainda temos o monopólio da consciência”
• O GPT-3 desafia a inércia acadêmica
• Biopolítica algorítmica. Como as humanidades são impactadas e podem impactar a Inteligência Artificial. Entrevista especial com Virgilio Almeida
• Inteligência Artificial e Saúde: para todos ou para quase ninguém?
• Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti
• “A inteligência artificial está se tornando senciente”, avisa engenheiro do Google. E Big G o suspende
• Dar uma ética à inteligência artificial: um desafio contado em livro
• A inteligência artificial não precisa de inteligência: o pensamento de Luciano Floridi
• “Ética da inteligência artificial”, novo livro de Luciano Floridi
• A necessidade de uma algorética para enfrentar o desafio da inteligência artificial. Artigo de Paolo Benanti
• É possível confiar na inteligência artificial?
• A inteligência artificial pode nos ensinar a ser mais humanos?
• Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
• Inteligência Artificial no Sul Global. Alguns comentários a Jack Qiu
• “A inteligência artificial já faz parte da nossa cotidianidade.” Entrevista com Luciano Floridi