23 Março 2023
"A fronteira da IA revela mais sobre nós, sobre o que realmente é aprendizado e inteligência no humano 'natural', do que cassandras chomskyanas imaginam estarem desmascarando no ser artificial".
O artigo é de Bruno Cava Rodrigues, graduado em Engenharia pelo Instituto Tecnológico de Aeronáutica - ITA e em Direito pela Universidade do Estado do Rio de Janeiro - UERJ, publicado por Rede Universidade Nômade - UniNomade, 19-03-2023.
Autor de várias obras, além do livro A vida da moeda: crédito, imagens, confiança (MAUAD X, 2020), também publicou A multidão foi ao deserto (Annablume, 2013) e, com Alexandre Mendes, A constituição do comum (2017).
Chomsky virou aquelas matronas de livro que se arrogam o dever moral de alertá-lo sobre os perigos do mundo. Afinal, algo pode dar errado, existem pessoas más lá fora, não se deixe enganar, os lobos em pele de cordeiro, nem tudo que brilha é ouro e chavões admonitórios do tipo. É um macete.
Na recente intervenção no New York Times, traduzida ao português pela Folha (‘A falsa promessa do ChatGPT‘), Chomsky acusa o último protótipo de chatbot de exibir a “banalidade do mal”, “degradação da ciência”, “rebaixamento da ética” e “é pra rir ou chorar de sua popularidade”.
Chomsky investe contra um dos mais instigantes e densos campos de pesquisa científica hoje: Inteligência Artificial e/ou aprendizado de máquina.
Segundo Chomsky, é o triunfo do plágio no mais alto grau. De fato, milhões de estudantes em língua inglesa já estão usando o ChatGPT para fazer seus deveres de casa. Isso mostra como o ChatGPT é amoral? Que as crianças e adolescentes são imorais? Não. Mostra como devemos reavaliar o dever de casa que é passado nas escolas do século XXI.
A fronteira da IA revela mais sobre nós, sobre o que realmente é aprendizado e inteligência no humano “natural”, do que cassandras chomskyanas imaginam estarem desmascarando no ser artificial.
Ciclo de Estudos Inteligência Artificial, fronteiras tecnológicas e devires humanos.
Fazer profecias apocalípticas é um truque velho para parecer mais inteligente do que se é. Por mais inteligente e palpitante que o conjunto da obra e todas as intervenções públicas de Chomsky sejam, esse seu último artigo ficou aquém do sofrível.
O artigo é tão fraco que acusa o ChatGPT de não conseguir captar a nuance da frase “João é teimoso demais para conversar”, porque o bot ficaria “marinando no big data”. O autor nem se deu ao trabalho de fazer o teste, como aqueles jesuítas que acusaram Galileu, mas não olhavam no telescópio. Ora, uma multidão foi lá checar e o ChatGPT, na grande maioria das interações, pegou a referida nuance. Não foi difícil.
Nem a citação de Borges no início funciona bem com o desenvolvimento argumentativo adotado por Chomsky e os dois coautores. Ficou parecendo mais um enfeite, um penduricalho retórico. E justo de Borges, que tem tantos textos sobre bibliotecas imensas, mas fúteis e inúteis. A obra borgiana tem diversas passagens que Chomsky poderia ter aproveitado para ilustrar sua acusação. A mim, só um leitor esparso e irregular de Borges, me ocorrem de imediato o conto “Funes, o memorioso” e “A biblioteca de Babel”, que sentariam muito melhor no artigo do que a passagem escolhida por eles.
Nem dá para dizer que Chomsky se apegou a algum sentimento de velha guarda, que não consegue mais compreender as novas gerações, que olha torto para as ciências de fronteira, repetindo “nada de novo sob o Sol”.
Não é isso. Não pode ser falta de atualização. A base teórica para o desenvolvimento do ChatGPT pode ser encontrada na teoria matemática da comunicação de Claude Shannon, publicada em um artigo de 1948, na década anterior aos primeiros trabalhos acadêmicos de Chomsky. Supõe-se que ele tenha lido, porque é canônico. E para um a-b-c sobre modelagem estatística de aprendizado linguístico, se pode conferir o livrinho de capa verde de Eugene Charniak (MIT Press, 1993), superpertinente.
Não foi a primeira vez que Chomsky desmereceu o campo da IA. Convidado para falar num simpósio por ocasião do 150º aniversário do MIT, de que foi docente, desdenhou em sua fala dos pesquisadores presentes e de suas pesquisas em IA/aprendizado de máquina. A fala completa dele está disponível online. Extraio alguns pontos quentes das acusações de Chomsky:
1) Não seria ciência, apenas aplicação prática de engenharia;
2) Apenas se aplicariam métodos indutivos de força bruta num conjunto abissal de dados para produzir as respostas, mas a máquina não compreende o significado, não interpreta os dados, não agrega valor de conhecimento;
3) Trabalha-se apenas com correlação e não causalidade, o que não alcança estatuto científico; e
4) Não se eleva ao método humano de aprendizado e uso da linguagem, o único significativo, criativo e ético, enquanto o da máquina seria apenas maquinal, vazio de sentido.
A palavra apenas está sobrando nos quatro pontos chomskyanos. Apresento abaixo alguns motivos por que está sobrando:
1) As engenharias não deixam de ser ciências, embora sejam ciências aplicadas, debruçadas em como os sistemas funcionam, o que fazem, para que servem. Nessa atividade prática, suscitam desenvolvimentos das ciências teóricas e seus modelos. Frequentemente, engenheiros e inventores vêm antes dos pesquisadores que, a posteriori, aproveitam os achados e vão teorizar sobre o que fizeram, sobre o que funcionou ou não funcionou.
Chomsky parece esquecer capítulos relevantes da história das ciências. Por exemplo, que a Termodinâmica não antecedeu os primeiros motores a vapor e o ciclo de Carnot. Não é que vieram os físicos e ensinaram os engenheiros a fazer motores. Ao contrário, os técnicos da revolução industrial precederam as formulações e modelagens da Termodinâmica.
Outro exemplo é a teoria monetária: praticada por mercadores, banqueiros e financistas antes de qualquer economista modelar a lógica do dinheiro ou lhes guiar a prática.
Dei dois exemplos de antecedência nítida, mas no geral o funcionamento é entretecido e concomitante, em circuito virtuoso.
Não bastasse isso, desde o final da década de 1940, a virada cibernética que apontou para a IA se deu abrindo um espaço transdisciplinar, interligando ciências exatas, humanas e biológicas. O título do chef d´œuvre de Norbert Wiener, também de 1948, é: “Cybernetics: or control and communication in the animal and the machine”.
ChatGPT e os impactos da inteligência artificial na educação
Chomsky fazer uma defesa purista da ciência teórica em 2023 denota um desconhecimento básico sobre pelo menos 80 anos de pesquisa e desenvolvimento desse campo.
2) Pode-se dizer o que quiser que o chatbot não está compreendendo o que diz, que não entende “como um humano” entende, ou que está apenas adensando sentenças por funções de probabilidade. Ocorre que se, tomando as respostas, você não conseguir diferenciar o que o bot faz do que uma pessoa humana faz, a diferença não é relevante. A máquina em questão passa no teste de Turing se você não conseguir mais distinguir, num teste informado e esclarecido, entre as respostas dela e as respostas humanas. Não estou dizendo que o ChatGPT passa no teste de Turing em sua versão qualificada. Porém, a recente evolução dos modelos de linguagem, associada a melhores algoritmos e maior volume de dados, está caminhando nesse sentido.
O que acontece no interior do silício, o grau de “consciência” imanente ao processo, é uma questão interessante; contudo, qualquer que seja a resposta, não desqualifica a produção dos resultados, como Chomsky parece acreditar.
3) Esta objeção é a única pertinente, mas pressupõe que a inteligência humana tenha facilidade em diferenciar causalidade de correlação. Não temos. É um problema geral e que corta transversalmente as ciências e as pesquisas mais avançadas. É verdade, contudo, que o ser humano tem acesso a um senso comum, generalista, capaz de reduzir enormemente o leque possível de inferências causais. Nem sempre é uma vantagem, pois amarra o criativo, a pensar diferente, a ‘penser autrement’.
De todo modo, não significa que um modelo algorítmico transformador de linguagem não possa ser treinado de modo a tornar-se mais seletivo, para abarcar a distinção correlação/causalidade. Essa objeção de Chomsky, no fundo, é um limite produtivo, pois leva os pesquisadores e engenheiros a aprofundar não só o modelo matemático implicado, como também as distinções sutis e metafisicamente manhosas entre correlação e causalidade.
4) Neste ponto, vale remeter ao debate entre Foucault e Chomsky em 1971. Nele, Chomsky defende que a natureza humana contém, em seu código genético, invariantes estruturais que ordenam uma gramática universal.
Já Foucault argumenta que habitamos um solo epistemológico que nos condiciona o que pode ser dito e as relações entre o dito e o não-dito, entre o saber e o poder, nada existindo de universalmente válido. Por assim dizer, Foucault historiciza o sujeito transcendental kantiano, isto é, ele nega a unidade de um ser humano que teria surgido como ser mudo e depois adquirido a linguagem. Em Foucault, a própria noção de uma natureza humana é um constructo epistêmico específico e delicado, que aliás caiu em desuso com a passagem para a idade moderna (a dita “Morte do Homem”, que sucede a de Deus). Seria interessantíssimo ler o que Foucault, da mesma geração de Chomsky, teria escrito sobre o ChatGPT se estivesse vivo.
Não me admira que Chomsky, um libertário e inventivo intelectual no século XX, tenha se tornado um conservador tout court. Outras manifestações recentes dele, no campo político, caem nesse mesmo problema: o que parecia ousado e subversivo há 40 anos, repetido hoje, numa nova conjuntura, soa somente melodramático.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Chomsky e o melodrama tecnofóbico. Artigo de Bruno Cava - Instituto Humanitas Unisinos - IHU
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS"Las actuales políticas están pensadas para proteger la autoridad estatal y los poderes nacionales concentrados en unos pocos gr[...]
LER MAIS
