• Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato
close
search
  • Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato
search

##TWEET

Tweet

Chomsky e o melodrama tecnofóbico. Artigo de Bruno Cava

Mais Lidos

  • “O Brasil é uma sociedade onde sentimos muito amor ao Cristo. Mas como continuar juntos, em uma sociedade com muitos contrastes? Como fazer com que seja possível viver algo de modo mais igual?”, questiona o prior de Taizé em primeira visita ao Brasil

    “O profetismo não é denunciar as coisas, mas viver e abrir caminhos de esperança”. Entrevista especial com irmão Matthew, prior de Taizé

    LER MAIS
  • Eichmann em Gaza. Artigo de Castor Mari Martín Bartolomé Ruiz

    LER MAIS
  • Psicanalista revela florescimento da psicanálise brasileira no regime ditatorial. Para ele, “Ainda Estou Aqui” é exemplar no reparo psíquico e na construção de um regime de sensibilidades mais complexo da ditadura. No divã, mostra que existe uma luta de classe histórica nesta área e critica a atual medicalização do sofrimento

    “Vivemos um novo 'boom' da psicanálise, o anterior foi na ditadura militar”. Entrevista especial com Rafael Alves Lima

    LER MAIS

Vídeos IHU

  • play_circle_outline

    MPVM - 6º Domingo da Páscoa – Ano C – O Espírito Santo vos recordará tudo o que eu vos tenho dito

close

FECHAR

Revista ihu on-line

Arte. A urgente tarefa de pensar o mundo com as mãos

Edição: 553

Leia mais

Zooliteratura. A virada animal e vegetal contra o antropocentrismo

Edição: 552

Leia mais

Modernismos. A fratura entre a modernidade artística e social no Brasil

Edição: 551

Leia mais
Image

COMPARTILHAR

  • FACEBOOK

  • X

  • IMPRIMIR PDF

  • WHATSAPP

close CANCELAR

share

23 Março 2023

"A fronteira da IA revela mais sobre nós, sobre o que realmente é aprendizado e inteligência no humano 'natural', do que cassandras chomskyanas imaginam estarem desmascarando no ser artificial".

O artigo é de Bruno Cava Rodrigues, graduado em Engenharia pelo Instituto Tecnológico de Aeronáutica - ITA e em Direito pela Universidade do Estado do Rio de Janeiro - UERJ, publicado por Rede Universidade Nômade - UniNomade, 19-03-2023.

Autor de várias obras, além do livro A vida da moeda: crédito, imagens, confiança (MAUAD X, 2020), também publicou A multidão foi ao deserto (Annablume, 2013) e, com Alexandre Mendes, A constituição do comum (2017). 

Eis o artigo. 

Chomsky virou aquelas matronas de livro que se arrogam o dever moral de alertá-lo sobre os perigos do mundo. Afinal, algo pode dar errado, existem pessoas más lá fora, não se deixe enganar, os lobos em pele de cordeiro, nem tudo que brilha é ouro e chavões admonitórios do tipo. É um macete.

Na recente intervenção no New York Times, traduzida ao português pela Folha (‘A falsa promessa do ChatGPT‘), Chomsky acusa o último protótipo de chatbot de exibir a “banalidade do mal”, “degradação da ciência”, “rebaixamento da ética” e “é pra rir ou chorar de sua popularidade”.

Chomsky investe contra um dos mais instigantes e densos campos de pesquisa científica hoje: Inteligência Artificial e/ou aprendizado de máquina.

Segundo Chomsky, é o triunfo do plágio no mais alto grau. De fato, milhões de estudantes em língua inglesa já estão usando o ChatGPT para fazer seus deveres de casa. Isso mostra como o ChatGPT é amoral? Que as crianças e adolescentes são imorais? Não. Mostra como devemos reavaliar o dever de casa que é passado nas escolas do século XXI.

A fronteira da IA revela mais sobre nós, sobre o que realmente é aprendizado e inteligência no humano “natural”, do que cassandras chomskyanas imaginam estarem desmascarando no ser artificial.

Ciclo de Estudos Inteligência Artificial, fronteiras tecnológicas e devires humanos.

Fazer profecias apocalípticas é um truque velho para parecer mais inteligente do que se é. Por mais inteligente e palpitante que o conjunto da obra e todas as intervenções públicas de Chomsky sejam, esse seu último artigo ficou aquém do sofrível.

O artigo é tão fraco que acusa o ChatGPT de não conseguir captar a nuance da frase “João é teimoso demais para conversar”, porque o bot ficaria “marinando no big data”. O autor nem se deu ao trabalho de fazer o teste, como aqueles jesuítas que acusaram Galileu, mas não olhavam no telescópio. Ora, uma multidão foi lá checar e o ChatGPT, na grande maioria das interações, pegou a referida nuance. Não foi difícil.

Nem a citação de Borges no início funciona bem com o desenvolvimento argumentativo adotado por Chomsky e os dois coautores. Ficou parecendo mais um enfeite, um penduricalho retórico. E justo de Borges, que tem tantos textos sobre bibliotecas imensas, mas fúteis e inúteis. A obra borgiana tem diversas passagens que Chomsky poderia ter aproveitado para ilustrar sua acusação. A mim, só um leitor esparso e irregular de Borges, me ocorrem de imediato o conto “Funes, o memorioso” e “A biblioteca de Babel”, que sentariam muito melhor no artigo do que a passagem escolhida por eles.

Nem dá para dizer que Chomsky se apegou a algum sentimento de velha guarda, que não consegue mais compreender as novas gerações, que olha torto para as ciências de fronteira, repetindo “nada de novo sob o Sol”.

Não é isso. Não pode ser falta de atualização. A base teórica para o desenvolvimento do ChatGPT pode ser encontrada na teoria matemática da comunicação de Claude Shannon, publicada em um artigo de 1948, na década anterior aos primeiros trabalhos acadêmicos de Chomsky. Supõe-se que ele tenha lido, porque é canônico. E para um a-b-c sobre modelagem estatística de aprendizado linguístico, se pode conferir o livrinho de capa verde de Eugene Charniak (MIT Press, 1993), superpertinente.

Não foi a primeira vez que Chomsky desmereceu o campo da IA. Convidado para falar num simpósio por ocasião do 150º aniversário do MIT, de que foi docente, desdenhou em sua fala dos pesquisadores presentes e de suas pesquisas em IA/aprendizado de máquina. A fala completa dele está disponível online. Extraio alguns pontos quentes das acusações de Chomsky:

1) Não seria ciência, apenas aplicação prática de engenharia;

2) Apenas se aplicariam métodos indutivos de força bruta num conjunto abissal de dados para produzir as respostas, mas a máquina não compreende o significado, não interpreta os dados, não agrega valor de conhecimento;

3) Trabalha-se apenas com correlação e não causalidade, o que não alcança estatuto científico; e

4) Não se eleva ao método humano de aprendizado e uso da linguagem, o único significativo, criativo e ético, enquanto o da máquina seria apenas maquinal, vazio de sentido.

A palavra apenas está sobrando nos quatro pontos chomskyanos. Apresento abaixo alguns motivos por que está sobrando:

1) As engenharias não deixam de ser ciências, embora sejam ciências aplicadas, debruçadas em como os sistemas funcionam, o que fazem, para que servem. Nessa atividade prática, suscitam desenvolvimentos das ciências teóricas e seus modelos. Frequentemente, engenheiros e inventores vêm antes dos pesquisadores que, a posteriori, aproveitam os achados e vão teorizar sobre o que fizeram, sobre o que funcionou ou não funcionou.

Chomsky parece esquecer capítulos relevantes da história das ciências. Por exemplo, que a Termodinâmica não antecedeu os primeiros motores a vapor e o ciclo de Carnot. Não é que vieram os físicos e ensinaram os engenheiros a fazer motores. Ao contrário, os técnicos da revolução industrial precederam as formulações e modelagens da Termodinâmica.

Outro exemplo é a teoria monetária: praticada por mercadores, banqueiros e financistas antes de qualquer economista modelar a lógica do dinheiro ou lhes guiar a prática.

Dei dois exemplos de antecedência nítida, mas no geral o funcionamento é entretecido e concomitante, em circuito virtuoso.

Não bastasse isso, desde o final da década de 1940, a virada cibernética que apontou para a IA se deu abrindo um espaço transdisciplinar, interligando ciências exatas, humanas e biológicas. O título do chef d´œuvre de Norbert Wiener, também de 1948, é: “Cybernetics: or control and communication in the animal and the machine”.

ChatGPT e os impactos da inteligência artificial na educação

Chomsky fazer uma defesa purista da ciência teórica em 2023 denota um desconhecimento básico sobre pelo menos 80 anos de pesquisa e desenvolvimento desse campo.

2) Pode-se dizer o que quiser que o chatbot não está compreendendo o que diz, que não entende “como um humano” entende, ou que está apenas adensando sentenças por funções de probabilidade. Ocorre que se, tomando as respostas, você não conseguir diferenciar o que o bot faz do que uma pessoa humana faz, a diferença não é relevante. A máquina em questão passa no teste de Turing se você não conseguir mais distinguir, num teste informado e esclarecido, entre as respostas dela e as respostas humanas. Não estou dizendo que o ChatGPT passa no teste de Turing em sua versão qualificada. Porém, a recente evolução dos modelos de linguagem, associada a melhores algoritmos e maior volume de dados, está caminhando nesse sentido.

O que acontece no interior do silício, o grau de “consciência” imanente ao processo, é uma questão interessante; contudo, qualquer que seja a resposta, não desqualifica a produção dos resultados, como Chomsky parece acreditar.

3) Esta objeção é a única pertinente, mas pressupõe que a inteligência humana tenha facilidade em diferenciar causalidade de correlação. Não temos. É um problema geral e que corta transversalmente as ciências e as pesquisas mais avançadas. É verdade, contudo, que o ser humano tem acesso a um senso comum, generalista, capaz de reduzir enormemente o leque possível de inferências causais. Nem sempre é uma vantagem, pois amarra o criativo, a pensar diferente, a ‘penser autrement’.

De todo modo, não significa que um modelo algorítmico transformador de linguagem não possa ser treinado de modo a tornar-se mais seletivo, para abarcar a distinção correlação/causalidade. Essa objeção de Chomsky, no fundo, é um limite produtivo, pois leva os pesquisadores e engenheiros a aprofundar não só o modelo matemático implicado, como também as distinções sutis e metafisicamente manhosas entre correlação e causalidade.

4) Neste ponto, vale remeter ao debate entre Foucault e Chomsky em 1971. Nele, Chomsky defende que a natureza humana contém, em seu código genético, invariantes estruturais que ordenam uma gramática universal.

Já Foucault argumenta que habitamos um solo epistemológico que nos condiciona o que pode ser dito e as relações entre o dito e o não-dito, entre o saber e o poder, nada existindo de universalmente válido. Por assim dizer, Foucault historiciza o sujeito transcendental kantiano, isto é, ele nega a unidade de um ser humano que teria surgido como ser mudo e depois adquirido a linguagem. Em Foucault, a própria noção de uma natureza humana é um constructo epistêmico específico e delicado, que aliás caiu em desuso com a passagem para a idade moderna (a dita “Morte do Homem”, que sucede a de Deus). Seria interessantíssimo ler o que Foucault, da mesma geração de Chomsky, teria escrito sobre o ChatGPT se estivesse vivo.

Não me admira que Chomsky, um libertário e inventivo intelectual no século XX, tenha se tornado um conservador tout court. Outras manifestações recentes dele, no campo político, caem nesse mesmo problema: o que parecia ousado e subversivo há 40 anos, repetido hoje, numa nova conjuntura, soa somente melodramático.

Leia mais

  • Bolsonarismo é mais um sintoma do que uma causa da doença do corpo social que leva as pessoas a lutar por sua própria servidão. Entrevista especial com Bruno Cava
  • É mais fácil imaginar o fim do mundo do que o fim de Putin? Artigo de Bruno Cava e Giuseppe Cocco
  • Lula não é mais que um Biden brasileiro. Artigo de Bruno Cava
  • A desmobilização oportuna. Artigo de Bruno Cava
  • “Estamos mais perto das doze badaladas do Doomsday Clock (Relógio do Juízo Final)”. Comentário de Bruno Cava
  • O que Noam Chomsky pensa a respeito da Inteligência Artificial do ChatGPT
  • As cinco perguntas sobre o sucesso do ChatGPT
  • ChatGPT: nem monstro, nem tábua de salvação
  • Castells: o que (não) penso sobre o ChatGPT
  • ChatGPT: entenda como funciona a inteligência artificial do momento - e os riscos que ela traz
  • ChatGPT. “Apesar da IA, ainda temos o monopólio da consciência”
  • O GPT-3 desafia a inércia acadêmica
  • Biopolítica algorítmica. Como as humanidades são impactadas e podem impactar a Inteligência Artificial. Entrevista especial com Virgilio Almeida
  • Inteligência Artificial e Saúde: para todos ou para quase ninguém?
  • Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti
  • “A inteligência artificial está se tornando senciente”, avisa engenheiro do Google. E Big G o suspende
  • Dar uma ética à inteligência artificial: um desafio contado em livro
  • A inteligência artificial não precisa de inteligência: o pensamento de Luciano Floridi
  • “Ética da inteligência artificial”, novo livro de Luciano Floridi
  • A necessidade de uma algorética para enfrentar o desafio da inteligência artificial. Artigo de Paolo Benanti
  • É possível confiar na inteligência artificial?
  • A inteligência artificial pode nos ensinar a ser mais humanos?
  • Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
  • Inteligência Artificial no Sul Global. Alguns comentários a Jack Qiu
  • “A inteligência artificial já faz parte da nossa cotidianidade.” Entrevista com Luciano Floridi

Notícias relacionadas

  • Un marco de justicia económica para el debate tecnológico

    En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]

    LER MAIS
  • El estado de vigilancia en los países libres. Artículo de Noam Chomsky

    "Las actuales políticas están pensadas para proteger la autoridad estatal y los poderes nacionales concentrados en unos pocos gr[...]

    LER MAIS
  • Para Chomsky, mal-estar social ameaça a democracia

    LER MAIS
  • O estado de vigilância nos países livres. Artigo de Noam Chomsky

    LER MAIS
  • Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato

Av. Unisinos, 950 - São Leopoldo - RS
CEP 93.022-750
Fone: +55 51 3590-8213
humanitas@unisinos.br
Copyright © 2016 - IHU - Todos direitos reservados