Os algoritmos não têm vida própria. Artigo de Raúl Zibechi

“O aperfeiçoamento das tecnologias para o controle da vida, da natureza e de tudo o que é humano é a marca registrada do capitalismo. Dessa forma, aumenta seus lucros, submetendo cada vez mais os seres humanos”, escreve Raúl Zibechi, jornalista e analista político uruguaio, em artigo publicado por La Jornada, 21-02-2025. A tradução é do Cepat.

Eis o artigo.

A massificação do uso da inteligência artificial (IA) e a naturalização de seus resultados não andam de mãos dadas com a compreensão de seus mecanismos, de quem a promove e com que interesses e objetivos. Se não fizermos esse exercício, seremos vítimas passivas de modos que não conhecemos.

Em uma entrevista recente, o historiador e filósofo Yuval Harari argumenta que a IA permite “uma vigilância total que acaba com qualquer liberdade”. Alerta que a capacidade de vigilância supera abundantemente a de qualquer ditadura ou regime totalitário, já que por meio das câmeras de vigilância com capacidade de reconhecimento facial e dos celulares, tem a capacidade de controlar até as mínimas atitudes de todas as pessoas, em todos os lugares em que a internet chega.

Pessoalmente, já comprovei que me enviam publicidade de produtos ou de marcas sobre os quais estou falando com minha família e amigos, quase imediatamente. Sabemos que, por meio dos celulares, a IA permite escutar qualquer conversa, por mais íntima que seja, qualquer movimento e comunicação que façamos.

Harari diz que “a IA é diferente de qualquer tecnologia inventada antes” porque, ao contrário das tecnologias anteriores, não está nas mãos de humanos, nem é uma ferramenta que deve ser ativada por pessoas, mas “um agente independente” que tem a capacidade de tomar decisões “por conta própria”. Argumenta que nos meios de comunicação que “integram a base de uma democracia em larga escala” não são mais os editores que tomam as decisões editoriais, são “os algoritmos que decidem qual deve ser a história recomendada”.

Penso que muitos dos argumentos de Harari são interessantes e que sua denúncia da manipulação massiva da informação é muito importante. Ele dá um passo além para aprofundar as consequências da IA: “os algoritmos das empresas descobriram que é preciso disseminar fake news e teorias que aumentem as doses de ódio, medo e raiva nos usuários, pois isso faz com que as pessoas se envolvam, passem mais tempo nas plataformas e enviem links para que seus amigos também fiquem com raiva e sintam medo.”

Conclui que este é um modelo de negócio porque “o envolvimento do usuário é a base de tudo”, de modo que o tempo que cada usuário passa nas plataformas faz com que as empresas ganhem mais dinheiro, pois vendem mais anúncios e, sobretudo, “coletam dados que depois venderão a terceiros”. Uma análise bem interessante, que termina com uma frase devastadora: “As pessoas do setor estão presas em uma mentalidade de corrida armamentista, de competidores, e de não deixar que os outros ganhem”.

Acredito, no entanto, que faltam dois aspectos para completar o quadro, pois, caso contrário, o contexto do que verdadeiramente está acontecendo pode ser perdido: o primeiro é que os algoritmos não têm vida própria, mas foram criados pelo sistema para melhorar seus lucros, aprofundando o controle de nossas mentes. O segundo é que a história do capitalismo é justamente esta.

Quando Harari argumenta que a IA toma decisões por conta própria, isto é apenas parcialmente verdadeiro, caso olhemos apenas para a tecnologia, mas não para aqueles que a criaram e a operam para conhecer até mesmo os desejos mais profundos das pessoas.

Em segundo lugar, devemos voltar à história do panóptico, do taylorismo e do fordismo para ver como o controle do capitalismo foi sendo aprofundado.

O panóptico surge nos exércitos. As tendas dos soldados tinham que estar rigorosamente alinhadas para que os oficiais pudessem detectar o menor movimento. Depois, transferiu-se para as prisões, os hospitais, os centros educacionais, as fábricas; sempre para limitar a autonomia das pessoas. As câmeras que estão se multiplicando em nossas cidades têm o mesmo objetivo.

Nas fábricas, no período da manufatura, o operário especializado controlava as máquinas e seus tempos de trabalho. No final do século XIX, impôs-se a “organização científica do trabalho”, idealizada por Frederick Taylor, que dividia as tarefas entre aqueles que executam movimentos e aqueles que planejam e dão ordens. O objetivo era transformar o operário em um “gorila adestrado”, submetido às máquinas, capaz apenas de fazer movimentos precisos e cronometrados.

Com a linha de montagem criada nas fábricas Ford, encerra-se um primeiro ciclo de controle dos operários, depois aprofundado com o “toyotismo”, quando os trabalhadores conseguiram neutralizar os modos de exploração anteriores, na década de lutas operárias de 1960.

O aperfeiçoamento das tecnologias para o controle da vida, da natureza e de tudo o que é humano é a marca registrada do capitalismo. Dessa forma, aumenta seus lucros, submetendo cada vez mais os seres humanos. Surgirão novas e mais sofisticadas formas de controle, porque os de baixo sempre encontram maneiras de resistir e burlar os de cima.

Leia mais

• “A inteligência artificial permite uma vigilância total que acaba com qualquer liberdade”. Entrevista com Yuval Noah Harari
• Yuval Noah Harari: “Existe um potencial totalitário na inteligência artificial nunca antes visto”
• “Começamos a ver como as decisões dos algoritmos moldam a política, a cultura e a sociedade”. Entrevista com Yuval Noah Harari
• Yuval Noah Harari: nova era do imperialismo
• “A inteligência artificial está nos levando a uma nova fase do conhecimento”. Entrevista com Paolo Benanti
• “A tecnologia deve ser para a pessoa ou se corre o risco de um totalitarismo digital”
• Paolo Benanti: “A inteligência artificial não é apenas uma tecnologia, mas uma nova fronteira”
• A democracia à prova do poder dos computadores. Artigo de Paolo Benanti
• Democracia computacional. O que muda na era da IA. Artigo de Paolo Benanti
• IA e a geração de desigualdades multidimensionais: da civilização dos ricos à civilização dos pobres
• Metaverso. Novas possibilidades e desafios para a Igreja. Entrevista especial com Moisés Sbardelotto
• "E o Verbo se fez bit": Uma análise da experiência religiosa na internet. Artigo de Moisés Sbardelotto. Cadernos IHU Nº. 35
• “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton
• Pausar desenvolvimento de IA não é suficiente. “Desliguem tudo”, alerta um dos fundadores da área
• Inteligência Artificial é uma ferramenta muito útil, mas não é inteligente. Entrevista especial com Walter Carnielli
• Pioneiro da IA deixa Google e alerta para risco à humanidade
• O aviso de Stephen Hawking, em 2014, sobre a inteligência artificial
• Algorética: os valores atemporais da religião e sua contribuição insubstituível para o desenvolvimento humano e pacífico da inteligência artificial. Artigo de Paolo Benanti
• Roberto Busa: entre cérebro mecânico e cérebro espiritual
• A globalização do paradigma tecnocrático
• “A inteligência artificial não é uma ameaça, mas, se não a usarmos bem, pode se tornar”. Entrevista com Fredi Vivas
• A inteligência artificial e a espiral do caos. Artigo de Franco ‘Bifo’ Berardi
• Éric Sadin: “O ChatGPT é um movimento civilizatório com profundas consequências antropológicas”