05 Agosto 2020
A árvore genealógica de nossa era digital – e de seu rebento rebelde, a inteligência artificial ou IA – é frondosa. Caso se acompanhe seus ramos, é possível avistar, entre os rastros perdidos de milhares de homens e mulheres, cujas histórias ficaram no esquecimento, figuras disruptivas que vão da matemática vitoriana Ada Lovelace a pioneiros informáticos como Claude Shannon e Alan Turing, a programadora Grace Hopper e John von Neumann, Vinton Cerf e Tim Berners-Lee, assim como o verdadeiro pater familias destas tecnologias colonizadoras: Marvin Minsky.
A entrevista é de Federico Kukso, publicada por La Nación, 01-08-2020. A tradução é do Cepat.
Assessor de Stanley Kubrick, em “2001: odisseia no espaço”, amigo próximo e leitor devoto de Isaac Asimov, este cientista cognitivo assentou as bases, lançou a revolução da inteligência artificial. Mas não era ingênuo. “Uma vez que os computadores obtenham o controle, é possível que nunca o recuperemos”, alertou em 1970. “Se tivermos sorte, poderão decidir nos manter como mascotes”.
No entanto, desde então, a cautela cedeu diante de uma espécie de fundamentalismo. Empreendedores e evangelizadores da digitalização total da sociedade que assimilam estas tecnologias com um tsunami, um fenômeno quase impossível de conter, apregoam que a inteligência artificial não deixará nada sem transmutar: o trabalho, a educação, a saúde, o esporte, a cultura, até a nossa intimidade e sensibilidade.
“A humanidade está se dotando, a passos largos, de um órgão que prescinde dela mesma, de seu direito de decidir com plena consciência e responsabilidade sobre as escolhas que a envolvem”, alerta o filósofo francês Éric Sadin, um pensador na contracorrente, que busca restituir a prudência no pensamento sobre a técnica.
Pertencente a uma minúscula, mas robusta linhagem de incrédulos, críticos e céticos, usualmente vistos como resmungões, o autor de “La inteligencia artificial o el desafío del siglo: anatomía de un antihumanismo radical” (Caja Negra) não glorifica estas tecnologias. Ao contrário, duvida delas, concebe a inteligência artificial como uma ameaça transcendental à humanidade.
Em seu livro, fala do “aparato retórico” que cerca as tecnologias digitais e especialmente a inteligência artificial: slogans publicitários, frases sem sentido, a inteligência artificial como uma “fonte de juventude” ou como a “nova eletricidade”. Qual o papel destes discursos na inserção destas tecnologias na imaginação do público, entre os investidores, entre os políticos?
Os termos que usamos contribuem para forjar nossas representações. A inteligência artificial foi considerada, desde inícios dos anos 2010, a questão econômica mais decisiva na qual convém investir de forma massiva. Além das empresas, também são os Estados que mobilizam todos os meios necessários para estar na salvaguarda. Todos estão fazendo deste objetivo uma grande causa nacional.
Na vanguarda, estão os Estados Unidos e a China, mas também uma série de países na América do Sul, Europa e Ásia. Esta exaltação diante das amplas perspectivas anunciadas gera uma abundância de discursos. Provavelmente, nunca foram ditas tantas bobagens a propósito de um fenômeno tão determinante.
Por quê?
É a grande embriaguez da época. Entendemos que estão sendo desenvolvidas transformações decisivas, mas em vez de trabalhar, como deveríamos, para compreender as apostas e todas as consequências envolvidas, deixamos que se manifestem pessoas que se erguem como especialistas, sem as questionar. A maioria delas é impulsionada por seus próprios interesses.
E agem para forjar uma doxa, uma opinião – especialmente com os políticos –, de que a inteligência artificial representa o horizonte econômico brilhante e inevitável de nosso tempo e que “não devemos perder o trem da história”. Em contraste com toda esta aceleração, e dado o alcance das consequências para a nossa civilização, é imperativo que estas questões sejam objeto de debates em concordância com os riscos que acarretam. Não é o que está acontecendo na atualidade.
Então, seria necessária uma teoria crítica da inteligência artificial?
Precisamos de uma contundentemente. O que caracteriza a inteligência artificial é ser um recurso de conhecimento que se aperfeiçoa constantemente. Os sistemas são agora capazes de analisar situações de ordem cada vez mais diversa e de nos revelar estados de coisas, algumas das quais ignoradas por nossa consciência. E fazem isso em velocidades que excedem nossas capacidades cognitivas, em um grau sem precedentes.
Estamos experimentando uma mudança no status das tecnologias digitais: já não são simplesmente destinadas a nos permitir manipular a informação com diversos propósitos, mas a revelar a realidade dos fenômenos para além das aparências.
Você destacou que a inteligência artificial está conduzindo ao banimento progressivo dos humanos. Em que se baseia?
Os resultados de suas análises têm um valor de verdade na medida em que, a partir deles, são tomadas determinadas medidas. A inteligência artificial é um fenômeno único na história da humanidade, no qual são utilizadas técnicas para nos dizer que atuemos de uma determinada forma. Isto pode variar de um nível moderado e estimulador, como no caso de um aplicativo de treinamento esportivo que, por exemplo, sugere esse ou aquele suplemento dietético, até um nível prescritivo, no caso da indústria da contratação ou recrutamento, que agora utiliza sistemas numéricos que, por si mesmos, selecionam os candidatos.
Isto pode chegar até a uma dimensão coercitiva nos locais de trabalho, em que os sistemas ditam continuamente aos empregados os gestos “bons” a ser realizados, baseados em práticas que negam a subjetividade e desprezam a dignidade das pessoas.
As tecnologias digitais passaram de ferramentas de apoio a ter um tremendo poder de decisão em nossas vidas. De certo modo, cada vez daremos menos instruções às máquinas para em seu lugar receber ordens delas. O livre exercício de nossa faculdade de juízo está sendo substituído por protocolos desenhados para conduzir e marcar nossas ações. Por acaso, não vemos a ruptura jurídico-política que está ocorrendo?
De certa forma, a ficção – em particular, a ficção científica – influenciou o desenvolvimento científico e tecnológico moderno: a exploração espacial não pode ser pensada sem as obras de Bradbury, Clarke, Asimov. Como avalia que livros, filmes e séries deste gênero, como Westworld, e distopias como Black Mirror influenciam no caso da inteligência artificial?
Historicamente, a ficção científica desenvolveu duas posturas distintas. Uma delas manifesta um entusiasmo com as máquinas e o futuro, sendo Júlio Verne o grande representante. A outra produziu obras críticas e distópicas em relação à tecnologia.
Na minha opinião, o que caracteriza as obras recentes é que, embora certamente mostrem uma dimensão inquietante, muitas vezes, utilizam esquemas bastante simplistas e muito gerais, enquanto utilizam sem cessar os mesmos clichês: o medo da substituição, a submissão dos humanos, o vício em tecnologias... Além disso, esquece-se rapidamente que o propósito destas produções é só gerar lucros.
Por isso, hoje, seria sensato reler os escritos de Theodor W. Adorno e Max Horkheimer sobre a indústria cultural para compreender até que ponto sua suposta dimensão crítica é só uma fachada, responde apenas a um ar da época e participa plenamente do mecanismo que pretende denunciar. Na minha opinião, o que precisamos, hoje em dia, é de uma “ficção científica do cotidiano”, que examine o que estes sistemas técnicos concretamente modificam em nossas vidas, no presente e possivelmente no futuro.
Penso nas práticas desenvolvidas nos negócios, na medicina, na justiça, na educação, etc. Ou na exploração de casos concretos, para lançar luz, dentro do regime da ficção, sobre certas dimensões já em funcionamento e em construção, mas que ainda estão muito obscuras. É uma tarefa completamente diferente deixar que a Netflix, por exemplo, produza séries cuja suposta dimensão crítica, muitas vezes, adquire proporções espetaculares e que, em última instância, apenas buscam provocar um crescente vício nos assinantes, cujo comportamento é continuamente examinado pelos algoritmos. Na minha opinião, é o momento para este modelo e a emoção que desperta sejam finalmente submetidos a uma crítica lúcida.
Como acredita que a pandemia influenciará no desenvolvimento da inteligência artificial? Considera que os distúrbios raciais relacionados ao assassinato de George Floyd, nos Estados Unidos, vão produzir alguma mudança? A IBM, por exemplo, anunciou que abandonará as pesquisas sobre reconhecimento facial, uma tecnologia criticada por seus vieses racistas e por invadir a privacidade.
Em “História da loucura na Idade Clássica”, Michel Foucault afirma que as epidemias constituem o fenômeno por excelência capaz de pulverizar nossas fantasias modernistas de controle absoluto. E isto foi visto no marco da atual pandemia. Também ficou exposta uma das grandes fraudes da época: durante décadas, postulou-se que a medicina iria se beneficiar plenamente dos avanços em inteligência artificial. Muitos acolheram com satisfação o diagnóstico automatizado, como se os médicos já não soubessem fazer diagnósticos confiáveis e necessitassem ser banidos.
O que estamos vendo com a crise da Covid-19 não é a necessidade de introduzir tais sistemas, mas as flagrantes dificuldades do hospital público, a falta de pessoal e de leitos, a dificuldade em proporcionar um atendimento de qualidade, dados os meios insuficientes. É assim imperativo que a sociedade civil se oponha a todos estes tecnodiscursos de supostos especialistas altamente remunerados, que se gabam constantemente de um futuro fantástico e apenas respondem a interesses privados. Contribuem para contaminar a vida pública e para depreciar o interesse geral.
Desde o século XIX, pensadores como Henri de Saint-Simon e depois Jacques Ellul e Lewis Mumford pensaram na ciência e a tecnologia como novas religiões. Os eventos da Apple e da SpaceX parecem missas. Os fãs assistem como se fossem crentes e figuras como Elon Musk, Tim Cook, Mark Zuckerberg e outros atuam como sacerdotes. Como defender o humanismo e as ideias que destaca em seu livro contra este fanatismo tecnorreligioso?
Em seu momento, sociólogos como Mumford e Ellul souberam desmascarar o complexo tecnoindustrial do pós-guerra, que se esforçava constantemente em intensificar as lógicas produtivistas, construir métodos de organização cada vez mais otimizados e mobilizar grandes orçamentos para os âmbitos militares, contribuindo para impor suas decisões à sociedade, sem o consentimento informado de seus membros.
Não é por acaso que estas obras lúcidas e bem argumentadas, situadas deliberadamente contra a corrente, não tenham sido bem recebidas. O que faz com que seu tempo seja diferente do nosso é que, desde então, os limites foram cruzados. As tecnologias digitais agora estão destinadas, a longo prazo, a interferir em todos os âmbitos de nossas vidas. Também buscam influenciar no comportamento, pretende-se que guiem a ação humana.
Finalmente, a tecnologia, como um campo relativamente autônomo, desapareceu. Agora, só há um mundo tecnocientífico subordinado às autoridades econômicas que ditam os caminhos a seguir. A velocidade dos acontecimentos, que se apresentam como inevitáveis, nos faz sentir impotentes. Enquanto os evangelistas da automação do mundo seguem empreendendo, estamos como que golpeados pela apatia.
Em primeiro lugar, é necessário contradizer os tecnodiscursos e oferecer testemunhos da realidade sobre o terreno, onde estes sistemas funcionam, no lugar de trabalho, nas escolas, nos hospitais, nos tribunais.... Também devemos mostrar nossa rejeição a certos dispositivos quando se considerar que violam nossa integridade e dignidade. Contra esta investida anti-humanista, façamos prevalecer uma equação simples, mas intangível: quanto mais se espera que renunciemos ao nosso poder de ação, mais devemos agir.
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
"Além da escravidão animal e do holocausto biológico, parece que o ser humano está em guerra contra as demais espécies. Quand[...]
LER MAIS
