13 Setembro 2019
Nick Dyer-Witheford fala sobre as lutas envolvendo capital e inteligência artificial.
Nick Dyer-Witheford, professor da University of Western Ontario, no Canadá, é autor dos livros Cyber Marx, Cyber Proletariat (com entrevista em português) e Games of Empire. Tem textos também sobre a questão do comum (aqui e aqui). Em junho deste ano, lançou o livro Inhuman Power: artificial intelligence and the future of capitalism, em coautoria com Atle Mikkola Kjøsen e James Steinhoff. Dyer-Witheford conversou com DigiLabour sobre a nova publicação, especialmente sobre inteligência artificial e capitalismo.
A entrevista é publicada por DigiLabour, 09-08-2019.
Livro Inhuman Power: artificial intelligence and the
future of capitalism, de Nick Dyer-Witheford,
Atle Mikkola Kjøsen e James Steinhoff
No livro, você critica as visões liberais e autonomistas sobre inteligência artificial, embora reconheça o valor da abordagem autonomista. Por que você se afasta dessas duas perspectivas?
Em primeiro lugar, muito obrigado pelo interesse no livro. Gostaria de dizer que sou apenas um dos autores, junto com dois brilhantes colegas, Atle Mikkola Kjøsen e James Steinhoff. Os comentários aqui são apenas uma interpretação pessoal de uma colaboração sintética: meus coautores podem legitimamente enfatizar aspectos diferentes do nosso trabalho coletivo. A visão liberal é, certamente, que a inteligência artificial (IA) é apenas mais uma etapa do progresso tecnológico alcançado pela economia de mercado, um avanço atribuído aos poderes criativos do capitalismo, trazendo maior prosperidade material, conveniência ao consumidor e melhoria geral à condição humana. Quaisquer que sejam os problemas que a IA possa trazer para os campos do emprego ou da vigilância social, eles podem, nessa visão, ser corrigidos pela educação para a formação profissional e por pequenas reformas na proteção da privacidade. O fato de que o desenvolvimento da IA esteja quase inteiramente nas mãos do capital oligopolista, juntamente com seus parceiros militares e a segurança do Estado, é ignorado, ofuscado ou simplesmente aceito como o caminho natural do mundo. O que é mais surpreendente é a relativa complacência com que esta situação é vista pela esquerda, ou o que resta dela. Essa complacência parece ter duas origens. Por um lado, há aqueles que duvidam da atualidade dos recentes avanços em IA, sugerindo que estes são fortemente vendidos pelo discurso empresarial, sendo isso mais um exagero do que a realidade. Essa é uma visão que, no momento, apresenta uma boa dose de verdade, mas pode ser inadequada para a trajetória de longo prazo do tecnodesenvolvimento capitalista. Por outro lado, está a perspectiva dos “aceleracionistas de esquerda”, que são entusiastas da IA, e veem essa tecnologia como um precursor de um mundo pós-capitalista, no qual a automação dissolveria o nexo trabalho-salário. Essa perspectiva cita Marx em suas previsões tecnologicamente mais otimistas sobre a força progressista dos poderes de produção sempre em expansão. Mas essa visão invisibiliza um lado mais sombrio da análise marxiana sobre a maquinaria capitalista como dominação. Os flashes de crítica ao capital tratam-no como uma força alienígena e inumana. É aqui que entra a questão do autonomismo. A tradição do operaismo, a partir da qual deriva o marxismo autonomista de hoje, foi notável pela sua contundente recusa da doutrina capitalista do progresso tecnológico e sua percepção de como a maquinaria é usada como uma arma gerencial contra a classe trabalhadora. No entanto, na transformação do operaismo no pós-operaimo contemporâneo, essa subversão heterodoxa foi perdida e substituída por uma insistente visão otimista sobre as possibilidades de reapropriações ciborgues das tecnologias de computação. Mas veja, esta é uma perspectiva para a qual eu mesmo dei contribuições. Então, está em jogo uma certa dose de autocrítica! Mas devemos reconhecer que, desde a década de 1990. a condição do capital digital então emergente mudou significativamente, notavelmente por meio da consolidação bem-sucedida das empresas de grande porte, como Google, Amazon e Facebook, e suas apropriações sistemáticas de Big Data e comunicação digital. Tudo isso preparou o cenário para avanços recentes na tecnologia de IA, especialmente no campo do aprendizado de máquina (machine learning). Dada esta situação, pareceu-nos necessário que nós três, autores do Inhuman Power, restaurassem uma perspectiva crítica da trajetória maquínica do capital que agora está produzindo novas formas de IA. A curto prazo, tal crítica aborda tanto as intensificações na exploração do trabalho quanto o comando de toda a fábrica social atualmente habilitada pela IA. A médio prazo, devemos levar a sério os ataques aos trabalhadores nas indústrias, desde o transporte até os call centers, que estão sendo preparadas pelos desenvolvedores de AI. E, a longo prazo, devemos considerar as implicações de uma “singularidade” dirigida pelo capitalismo que, em nome do aumento da eficiência e da produtividade, visa a criação de nada menos do que uma “espécie-sucessora”, tornando a humanidade obsoleta. Para aqueles que esperam que a IA permita uma sociedade na qual os humanos estejam livres do capital, é importante lembrar que o anverso desse arranjo é que o capital pode se tornar livre dos humanos. Estamos a olhar para um cenário não de crescente autonomia dos trabalhadores, mas do aprofundamento da autonomização do capital.
O que significa considerar a inteligência artificial como condição geral de produção?
O conceito de condições gerais de produção, de Marx, refere-se às tecnologias, instituições e práticas que formam o ambiente para a produção capitalista em determinado tempo e espaço. Ressaltamos que, no momento, a implantação da IA é limitada – embora ainda mais ampla do que muitas pessoas imaginam. Vários tipos de IAs “específicas” têm sido usadas em robôs industriais, mecanismos de busca, mídias sociais e sistemas militares e policiais. Falar em inteligência artificial de maneira geral continua sendo material de ficção científica. No entanto, os usos comerciais da IA estão se multiplicando em residências e locais de trabalho. Ao descrever a IA como uma “condição geral de produção”, estamos sugerindo que ela pode se tornar um tipo de infraestrutura que fornece os pré-requisitos para uma nova fase do desenvolvimento capitalista. Estradas e navios à vela eram condições gerais de produção do capital mercantil; máquinas movidas a vapor, ferrovias, navios a vapor e energia elétrica, telégrafos, telefones, rádio e televisão eram condições gerais de produção de capital industrial. Dizer que essas condições de produção são gerais não é sugerir que elas estejam disponíveis gratuitamente. Os grandes magnatas ferroviários do século XIX fizeram muito dinheiro construindo uma das principais condições gerais de produção daquele século. Isso é para dizer que isso torna-se o alicerce para todos os tipos de empreendimentos capitalistas competitivos e, portanto, também impulsiona profundas transformações da vida social. Como diz Andrew Ng, de Stanford, ex-Baidu e ex-Google Brain, em 2016, o objetivo de seus patrocinadores corporativos era tornar a IA “a nova eletricidade”. A ambição dos grandes oligopólios nos EUA, (Google, Amazon, Microsoft, Facebook e IBM) e na China (Baidu e Alibaba) não é simplesmente usar AI para aumentar a eficiência de seus mecanismos de busca, suas recomendações de produtos e suas operações de armazenamento. É para que eles se tornem melhores fornecedores, principalmente por meio de serviços baseados na nuvem, de capacidades de IA que outras empresas não podem dispensar no cotidiano. Eles buscam uma nova instanciação de capital na qual aplicativos de IA, como veículos autônomos, assistentes pessoais de chatbot e agentes de mídias sociais e uma Internet das Coisas que conecte aplicações robóticas em indústrias e residências, saturem a vida cotidiana. Se isso for alcançado, marcará também uma nova fase na subsunção ou envolvimento da vida humana pelas tecnoestruturas capitalistas – um capitalismo de inteligência artificial.
Como pensar sobre as lutas que envolvem capital e inteligência artificial?
Uma grande parte da atual discussão sobre AI envolve as questões do mercado de trabalho, principalmente a partir da questão, “um robô me substituirá no trabalho?”. Em torno disso, tem havido um debate entre “apocalípticos versão IA” (principalmente cientistas da computação) que preveem um iminente crise geral de emprego causada pela automação, com perdas abruptas de empregos em muitos tipos de trabalho, e os teóricos do business as usual (principalmente economistas tradicionais), que insistem que a mudança tecnológica, ao mesmo tempo em que destrói empregos em alguns setores, sempre cria empregos e oportunidades em outras áreas da economia. Este argumento é agora muito coreografado e previsível, embora também altamente especulativo. Achamos que é bem possível que a IA aumente as populações excedentes, torne o emprego cada vez mais precário e polarizado entre as tecno-elites de alto escalão e os empregos assalariados de baixa renda. Isso pode eventualmente precipitar uma crise geral de emprego, embora esse processo possa tomar a forma prolongada de um “tsunami lento”, em vez de algo súbito previsto pelos “apocalípticos versão IA”. O que nós enfatizamos, entretanto, é que agora, no presente, estão surgindo vários conflitos sobre os efeitos negativos do capitalismo de IA. Nesse sentido, delineamos um “heptágono de lutas”.
E o que isso envolveria?
1) As lutas dos trabalhadores que já estão sujeitos à vigilância, à intensificação do trabalho e às pressões salariais da gestão algorítmica conduzida pela aprendizagem de máquina (machine learning). Isso inclui não apenas os exemplos bem conhecidos dos trabalhadores do centro de atendimento da Amazon, mas também a multiplicidade de trabalhadores do clique envolvidos na produção real de sistemas de aprendizado de máquina (machine learning), seja como limpadores de dados ou moderadores de conteúdo;
2) Os protestos de trabalhadores de alta tecnologia no Vale do Silício e de outros lugares em relação ao envolvimento de seus empregadores na produção de IA para forças armadas e polícia de fronteiras nos Estados Unidos;
3) O movimento anti-vigilância, que vem crescendo desde as revelações de Snowden, e agora enfrenta o aumento dos poderes estatais e corporativos proporcionados por tecnologias como as de reconhecimento facial acionadas por aprendizado de máquina;
4) O ativismo contra a discriminação algorítmica com relação a questões gênero e raça que tem aparecido repetidamente em sistemas de inteligência artificial para contratação de empregos, policiamento preventivo, monitoramento da assistência social e muitas outras atividades sociais;
5) Os movimentos que contestam as grandes empresas de IA que planejam o controle de informações geradas por “cidades inteligentes”, o que as tornaria os principais árbitros corporativos sobre planejamento e planejamento urbano;
6) A deserção das redes resultante dessa onda de repulsa sobre técnicas de propaganda viral e desinformação revelada nos escândalos da Cambridge Analytica, que, embora sejam focados em uma manipulação eleitoral nefasta, em última análise levanta grandes questões sobre as técnicas de publicidade de todo o sistema de comunicação da capital;
7) A generalização do techlash contra os poderes oligopolistas das grandes empresas de informação, que agora são também as principais controladoras do desenvolvimento da IA. Isso agora traz à tona questões de regulação, legislação antitruste e até formas alternativas de propriedade.
Nenhum desses movimentos tem necessariamente objeções à IA impulsionada pelo capital e à aprendizagem de máquina como sua demanda central. Mas a IA dirigida às corporações agora envolve uma variedade de “atrativos invisíveis” em torno dos quais estão se formando antagonismos que podem ser intensificados se surgirem crises setoriais ou gerais de emprego decorrentes da implantação intensificada da IA.
Como podemos avançar em pesquisas sobre capitalismo e inteligência artificial?
Não faltam tópicos. As conseqüências imediatas do aprendizado de máquina nos locais de trabalho e na gig economy é um tema muito apropriado que tem impulsionado novas pesquisas. Podemos falar também em pesquisas sobre a construção de algoritmos corporativos utilizados pelas mídias sociais a fim moldar as condições gerais da fábrica social. Investigações sobre campanhas de acesso à informação e o controle público das agendas de pesquisa são também vitais, assim como um exame mais atento das parcerias corporativas com os militares e a polícia, já um tema quente no Vale do Silício. No entanto, a questão sobre a qual fico mais curioso depois de ajudar a escrever este livro é menos empírica. É a questão de encontrar agendas comunistas ou socialistas para pensar a IA além do “aceleracionismo de esquerda”, agora amplamente popular, para expandir os meios de produção planejados pelo capital. Por razões que espero que esta entrevista já tenha deixado claro, somos céticos quanto à ideia de que a inteligência artificial desenvolvida pelo capital possa ser usada como uma alavanca para criar uma ordem pós-capitalista – como na agora onipresente fórmula pós-trabalho: IA + renda básica universal. Para nós, isso parece uma receita para deixar um proletariado totalmente desprovido de poder dentro de um sistema de mercantilização geral, e à mercê de um capitalismo agora dotado de poderes divinos. No final do livro, esboçamos algumas alternativas a essa opção, cuja ausência pode ser considerada um “ponto cego” para o radicalismo contemporâneo. Nossa perspectiva não fecha a porta a possíveis aplicações emancipatórias da IA, se tais sistemas fossem treinados, desenvolvidos e delimitados dentro do que podemos resumir como uma ordem comunista. Alguns dos meus co-autores estão interessados nas possibilidades do transhumanismo especificamente socialista ou comunista. Outros de nós se inclinam mais para uma perspectiva que se desvia da lealdade de Marx ao “prometeísmo tecnomodernista”. Pois, se os horizontes do socialismo ou do comunismo permanecem fixos em perspectivas de expansão econômica ilimitada, acho difícil evitar a lógica aceleracionista. Tal crescimento tenderá ao uso intensificado da IA, não apenas para prover os remendos eco-modernistas e corrigir os problemas do capital industrial e informacional. Contudo, tal caminho paradoxalmente leva a perspectivas de auto-obsolescência humana. Surge então a possibilidade de um contra-movimento a partir de alguma articulação entre o marxismo e a ecologia política radical. Isso exigiria um movimento que visasse um nivelamento global da riqueza, um programa maciço de igualdade social, combinado democratização das instituições de trabalho e das agendas de pesquisa científicas e tecnológicas. Tal caminho poderia abrir um caminho para diminuir a dependência de sistemas de IA desumanos, ou, mais precisamente, não-humanos, ou pelo menos abir um espaço para alguma deliberação social genuína sobre as condições de sua adoção, ao invés da submissão ao automatismo competitivo ditado pelo capital de alta tecnologia. O impulso para um novo nivelamento social e ecológico e uma articulação por igualdade exigiriam uma insurgência social inovadora. No entanto, tal projeto, envolvendo uma recuperação radical da maior parte do equipamento filosófico da esquerda, é claramente uma exigência por mais conversas teóricas e experimentações políticas.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Capitalismo de Inteligência Artificial. Entrevista com Dyer-Witheford - Instituto Humanitas Unisinos - IHU
"Deng Xiaoping, quando disputou os rumos do dragão chinês, no Congresso do PC Chinês de 1982, para o bem e para o mal, convence[...]
LER MAISO texto abaixo é um dos achados do projeto Mega – Marx-Engels GesamtAusgabe, que, a partir dos arquivos de Karl Marx, está org[...]
LER MAIS
