19 Abril 2022
Matteo Pasquinelli é professor de Filosofia da Mídia na Universidade de Artes e Design de Karlsruhe, onde também coordena o grupo de pesquisa sobre Inteligência Artificial e Filosofia da Mídia KIM. Sua fala abriu o ciclo de debates “No futuro tecnológico, existe vida alternativa ao metaverso?”, organizado pelo Observatório Social da Fundação “la Caixa”. Pasquinelli, sob o título “O trabalho invisível na inteligência artificial: da linha de montagem ao algoritmo”, abordou as questões relacionadas aos perigos de se concentrar a atenção e o trabalho humano nas plataformas tecnológicas.
O filósofo conversou com a professora Carmina Crusafon sobre como o trabalho digital transformou a organização da força de trabalho como era conhecida até agora. Na conversa, exploraram várias alternativas frente aos perigos e benefícios de se concentrar a atenção humana e trabalhar nas grandes plataformas tecnológicas. Concentração que deriva da projeção de distopias e mundos virtuais nos quais, cada vez mais, as pessoas estarão imersas.
A entrevista é de Victoria Trapé e Karina Jacomé, publicada originalmente por Catalunya Plural e reproduzida por La Marea, 18-04-2022. A tradução é do Cepat.
A que se refere com o conceito de “trabalho fantasma” associado à Inteligência Artificial (IA)?
A primeira dimensão do trabalho invisível que quero destacar é a fonte da inteligência que a IA pretende automatizar. Está ficando cada vez mais claro para todos que o aprendizado de máquina depende de um vasto repositório de dados individuais e coletivos dos quais extrai sua “inteligência”. A inteligência artificial é continuamente melhorada e mantida por uma grande multidão de trabalhadores fantasmas que corrigem os modelos de aprendizado de máquina em tempo real ou na pós-produção. É por isso que a IA também está em dívida com esses trabalhadores.
E quem são esses trabalhadores fantasmas?
São as pessoas reais que estão por trás de muitos serviços online que usamos todos os dias. Esses trabalhadores invisíveis filtram os conteúdos violentos, ofensivos e pornográficos que são carregados a cada minuto nas redes sociais para torná-las um lugar mais seguro. O conteúdo produzido pelo Norte Global requer uma supervisão constante e o trabalho de manutenção, razão pela qual muitas vezes é terceirizado para trabalhadores on-line anônimos e invisíveis do Sul Global.
Mas este é um exemplo entre muitos. Florian Schmidt fez uma pesquisa sobre a linha de produção de IA no caso dos carros autônomos, e descobriu que os modelos de aprendizado de máquina do projeto alemão de carros autônomos são testados por plataformas de crowdsourcing que contam com trabalhadores da Itália, Espanha e Venezuela. Assim, mostrou como a força de trabalho do sul da Europa e da América do Sul conserta carros invisíveis que são vendidos com marcas alemãs.
E o que pode nos dizer sobre o temor gerado na sociedade pela substituição do trabalho humano por essas novas tecnologias?
No mundo real, atualmente, muitas pessoas estão descobrindo que a IA não se trata realmente de automatizar o trabalho, mas de automatizar a gestão. A automação contemporânea, especialmente no caso da economia de plataformas, não se trata de um trabalhador individual como na imagem estereotipada do robô humanóide, mas da automação da gestão, como acontece nas plataformas da "gig economy", também chamada de “gestão algorítmica”. Penso que o que está acontecendo hoje está mais próximo daquilo que vemos com empresas como Uber Eats, por exemplo.
Do meu ponto de vista, os algoritmos estão substituindo os chefes e não os trabalhadores.
Dos gigantes da logística (Amazon, Alibaba, DHL, UPS, etc.) e da mobilidade (Uber, Share Now, Foodora e Deliveroo) às redes sociais (Facebook, Twitter), à IA e à automação digital – o que é chamado de capitalismo de plataformas – é uma forma de automação que realmente não substitui os trabalhadores, mas os governa e multiplica. Sob a automação da gestão, ou “gestão algorítmica”, todos nos convertemos em microtrabalhadores de um grande autômata, isto é, usuários genéricos, motoristas e passageiros de muitos tipos. O debate sobre o medo de que a IA substitua completamente os postos de trabalho está equivocado: na chamada economia de plataformas, na realidade, os algoritmos substituem a gestão e multiplicam os postos de trabalho precários.
Os algoritmos ajudam a contratar mais trabalhadores, trabalhadores baratos, como os riders [entregadores]. Haverá também mais trabalho para manter as máquinas. Isso é mais uma automatização de tarefas gerenciais, do que trabalho em geral. Os empregos precários se multiplicarão enquanto os chefes serão substituídos. A AI requer mais trabalho, não menos.
Os algoritmos substituirão os empregos que conhecemos hoje?
Sim, mas também vão multiplicar novos trabalhos, os mais precários. Cada vez que você introduz uma máquina, o número de trabalhadores necessários também se multiplica.
Quais são as mudanças mais importantes que espera em consequência da introdução da inteligência artificial no mundo do trabalho?
A automação nunca substitui completamente o trabalho, mas o transfere para outras tarefas e o oculta em outros lugares. Vai ocorrer uma divisão internacional do trabalho impulsionada por novas tecnologias, e as condições colonialistas se repetem. Em setores especiais do mercado de trabalho, a IA tem o efeito de aplicar ou agregar as habilidades do humano. Implica um grande impacto que afetará os trabalhos mecânicos. Os riders são um ótimo exemplo.
Será um mundo laboral mais inclusivo para as pessoas com habilidades diversas?
Está claro que a IA pode ajudar os deficientes, pois eles podem ser os primeiros a testar e usar essas tecnologias. Os idosos, os deficientes, serão os primeiros a experimentar essas tecnologias, como cadeiras de rodas, próteses. Nossos avós serão ciborgues antes de nós.
Ficarão de fora deste mundo aquelas pessoas que não conseguem acessar o ambiente digital, seja por suas condições de vida ou por seus conhecimentos?
Um bom termo para falar sobre isso é “extrativismo cognitivo”. Hoje percebe-se a geração de monopólios de dados, e todos nós, inclusive as pessoas que vivem em áreas remotas, produzimos conhecimentos para esses monopólios. E esses conhecimentos são acumulados em centros de bases de dados, e a partir daí os modelos algorítmicos ficam fora de nosso controle.
Portanto, não é apenas um problema para as pessoas que vivem em áreas rurais, mesmo elas podem ser mais afortunadas do que nós. O que está acontecendo hoje é que vivemos em uma sociedade de monopólios crescentes. O problema com eles é um problema que o Congresso dos Estados Unidos deveria cuidar, porque o Google ou o Facebook estão se tornando grandes monopólios que sequer existiam nos anos 90. Penso que é um problema de política do conhecimento, de compartilhamento dos conhecimentos e do controle e proteção de dados.
Para entender isso, devemos contextualizar a IA na história do conhecimento. A IA é a epistemologia hegemônica hoje; é uma maneira de pensar que é estatística, mecânica. Mas, graças a Deus, neste planeta temos muitas outras epistemologias: epistemologias indígenas, epistemologias locais, epistemologias feministas, epistemologias decoloniais e é isso que temos que discutir. A epistemologia está se tornando, perigosamente, uma forma de pensar hegemônica, quando na realidade também temos muitas outras.
E que impacto tudo isto terá sobre as relações sociais?
Os casos que mencionamos deveriam finalmente levar a questionar a relação entre a automação e os seres humanos, a investigar essa relação como uma relação de poder, e também de exploração. Infelizmente, a história da automação é uma história de mais trabalho, não menos. Mas esta história é mais profunda.
Devemos sempre lembrar que o movimento feminista das décadas de 1960 e 1970 foi o primeiro a apontar a invisibilização do trabalho, especificamente o trabalho de cuidado e o trabalho doméstico. Os futuros tecnológicos ligados ao desenvolvimento capitalista repetem uma fantasia de que máquinas, algoritmos e inteligência artificial assumem o trabalho chato, sujo, repetitivo e até reprodutivo feito por trabalhadores racializados, de gênero e colonizados no passado. Isso leva a crer que toda a humanidade será liberada para poder desenvolver plenamente suas habilidades criativas.
As fantasias da automação total difundem a história do sujeito autônomo cuja liberdade é impossibilitada apenas pelo efeito substituto de servos, escravos, esposas e, mais tarde, trabalhadores de serviços industriais que fazem um trabalho racializado e de gênero. Relembrando autoras feministas como Silvia Federici e Ruth Cowan, Astra Taylor introduziu recentemente o termo “fauxtomation” para referir-se às falsas promessas oferecidas pela automação, especialmente na esfera doméstica, onde as máquinas muitas vezes amplificam, não reduzem, o trabalho dos cuidadores e das mulheres.
Por que chama ao seu todo de Teoria Laboral da IA?
Penso que o princípio operacional da IA, de fato, não é apenas a automação do trabalho, mas a imposição de hierarquias sociais de trabalho manual e mental através da automação. Entre os séculos XIX e XX, a gestão do trabalho se difundiu por toda a sociedade. Impôs formas de controle baseadas em medidas estatísticas de “inteligência”, também como forma de discriminar os trabalhadores em classes de qualificação. Acredito que a IA continua esse processo de codificação das hierarquias sociais e de discriminação entre a força de trabalho.
O viés de classe, gênero e raça que os sistemas de IA notoriamente amplificam deve, de fato, ser visto não como um erro, mas como uma de suas características constitutivas.
O viés da IA não apenas discrimina grupos sociais, mas o faz para impor implicitamente hierarquias de trabalho e conhecimento e impor uma polarização de ocupações qualificadas e não qualificadas no mercado de trabalho. Os estudos de IA devem abordar não apenas a substituição dos empregos administrativos por algoritmos, mas também o deslocamento e a multiplicação dos empregos precários, mal pagos e discriminados em uma economia global. A IA e o trabalho fantasma parecem ser, desse ponto de vista, as duas faces de um único e mesmo mecanismo social de automação do trabalho.
A teoria laboral da IA que propus é, finalmente, não apenas um princípio analítico para ajudar a criticar o poder das empresas de IA e dos monopólios de dados, mas também um princípio sintético e político: como uma teoria da autonomia para gerar novas formas de conhecimento e produção, e uma nova cultura da invenção e do desenho. Mas para abordar esta questão precisamos de mais tempo de entrevista.
Quais são as faculdades ou habilidades que a inteligência artificial não pode simular as de um humano?
A interação humana, o trabalho de cuidado. Para entender a IA, você precisa vê-la de um ponto de vista capitalista e econômico. A IA pertence à ideia de que a natureza pode ser descrita de acordo com padrões mecânicos, e esses padrões permitem que a natureza seja organizada.
A verdade é que a IA tem muitos limites, tem muitos erros, falácias, aproximações e vieses que a constituem. A IA é vendida como um paradigma de inteligência, mas na verdade é um paradigma de automatização estatística, porque o que ela realmente faz é uma aproximação estatística.
A tradução, por exemplo, é outro limite da IA. É muito difícil traduzir metáforas ou piadas; esse é um dos limites lógicos da IA. Porque toda piada quebra a regra que o algoritmo segue. Umberto Eco já disse isso há muitos anos.
Quem vai assumir a responsabilidade no futuro por esses erros dos algoritmos?
O trabalhador invisível está sempre atrás na correção do algoritmo, dos dados. Existe uma máquina que não é perfeita, sempre tem uma margem de erro, e o humano está por trás dela para arrumá-la.
Quem serão os vencedores e perdedores deste sistema com crescente presença da IA?
Penso que haverá uma polarização da sociedade. Quais trabalhos serão automatizados, como os motoristas, entregadores, trabalhos de cuidado, a precarização do emprego. E do outro lado, trabalhos como os programadores, que se tornarão uma elite. Haverá uma polarização do mercado de trabalho, e não apenas como fenômeno da IA, mas de toda inovação.
Quais são as carreiras do futuro que nos permitirão aproveitar a onda desses novos empregos e não sermos arrastados por ela?
O que tento ensinar em Karlsruhe não é IA, mas as humanas digitais, que tentam entender esse fenômeno tecnológico do ponto de vista das ciências sociais e humanas. É uma nova disciplina que poderíamos chamar de “humanas digitais”. Em Karlsruhe tentamos estudar visões críticas da IA: implicações políticas, sociais e históricas, e entender a IA como parte da evolução de diferentes formas culturais. A IA está dentro de um ecossistema de conhecimento. A IA faz parte da nossa cultura e precisamos desenvolver ferramentas críticas para entendê-la. Precisamos desenvolver todos os tipos de habilidades a partir das humanas, das ciências sociais, das ciências políticas para completar o ecossistema dessa realidade virtual para além das técnicas. O papel dos educadores será crucial, pois não podemos ensinar machine learning [aprendizado de máquina] sem pensar nas implicações perigosas que ele pode ter.
A Inteligência Artificial (IA) veio para ficar e se desenvolveu ao longo do tempo. Fatores como a pandemia aceleraram a digitalização de aspectos do nosso cotidiano, como o trabalho, a ponto de atingir a hibridização. Para muitos, a IA ainda é um mundo inexplorado e há trabalhos em que as habilidades humanas não podem ser substituídas. Muitos outros trabalhos, no entanto, vão se juntar à era tecnológica e apoiar seu funcionamento neste fenômeno digital. A ideia é acompanhar a sociedade rumo ao aprimoramento, explorando novas fronteiras através de novos profissionais capacitados para gerenciar, manter e continuar explorando o novo mundo.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
“Os algoritmos multiplicam os empregos precários”. A entrevista com Matteo Pasquinelli - Instituto Humanitas Unisinos - IHU
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
Quando o ativista austríaco pró-privacidade Max Schrems solicitou seus próprios dados pessoais armazenados pelos servidores do [...]
LER MAIS
