02 Março 2024
"A inteligência artificial é o novo paradigma social. Todo mundo fala sobre ela e o consenso sobre sua infalibilidade e benefícios há muito transcendeu o âmbito das grandes empresas desenvolvedoras de tecnologia para se instalar como uma ideia bastante enraizada na sociedade".
O artigo é de Paula Guerra Cáceres, jornalista chilena, publicado por El Salto, 28-02-2024.
Nesta época governada pelo tecnossolucionismo, administrações públicas, empresas e organizações de todos os tipos estão utilizando, cada vez mais, ferramentas de IA para automatizar processos e decisões sob uma premissa de ouro: melhorar a eficiência, a produtividade e reduzir custos. A IA está na moda.
Mas como esse novo modelo de ordenamento social está impactando a vida das pessoas, especialmente a vida profissional das mulheres?
Supostamente, a IA está aqui para nos ajudar, para tornar a vida menos complexa, mas se observarmos seus usos, veremos como está servindo para reproduzir velhos padrões de poder. Em um estudo conjunto da UNESCO, do BID e da OCDE chamado "Os efeitos da IA na vida profissional das mulheres", publicado em 2022, são mencionados vários aspectos nos quais o uso da inteligência artificial está prejudicando as mulheres na busca e obtenção de emprego.
É o caso dos preconceitos de gênero na focalização de anúncios de plataformas como LinkedIn, Indeed e Facebook, que fazem com que as mulheres deixem de ver determinadas ofertas de emprego que o algoritmo mostra aos homens. Em um experimento com mais de 60 mil anúncios, citado por este estudo, descobriu-se que atribuir o gênero "feminino" a um usuário resultava em menos anúncios de empregos bem remunerados sendo mostrados para essa pessoa, em comparação quando o gênero "masculino" era atribuído.
Já em 2018, o LinkedIn descobriu que seus algoritmos mostravam mais vagas para homens do que para mulheres apenas pelo fato de que os homens procuram novos empregos com mais frequência, o que poderia estar relacionado, de acordo com esta pesquisa, a certos padrões sociais de gênero: os homens têm mais tempo para buscar oportunidades de trabalho, pois dedicam menos tempo aos cuidados dos filhos e também são mais propensos a se candidatar a cargos para os quais estão subqualificados e a atribuir a si mesmos mais habilidades do que têm.
Os preconceitos de gênero na focalização de anúncios impactam diretamente a quantidade de homens e mulheres que ocupam determinadas profissões. Um estudo de 2019 sobre o viés algorítmico de gênero na visualização de vagas de emprego em áreas como ciência, tecnologia, engenharia e matemática determinou que os anúncios de trabalho nessas quatro áreas são mostrados 20% a mais para homens do que para mulheres e isso acaba tendo um impacto negativo no número de mulheres que entram para estudar nessas carreiras. Isso influencia depois o número de mulheres que projetam e desenvolvem sistemas de IA, criando assim um ciclo vicioso que alimenta e reproduz o preconceito.
Outro exemplo dessa corrida louca pelo "tecnossolucionismo" no ambiente de trabalho são as diversas ferramentas de IA que estão surgindo para revisar currículos em tempo recorde e analisar vídeos de entrevistas de emprego com o objetivo de pontuar aspectos como expressões faciais, entonação da voz e uso de palavras específicas. Empresas como L'Oréal, Telepizza, Prosegur e Securitas Direct já estão utilizando esse tipo de tecnologias, que são oferecidas com a vantagem de obter maior diversidade nas candidaturas ao supostamente eliminar os preconceitos de gênero e raça dos recrutadores humanos.
Mas elas funcionam? No contexto de um relatório de 2022 sobre preconceitos de raça e gênero em ferramentas de IA para contratação, o Centro de Estudos de Gênero de Cambridge quis testar a eficácia dessas ferramentas criando um programa próprio baseado em IA para analisar vídeos de entrevistas de emprego. O relatório revelou que pequenas mudanças nas expressões faciais, roupas e até mesmo na iluminação poderiam resultar em leituras de personalidade totalmente diferentes, questionando assim a eficácia desse tipo de tecnologia.
Por outro lado, a equipe de Cambridge afirmou que essas ferramentas podem aumentar a homogeneidade das pessoas contratadas (em vez de ampliar a diversidade), porque os algoritmos são programados para premiar características previamente comunicadas pelos empregadores, sem levar em conta as condições estruturais que determinam se as pessoas se encaixam ou não nesses perfis.
Um dos campos de trabalho onde a realidade está superando a ficção em termos de uso de IA é o das plataformas de entrega em domicílio. Essas empresas estão inseridas na chamada economia digital e baseiam seu funcionamento interno em uma organização algorítmica do trabalho.
Em dezembro do ano passado, tive a oportunidade de coincidir em um evento em Lisboa com Nuria Soto Aliaga, uma das fundadoras do Riders x Direitos. Naquele encontro, Soto Aliaga comentou que as entregadoras mulheres sofrem penalizações específicas pelos algoritmos usados nessas aplicações: quando estão menstruando e param em estabelecimentos para fazer uma entrega, o algoritmo determina que estão demorando muito para realizar a entrega. Essas penalizações influenciam nos pedidos e nas áreas que serão designadas para o dia seguinte. E se acumularem muitas penalizações, correm o risco de ser "desconectadas", o que na linguagem inventada por essas plataformas significa ser demitidas.
Em seu livro "Riders on the storm", Soto Aliaga comenta outras formas pelas quais esse tipo de trabalho está prejudicando as mulheres: assédio no trabalho por parte dos clientes, que muitas vezes recebem as entregadoras de roupas íntimas, fazem propostas sexuais ou enviam mensagens diretamente para seus números de celular (a plataforma permite que tenham acesso à foto e ao número de telefone das pessoas que realizam as entregas); problemas de infecção ou cistite por não terem um local de trabalho que lhes permita ir ao banheiro quando precisam e, como resultado disso, um gasto extra mensal por terem que comprar repetidamente em estabelecimentos para poder acessar um serviço.
As entregadoras não são as únicas afetadas por essa organização algorítmica do trabalho. O livro também fala sobre a chegada da economia de plataformas em setores altamente feminizados, precarizados e racializados, como é o caso das trabalhadoras sexuais, das trabalhadoras domésticas e de cuidados e das camareiras, que com apenas um clique são obrigadas a limpar quartos de hotel em tempos impossíveis, a trabalhar jornadas que não conhecem horários nem períodos de descanso, devido à proliferação de aplicativos e plataformas que buscam oferecer os preços mais competitivos às custas da exploração do trabalho das trabalhadoras, que devem estar sempre "disponíveis" para evitar serem penalizadas pelo algoritmo.
Em referência ao seu trabalho como entregadora, Soto Aliaga observa que "apesar de supostamente sermos nossos próprios chefes, nunca me senti tão vigiada no trabalho, nem fui tão regulada por um sistema que penalizava qualquer desvio mínimo do que se esperava de você". E acrescenta: "O algoritmo era como ter um chefe onipresente com quem não se podia argumentar, mas que podia impor como, quando e de que maneira você trabalharia e em que momento iria dispensá-lo".
Sabe-se que os setores mais precarizados costumam ser laboratórios de testes de práticas que posteriormente se estendem ao resto da sociedade. O que agora pode parecer distante para muitas pessoas, porque "não as afeta", talvez amanhã determine seus salários, seus horários e suas vidas inteiras. O uso de IA em questões relacionadas aos direitos das pessoas só pode ser freado por meio de uma luta coletiva e organizada. Quanto mais cedo começarmos, melhor.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Ser mulher na era da Inteligência Artificial: quando seu chefe é o algoritmo - Instituto Humanitas Unisinos - IHU
A concentração de inovações científicas e técnicas deram lugar a um novo sismo no mercado mundial. Assistimos a uma nova re[...]
LER MAISA decisão mais temida pelos motoristas do Uber começa a se tornar realidade. A empresa firmou um acordo com a montadora sueca Vo[...]
LER MAISUm aplicativo para ajudar mulheres a sair de relacionamentos abusivos, outro para alfabetizar crianças com deficiência ou dificu[...]
LER MAIS
