23 Julho 2020
Uma mulher passa por uma entrevista de emprego em um formato curioso. Tem que seguir as instruções fornecidas pela plataforma Pymetrics no seu telefone: tocar na tela quando um ponto vermelho aparecer, cantar uma melodia ou soletrar sem tropeçar o alfabeto. Falta algo: ver e falar com uma pessoa. A entrevista é interrompida e não ouviu, nem viu ninguém. Somente o pinguim animado que fez as perguntas. Logo depois, recebe uma notificação no celular: não apta para a próxima fase.
A reportagem-entrevista é de Agathe Cortes, publicada por El País, 21-07-2020. A tradução é do Cepat.
Este episódio serve ao escritor e filósofo Éric Sadin (Paris, 1973) para contextualizar o leitor em sua nova obra La inteligencia artificial o el desafío del siglo. Anatomía de un anti humanismo radical (Caja Negra, 2020). Uma reflexão sobre a sociedade vindoura e sobre o que está em jogo em um mundo invadido por uma tecnologia em constante progresso, que se dirige de cabeça à digitalização das atividades, gestos e emoções do ser humano e, em outras palavras, da vida.
Ao acabar a leitura de sua obra - e de alguns de seus ensaios anteriores, como La humanidad aumentada e La siliconización del mundo -, o panorama que se traça na mente do leitor é inquietador: o ser humano perde seu poder de decisão e opinião e se submete ao "saber absoluto" que a máquina lhe fornece em tempo recorde.
Sadin responde ao El País por videoconferência, de Paris. Antes de tudo, responde uma pergunta básica, mas da qual, em sua opinião, poucas pessoas sabem a resposta: o que é inteligência artificial? “Todo mundo já ouviu falar da inteligência artificial, mas ninguém sabe o que realmente é, muito menos suas consequências. Tudo é tão precipitado que nós não paramos para pensar nelas. Damos tudo por garantido, como se fosse o curso normal das coisas, mas é um grave erro. Não nos fazemos boas perguntas”, opina.
A Real Academia Espanhola (RAE) define a inteligência artificial como uma "disciplina científica que se ocupa em criar programas de computador que executam operações comparáveis às realizadas pela mente humana, como a aprendizagem e o raciocínio lógico". No entanto, Sadin acrescenta que "esses sistemas constituem um órgão capaz de avaliar a realidade de uma maneira mais confiável do que nós mesmos e de nos revelar dimensões até então ocultas de nossa consciência". "É muito perturbadora sua capacidade para enunciar a verdade baseada em equações diante das quais o ser humano não pode dizer nada", afirma.
A dinâmica que o planeta empreendeu para a maior otimização possível, a perfeição e a automatização da existência não o convence em absoluto. Para ele, a humanidade se submete a um sistema utilitário que rouba e substitui sua essência e a transforma em um simples alvo do mercado. Em seu trabalho, pinta a humanidade a serviço da ferramenta e revela como, sem perceber, nos tornamos bonecos das máquinas que nos dizem o que fazer, quando e como. “Já ultrapassamos um limite”, diz.
As dúvidas, a ambiguidade, o medo, o cansaço e a subjetividade são próprios da humanidade e não existem no mundo dos algoritmos. Um mais um é igual a dois, ponto final. Segundo Sadin, a indústria de números acredita que resolveu o maior problema do sistema sanitário, o erro humano, mas se equivoca. "Dizem que a medicina é a área que mais se beneficiará com esses sistemas superinteligentes para diagnósticos. Mas não é verdade”, conclui.
“Querem se aproveitar de nossos defeitos, mas com essa pandemia, vimos que a medicina não precisa disso. Ao contrário, precisa de camas, espaço e material”, insiste. Para o filósofo francês, parece uma aberração que os 12 anos de estudo de um médico sejam menos que uma máquina e que, além disso, não são os próprios médicos que a programam.
“A realidade [da pandemia] nos atingiu de frente e a inteligência artificial não foi capaz de vê-la chegar. Nenhum sinal de alarme foi dado. Onde está, aqui, a vontade de controlar tudo? Fomos humilhados. Superou todos nós ”, afirma.
Um de seus conselhos é que as pessoas tenham cuidado com os discursos da indústria tentando vender soluções para seus maiores defeitos. “Agora mesmo, em 2020, não nego que exista uma complementaridade homem-máquina, mas falemos dentro de cinco anos. Tudo será diferente”, adverte.
O que acontece e acontecerá com o mundo do trabalho é o que mais preocupa o escritor. Não tanto por causa da perda de empregos que a inteligência artificial trará, uma das maiores preocupações de Martin Ford, um especialista em robótica britânico, mas por causa do novo método de organização que será implementado em larga escala. Uma organização regida totalmente por máquinas e os algoritmos que não deixa espaço para desacordo. “O empregado se curva à verdade enunciada pela máquina, uma verdade definida pelos interesses econômicos. Onde está a ética? Estão reduzindo a realidade a equações matemáticas!”, exclama.
Para Sadin, o trabalho se define pela coletividade: vários seres humanos tomam decisões e encontram soluções a partir de diversas opiniões. No entanto, são os dados que conduzem a cadeia através de sensores que medem os gestos e a eficiência dos trabalhadores. “Não apenas avalia em tempo real, mas determina os gestos que devem fazer. Isso zomba da integridade e dignidade do ser humano”, alerta o filósofo.
Talvez o que mais cause tensão no escritor parisiense é que não se fale o suficiente de que se está tentando robotizar e até apagar o caos, essencial ao mundo, com suas qualidades e defeitos. "Esses sistemas tentam homogeneizar a sociedade com essa preocupação permanente de alcançar a perfeição, que, menos mal, segue tendo lacunas. Os seres humanos continuam sendo multissensoriais, complexos, contraditórios e plurais”.
- “Sabe qual é seu maior defeito?”, pergunta o filósofo do outro lado da tela.
- Não.
- “Ser a única como você neste mundo”, responde, para ilustrar o problema.
Voltemos a mulher da entrevista de trabalho. Quem contrata não precisa mais ler toda a papelada, a máquina analisa os candidatos e os algoritmos tomam a decisão. “É outro ganho de otimização, admito, mas e se a pessoa na frente da tela estiver gaguejando, mas não por isso ser menos apta para o trabalho? E se demorar para responder não por falta de reatividade, mas simplesmente porque pensa antes de falar?” Por enquanto, os humanos estão no controle, opina Sadin. Mas em três anos tudo pode mudar e é por isso que precisamos começar a refletir e não tomar as coisas como fatos.
No entanto, é possível que “tomemos como fato” tudo isso, porque há mais de 10 anos, com a invenção do smartphone, faz parte de nossas vidas. Aceitamos sua chegada e até o recebemos de braços abertos e polegares para cima, prontos para pressionar a tela. Esses sistemas que estão por toda parte constituem “um companheiro algorítmico da vida”, oferecem-nos ideias, melhores opções, sugestões e até falam conosco, como os alto-falantes inteligentes da Amazon que chamam de "assistente virtual".
“É difícil se livrar disso, porque confiamos nesses aplicativos, em seu critério", explica Sadin. A inteligência artificial muda a estrutura: “Já não são os seres humanos que vão aos produtos, são os produtos que se apresentam às pessoas. Entramos em uma sociedade da recomendação e sugestão automatizada e personalizada”.
Sair desse circuito digital parece impossível. “Passamos da era do acesso a do excesso”, diz o filósofo. Além disso, é difícil se afastar dessas tecnologias, pois facilitam a vida e seus resultados são confiáveis. O mercado numérico responde à demanda. O que aconteceria se o ser humano parasse de pedir cada vez mais? “Pode ser uma opção, mas a indústria digital tem um poder de sedução muito poderoso”, responde.
Então o que fazer? Em uma palavra: parar. Sadin garante que existe uma solução para essa corrida em direção à automação do mundo: “É responsabilidade da pessoa decidir até que ponto aceita ser controlada. Quando percebe que está perdendo esse poder de decisão, precisa parar”. O filósofo acredita que, apesar de tudo isso, estamos em um mundo onde, na medida em que tecnologia se desenvolve a uma velocidade vertiginosa, o mesmo ocorre com as ideias e as inquietações. "Com a pandemia e os erros, chegamos ao final de uma história", conclui. Finalmente, é hora de fazer a si mesmo as boas perguntas.
O interesse de Éric Sadin por esta problemática começou com a generalização da Internet, em 1998. Inicialmente, queria explorar esse novo mundo com um entusiasmo compartilhado com a maioria das pessoas, naquele momento. Pouco a pouco, porém, o outro lado da moeda surgiu diante de seus olhos e começou a se preocupar com a vigilância. Seus livros refletiam um tom cada vez mais crítico. Do seu ponto de vista, o domínio que a tecnologia possui sobre a existência individual e coletiva exige uma análise cuidadosa para que possa ser entendida e respondida.
A concentração de inovações científicas e técnicas deram lugar a um novo sismo no mercado mundial. Assistimos a uma nova re[...]
LER MAIS
