13 Março 2020
Reconhecimento facial, justiça preditiva... os algoritmos estão por toda parte. Ao coletar e analisar os nossos dados, eles ameaçam nossa autonomia de pensamento e nossa liberdade.
A reportagem é de Pascale Tournier, publicada por La Vie, 11-03-2020. A tradução é de André Langer.
Os filmes Minority Report ou Black Mirror ultrapassados pela realidade? A inteligência artificial (IA), que recobre programas informáticos cada vez mais poderosos, capazes de simular a inteligência humana, transforma vastas áreas das nossas sociedades, afetando o emprego, a saúde, a publicidade, a justiça, o transporte, a política, a música, o setor bancário... Com, ao final, tantos benefícios quanto angústias. O delicado relacionamento entre o homem e a máquina não tem de facto nada de novo.
Mas diante desses algoritmos que resolvem equações ultracomplexas e onde bilhões de dados são analisados em um instante ínfimo, os seres humanos podem rapidamente se sentir ultrapassados por suas criaturas. E o melhor como o pior pode surgir neste mundo onde os Gafam (Google, Apple, Facebook, Amazon e Microsoft) e agora os Batx chineses (Baidu, Alibaba, Tencent e Xiaomi) têm faturamentos maiores do que o PIB de alguns Estados. Porque agora nesta corrida pela tech, é preciso contar com o Reino do Meio, que, até 2025, pretende se tornar a principal potência mundial nesta área.
Na gestão da crise do coronavírus, as máquinas inteligentes foram, assim, convidadas com força com sua parcela de luz e de sombra. Por outro lado, alguns especialistas falam de uma mudança de era na previsão e gerenciamento dos dados de saúde. “Pelo poder de cálculo dos algoritmos, pode fornecer soluções para a gestão da pandemia global”, acredita Florent Parmentier, professor da Sciences Po Paris e pesquisador associado do centro de geopolítica do HEC. No Canadá, foi analisando centenas de milhares de artigos de imprensa e cruzando-os com informações sobre o tráfego aéreo que a startup Bluedot lançou, em 31 de dezembro, o alerta sobre o risco de epidemia, bem antes das autoridades chinesas declararem a emergência.
Na China, quando as empresas estão trabalhando no sequenciamento do genoma do vírus, a empresa Megvii oferece um controle das temperaturas sem contato, graças aos sensores infravermelhos e à técnica de reconhecimento facial da qual a China é o número 1 do mundo. O sistema foi instalado em uma estação de metrô de Pequim. Muito mais preocupante, o “Big brother está te observando” do romance de George Orwell, 1984, está tomando forma.
Em nome de uma gestão irrefreável da crise, o Estado chinês usa descaradamente seu poder coercitivo. Graças à sua análise dos dados, sempre coletados pelo reconhecimento facial, o governo rastreia as pessoas que ficaram na cidade de Wuhan antes da decisão da quarentena e que não respeitam as medidas de contenção. A polícia as lembra de seu dever de cidadãos quando vão para suas casas. “A inteligência artificial pode ser uma ferramenta que permite mergulhar no autoritarismo”, observa Laurent Parmentier. E limitar nossas liberdades individuais. Caramba!
Para Gaspard Koenig, autor de La fin de l'individu. Voyage d'un philosophe au pays de l'IA (O fim do indivíduo. Viagem de um filósofo à terra da Inteligência Artificial), o perigo não vem tanto das inclinações prometeicas de alguns tecnófilos que esperam, especialmente, tornar os humanos imortais. Se acreditarmos no filósofo, a máquina substituirá o homem em seu processo de tomada de decisão. Muitas ferramentas informáticas poderiam questionar sua autonomia e seu livre arbítrio, a base do espírito europeu.
Ao imitar os processos neurais dos indivíduos, a inteligência artificial questiona “a própria natureza do ser humano, seus direitos, seu sentido e, acima de tudo, o que o funda: a liberdade”, diz Sylvain Fort, ex-conselheiro de Emmanuel Macron. Exemplo: os sistemas de GPS nos forçam a seguir uma rota predefinida, e nos dissuadem de qualquer erro. De acordo com Bernard E. Harcourt, autor de La société d’exposition (A sociedade da exposição, Seuil): “Os algoritmos podem influenciar nosso julgamento, moldá-lo, direcioná-lo. Eles exercem refinadas manipulações em nossa subjetividade”.
Um processo do qual nós seríamos as vítimas voluntárias. Para Bernard E. Harcourt, George Orwell teria se enganado: não é sob pressão que nós somos vigiados, mas pela nossa vontade, até pelo nosso desejo. Bem-vindo à era da servidão voluntária! Ao navegar na internet para o nosso prazer, deixamos dados pessoais. Isso dá às empresas a oportunidade de nos conhecer de todos os ângulos, de prever nosso comportamento e nossos desejos, muitas vezes sem o nosso conhecimento.
Éric Schmidt, ex-presidente do Google, citado por Éric Salobir em Dieu et la Silicon Valley (Deus e o Vale do Silício, no prelo), tem o mérito de ser direto: “Sabemos aproximadamente quem você é, quem são seus amigos. A tecnologia será tão boa que será difícil para as pessoas ver ou consumir algo que não tenha sido ajustado para elas”.
Esses datas são zelosamente guardados. Matthieu Courtecuisse, autor de Saut congnitif. Comment l’inteligence artificielle sauve le monde (Salto cognitivo. Como a inteligência artificial salva o mundo, First), destaca que “este é o novo ouro negro”. Assim, nas plataformas musicais de streaming, os hábitos de escuta e o perfil dos ouvintes são minuciosamente examinados por robôs automatizados. Deezer, Spotify e outros podem, então, responder aos gostos dos ouvintes sugerindo escolhas.
Muito em voga, o conceito de “Nudge”, oriundo das ciências comportamentais e que significa “cutucão”, visa incentivar os consumidores, sem coerções, a tomar a decisão certa, apostando, se necessário, em seus preconceitos cognitivos. Mas é fácil ver como essa maneira de nos conduzir “pelos sentimentos” pode ser usada para fins comerciais. Quem não reservou um hotel mais rápido do que teria feito, onde a menção “resta apenas um quarto disponível” aparece no site? Manter a distância certa de tais incentivos nem sempre é fácil.
Laurence Devillers, autora de Robots “émotionnels” (Robôs “emocionais”, Éditions de l'Observatoire), alerta contra a emergência de máquinas emocionais, tipo robôs, hologramas, chatbots – agente de conversação – e seu poder de manipulação sobre os idosos e as pessoas que sofrem de solidão. Em geral, dar às máquinas uma confiança cega é uma verdadeira armadilha. Especialmente porque estas são propensas a erros. Ainda no banco dos réus, os desvios algorítmicos.
“A inteligência artificial apenas torna explícitos os preconceitos humanos implícitos”, diz Matthieu Courtecuisse. Ao aprender pelo exemplo, os algoritmos destinados a arbitrar pequenas disputas de fato reproduziram preconceitos racistas ou sexistas. Diante do que deve ser chamado de verdadeira revolução, a regulamentação ainda está em sua fase inicial. Graças aos processos computacionais, as empresas oferecem um estudo sobre a tonalidade da voz para um recrutamento, observa ainda Laurence Devillers. “Vamos detectar o grau de extroversão do candidato, seus determinantes sociais. Mas isso se valida? Quais são seus critérios? O sistema é muito opaco”, preocupa-se.
É nesse sentido que devemos analisar o apelo do Vaticano, aliado à IBM e à Microsoft, a favor da “inteligência artificial ética”. Baseia-se sobre os princípios da transparência, da inclusão de todos, da segurança e da confidencialidade dos dados. A Europa publicou em fevereiro passado uma cartilha por uma inteligência artificial baseada na excelência e na confiança. “Em face da China, a Europa tem uma escala de valores a defender centrada na dignidade humana”, analisa Florent Parmentier. A retomada da inteligência artificial pela política é um dos grandes desafios que nos aguarda: “Como diz o ditado de Roy Amara, o cofundador do Instituto para o Futuro (IFTF) do Vale do Silício: Temos a tendência de superestimar o impacto de uma nova tecnologia no curto prazo e a subestimá-lo no longo prazo”.
O Instituto Humanitas Unisinos – IHU promove o XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida, a ser realizado nos dias 19 a 21 de outubro de 2020, no Campus Unisinos Porto Alegre.
XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Inteligência artificial: somos ainda livres? - Instituto Humanitas Unisinos - IHU
Embora a Igreja tenha mantido uma relação de amor e ódio com os meios de comunicação e, em especial, com as mídias digitais,[...]
LER MAISA mensagem de Bento XVI para o 47º Dia Mundial das Comunicações Sociais lança os desafios do papa à própria Igreja com rela[...]
LER MAISA expressão criada pelo pesquisador Kevin Ashton há 13 anos começa a ganhar forma: as coisas conectam-se entre si através da I[...]
LER MAIS
