Da BBC a quase todos os jornais nacionais, passando por colaborações em inúmeras rádios, quase uma dúzia de prêmios, três livros publicados pela editora Planeta... e a lista continua. Este é o currículo de Marta García Aller, autora de Lo imprevisible. Este ensaio, que destrincha com precisão matemática a natureza dos algoritmos, é imprescindível para entender exatamente o que é essa ferramenta da tecnologia.

A reportagem-entrevista é de Juan Scaliter, publicada por La Razón, 20-06-2020. A tradução é do Cepat.

“O livro seria lançado em 30 de março, mas finalmente foi lançado há duas semanas, o que permitiu sua atualização em maio, com a desescalada. E aproveitar os ambientes de notícias falsas, aplicativos de controle populacional e análise remota para dar uma orientação ainda mais atual ao livro”, explica García Aller, em uma conversa por telefone. Existem tecnologias e disciplinas científicas que determinaram décadas e até séculos. Aconteceu com a astronomia, com a física atômica, o mesmo aconteceu com a genética e com a internet. Agora, é a vez dos algoritmos.

“Penso que realmente não estamos conscientes da importância dos algoritmos. Não se trata de ser a favor ou contra. É a tecnologia que mais vai impactar o século XXI e não estamos conscientes do poder que têm... que mais do que deles, o poder são das empresas que estão por trás, que são humanos, em última instância. Graças a eles, busca-se, entre outras coisas, prever o comportamento humano”, afirma García Aller.

“Às vezes, isso não nos parece nada invasivo, como quando entramos no carro e nos avisam que haverá um engarrafamento, isso é um algoritmo. Se queremos comprar algo e utilizamos para isso o celular, quando alcançamos progresso científico graças ao Big Data, quando conseguem avanços relacionados à saúde, também não nos parece um problema. Acredito que o problema é um mal-entendido de que pensamos que as máquinas vão nos controlar e são os humanos que as utilizam”.

E, é claro, como explica em seu livro, os humanos têm sua própria agenda. O Twitter, por exemplo, não está minimamente interessado na veracidade do conteúdo, mas em sua viralidade, na repercussão que tem. Portanto, seu algoritmo prioriza os tuítes que geram polêmica, sem levar em conta sua confiabilidade. “Os algoritmos são como churros: para ter sucesso, precisam que a massa (os dados) seja boa. Caso contrário, surge um algoritmo racista, sexista e manipulador e, portanto, é preciso exigir a transparência, sem importar a que nos dediquemos, já que vão mudar o futuro. E precisamos entendê-los para saber como afetam nossas vidas”.

O exemplo mais recente é o uso de algoritmos para controlar os deslocamentos e a identidade da sociedade, durante a quarentena. Diferentes países como Coréia, China, Japão, Cingapura e Alemanha os utilizaram conforme com suas próprias regras, com mais ou menos respeito à privacidade. E esse é um dos eixos principais de Lo Imprevisible.

“A privacidade será um dos grandes desafios que teremos de reinventar nos próximos anos. Há implicações enormes de empresas que estão coletando enormes quantidades de dados e é preciso ter cuidado com isso, sem deixar de utilizá-los, já que são muito necessários ”, confirma García Aller.

“É como usar veículos sem ter o código de trânsito. Estamos construindo os semáforos, as faixas de pedestres e as calçadas enquanto dirigimos. Os dados podem ajudar as empresas a oferecer produtos melhores e mais personalizados, mas também existe outro lado dessa moeda. Se baixarmos um aplicativo gratuito, o primeiro problema é que o produto somos nós. Mas isso também pode se tornar uma ferramenta para manipular nossos gostos. Ainda não sabemos se o algoritmo nos recomenda algo porque sabe que vamos gostar ou gostamos porque o algoritmo nos recomenda”.

Se os algoritmos são capazes de influenciar em nosso consumo, também podem ser fatores determinantes na política? “Exatamente”, responde García Aller. “Isso muda a maneira como consumimos, mas também a maneira como votamos e o desafio que isso representa para as democracias. Principalmente, tendo em mente que os partidos políticos podem comprar informações sobre seus eleitores e também sobre aqueles que não votam neles ou estão indecisos. Pode não ser para convencê-los a mudar o voto, mas para dizer-lhes que não votem”.

E, então, vem a instância mais comprometida em termos de algoritmos e da qual mais devemos aprender como cidadãos: nossa forma de pensar. Os algoritmos podem nos dizer o que pensar sobre outras pessoas? No atual contexto de crise racial, essa ferramenta pode ser de grande ajuda. Ou totalmente o oposto...

“Acredito que os algoritmos, do modo como estamos utilizando agora, são mais uma fonte de conflito e polarização do que de apaziguamento”, confirma García Aller. “Nas redes sociais, o que se fomenta é o que prende mais a atenção e há duas maneiras para isso. Uma é a que coincide com a nossa maneira de pensar, para darmos ‘like’, porque gostamos de ter a razão e é isso que o algoritmo sabe e se preocupa em nos dar como conteúdo. A outra opção é mostrar um conteúdo que nos ofenda e com o qual discordamos completamente. Estamos criando pessoas intolerantes, com base em lhes dar a razão ou as indignando, quando existe muitíssima informação que não está nos extremos. É aqui que surge a questão da aldeia global, que cada vez se torna mais aldeia e menos global.

“Se os algoritmos nos ensinam apenas o que está de acordo com o nosso modo de pensar, não abre mais nossas mentes, pelo contrário, o que vemos em um muro, acaba sendo um muro real, uma construção que divide. Os algoritmos calculam o que vai chamar a atenção por mais tempo e no fundo é o que lhes interessa: que passemos mais tempo na frente da tela. Não lhes interessa que estejamos mais informados. E este é um desafio para os meios de comunicação também. E enquanto não diferenciarmos um muro de uma rede social de um meio de informação, não avançaremos”.

Por que entrevistar neurocientistas e filósofos, se os algoritmos são ferramentas matemáticas? A resposta de García Aller é esclarecedora para nossa futura relação com os algoritmos.

“A incerteza que experimentamos com a pandemia já estava presente antes da Covid-19 e o cérebro humano é intolerante a muita incerteza e é por isso que contamos histórias uns aos outros. Conversei com neurocientistas e me disseram que, às vezes, o cérebro prefere meia verdade ou uma mentira que seguir na incerteza. É importantíssimo perceber que seguiremos vivendo em tempos de mudanças e de incertezas e que isso pode nos ajudar a entender melhor a realidade”.

“Há mudanças constantes que nos desconcertam: ‘o que será de meus filhos, do meu emprego?’. E não é a primeira vez que isso acontece, sem ir muito longe, na Espanha. Vivemos momentos tremendos, nos últimos 100 anos. A diferença é que agora estamos transmitindo em tempo real. E isso, em vez de gerar mais tolerância, cria mais preocupação. Por isso, o imprevisível é o que permanecerá para nós, o rotineiro, as máquinas farão. Somos melhores do que máquinas em enfrentar imprevistos e entender outros seres humanos. A capacidade de sermos estúpidos também nos torna imprevisíveis para os robôs, e não somos tão racionais como pensamos. Os robôs serão a ferramenta que usaremos, e não é boa e nem ruim, é importante saber usá-la”.

Leia mais

• Revolução 4.0. Novas fronteiras para a vida e a educação. Revista IHU On-Line, Nº. 544
• “Não se deve ter medo da tecnologia, mas conhecer seus limites”. Entrevista com Marta García Aller
• “Os algoritmos vão dizer a sua dieta, horas de sol, exercício, meditação”. Entrevista com Joe Barkai
• Acelera a virada digital
• Inteligência artificial também contra vírus. Em primeiro lugar na China
• Prudência tecnológica em tempos de coronavírus. Artigo de Luca Peyron
• “A pandemia fortalece, sobretudo, as corporações tecnológicas e a economia de plataformas”. Entrevista com José María Lassalle
• A nova gramática da divisão do trabalho digital e os desafios da plataformização. Entrevista especial com Lucas Hertzog
• A corrida pelo desemprego e a terceira revolução digital
• Inteligência artificial: somos ainda livres?
• Cenários pós-coronavírus: da ‘tecnologia civil’ à economia contributiva
• O panóptico do coronavírus rastreia seus contatos 
• Coronavírus, os governos europeus pedem socorro às Big Tech. Mas o tempo dos mapas de contágio está se esgotando
• O que é a Internet das Coisas e como isso irá mudar o cotidiano das pessoas
• Por uma inteligência artificial humanística. Entrevista com Paolo Benanti
• Direitos na era do algoritmo. Entrevista com Andrés Gil Domínguez
• Existem os algoritmos progressistas?
• Sociabilidade Algorítmica: o desafio de não perdermos a humanidade que nos une pela polaridade que nos divide na era da Internet
• Tecnopolítica, racionalidade algorítmica e mundo como laboratório. Entrevista com Fernanda Bruno
• Os algoritmos e a política. Nem bons ou ruins, os algoritmos também não são neutros. Entrevista especial com André Pasti e Marina Pita
• Política do Algoritmo
• A Era do algoritmo chegou e seus dados são um tesouro
• Pós-capitalismo na era do algoritmo (1)
• Na Revolução 4.0, automação ameaçará postos de trabalho mais rapidamente. Entrevista especial com Bruno Ottoni Eloy Vaz
• O fim do indivíduo. Viagem de um filósofo à terra da inteligência artificial