“Chama-me a atenção que noticiemos nossa vida em um site que pertence a uma empresa privada”, aponta nesta entrevista o professor de matemática aplicada David Gómez-Ullate Oteiza, autor junto com David Ríos Insua, de Big data (Libros de la Catarata-CSIC).

A entrevista é de Olivia Carballar, publicada por La Marea, 09-02-2020. A tradução é do Cepat.

Eis a entrevista.

Qual é o principal risco do Big Data?

Cada vez passa a existir mais pessoas conscientes da necessidade de entender bem quais implicações o Big Data possui. Todos usamos dispositivos eletrônicos, todos usamos redes sociais... e, de alguma forma, engolimos o anzol com o qual se criaram, e é o uso que têm para nós. As pessoas usam as redes sociais para colocar suas fotos, conversar com seus amigos... Mas as empresas não criaram essas redes para esse fim, mas para arrecadar dinheiro, principalmente para publicidade induzida e, nesse sentido, foram supereficientes. E as pessoas fornecem a você todos esses dados? É o que perguntam a Mark Zuckerberg no filme “A rede social”. Sim, sim, me fornecem.

Então, estamos vendidos sim ou sim?

Agora está chegando a regulamentação. Com a entrada em vigor da lei sobre proteção de dados e o regulamento geral, há coisas que não podem mais ser feitas sem o consentimento expresso. Na prática, o que significa muitas vezes é que há um clique a mais para aceitar condições que quase ninguém lê. Chama-me a atenção que noticiemos nossa vida em um site que pertence a uma empresa privada. Mas é difícil parar agora, porque está tão instalado em nossa sociedade, que é complicado. Temos que aprender a conviver com isso e exigir a regulamentação para que determinados usos sejam controlados.

Reúnem no livro alguns exemplos em saúde. Aplicativos que, com uma foto de uma pinta, ajudam a diagnosticar o câncer de pele mais rapidamente, por exemplo. Isso gerará mais desigualdade? Ou seja, isso incidirá em uma maior privatização da saúde?

Acredito que são coisas que acontecem paralelamente. Existe uma tendência evidente em fazer negócios com a saúde, que já existia muito antes do surgimento da ciência de dados e da Inteligência Artificial (IA), e provavelmente não irá parar. Mas há uma vantagem do lado da administração. Tais tipos de algoritmos precisam de muitos dados para funcionar: para poder criar uma ferramenta que saiba classificar esse tumor de acordo com a imagem de uma pinta, cerca de 200.000 imagens corretamente catalogadas. E a maior parte desses dados está em posse de administrações públicas. Quem tem os dados é quem tem a capacidade de desenvolver tudo isso. Uma vez desenvolvido, o aplicativo é relativamente barato.

Potencialmente, esse tipo de tecnologia pode ter efeitos positivos para aproximar o conhecimento de áreas onde até agora não chega e reduzir custos. Mas o risco de haver pessoas que desejam fazer negócios é evidente.

Eu trabalho com médicos em Andaluzia e estou cada vez mais consciente de que esses dados têm muito valor e não assinam contratos com empresas sem ter um controle muito claro do que acontecerá com esses dados.

Como isso pode afetar o setor bancário?

No dia em que a Amazon e o Google quiserem entrar no setor bancário, terão uma vantagem competitiva em relação aos bancos tradicionais, que é o fato de conhecerem perfeitamente seus clientes em potencial, especialmente se usarem o tipo de plataforma que muitas pessoas já usam. Se a Amazon sabe o que estou comprando, pode estimar muito bem minha capacidade de crédito. De fato, a Amazon já possui, como parte de seus negócios, serviços financeiros básicos, que permitem pequenos serviços de crédito por meio de sua plataforma, mas ainda não deram o grande salto, e isso pode acontecer e acredito que o veremos.

E pode ser letal na hora de oferecer uma hipoteca...

Antes, eram as pessoas que decidiam isso. Em certo momento, podiam pular as regras e dar crédito a uma pessoa do bairro que conhecem a vida toda. Havia uma margem de flexibilidade, havia um ser humano tomando essa decisão, o gerente da filial. Agora, muitas dessas decisões são tomadas por algoritmos e ao humano cabe executá-las. É um risco importante. Porque é necessário ter um controle muito claro e uma auditoria sobre como são feitos esses algoritmos. Pode haver discriminação de setores da sociedade e do local onde vivem.

Os dados por si só não fazem nada.

Exatamente. Imagine que em uma determinada área da cidade as pessoas correm um risco maior de não devolver um crédito. Seu modelo baseado em dados, como está vendo isso, diz a você que quem vem dessa área precisa pagar um juro maior. Com isso, a situação fica ainda mais difícil para essa pessoa. Esses modelos correm o risco de intensificar a desigualdade e fazer círculos viciosos em uma situação já difícil. E esse é um risco que está acontecendo com os algoritmos e a Inteligência Artificial.

Veremos na Espanha um Cambridge Analytica?

Não acredito que sejamos diferentes. Aqui, chega o mesmo que chega a outros lugares. Nas últimas campanhas eleitorais, vimos notícias falsas, contas falsas... Tudo o que funciona e é testado em uma campanha em um país se espalha. De fato, Cambridge Analytica veio à Espanha, contatou partidos e ofereceu seus serviços, mas, ao final, acho que não foram contratados porque era bastante caro. Existem empresas espanholas que coletam dados do Facebook para fazer o que é chamado microssegmentação, que é enviar mensagens muito direcionadas ao grupo que você deseja alcançar.

O problema é a informação. Onde estão as fontes confiáveis da informação? Sempre houve uma vinculação entre os veículos de comunicação e o poder político, mas havia limites mais ou menos claros e, quando muito percebido, se perdia credibilidade. Agora, é muito difícil saber onde você deve se informar, se deseja obter informações confiáveis. E a informação política explora isso até as últimas consequências. Nós já estamos vivendo isso. Não descubro nada de novo.

Nota de IHU On-Line:

O Instituto Humanitas Unisinos – IHU promove o XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida, a ser realizado nos dias 19 a 21 de outubro de 2020, no Campus Unisinos Porto Alegre.

Leia mais

• Os desafios de uma tecnologia que sirva ao humano e não que se sirva do humano. Revista IHU On-Line, Nº. 544
• Um guia para compreender a quarta Revolução Industrial. Revista IHU On-Line, N° 506
• Homo Deus e a grande revolução algorítmica no século XXI. Revista IHU On-Line, Nº 516
• Existem os algoritmos progressistas?
• Sociabilidade Algorítmica: o desafio de não perdermos a humanidade que nos une pela polaridade que nos divide na era da Internet
• Tecnopolítica, racionalidade algorítmica e mundo como laboratório. Entrevista com Fernanda Bruno
• Os algoritmos e a política. Nem bons ou ruins, os algoritmos também não são neutros. Entrevista especial com André Pasti e Marina Pita
• Política do Algoritmo
• A Era do algoritmo chegou e seus dados são um tesouro
• Pós-capitalismo na era do algoritmo (1)
• Na Revolução 4.0, automação ameaçará postos de trabalho mais rapidamente. Entrevista especial com Bruno Ottoni Eloy Vaz
• O fim do indivíduo. Viagem de um filósofo à terra da inteligência artificial
• A mutação do mundo do trabalho e a proteção dos trabalhadores - 60% dos empregos serão automatizados. Entrevista especial com Yuri Lima
• A Revolução 4.0 e a reedição das lógicas das revoluções burguesas. Entrevista especial com Gaudêncio Frigotto
• Robôs estão entre nós. Como viver num mundo sem empregos para todos?
• Indústria brasileira 2.5. O futuro do Brasil no contexto da Revolução 4.0. Entrevista especial com Fábio do Prado
• Automação vai mudar a carreira de 16 milhões de brasileiros até 2030
• Robótica eliminará até 800 milhões de empregos até 2030
• 50% do trabalho no Brasil pode ser feito por robô, diz estudo
• O impacto da quarta revolução industrial na sociedade
• Quem são os mais propensos a sofrer com a automação do trabalho?
• Tempos de incerteza: um robô poderia substituir meu trabalho?
• 'Profissões deixam de existir, mas surgem outras', diz consultor
• Indústria instala 1,5 mil robôs por ano
• Seremos líderes ou escravos da Indústria 4.0?
• 60% dos jovens estão aprendendo profissões que vão deixar de existir
• A 4.ª revolução industrial e o futuro do emprego