“Na Idade Média, havia o senhor da terra, o landlord, que dava ao pobre camponês o direito de cultivá-la, mas exigia em troca a metade da colheita. Hoje, temos o senhor da Web, o datalord, que nos dá acesso aos seus serviços, mas exigindo que cultivemos para ele dados de grande valor.”

Durante o StartupItalia Open Summit (SIOS21), conversamos com o padre Paolo Benanti, professor de Ética na Pontifícia Universidade Gregoriana, em Roma, especialista em inovação e ética das tecnologias, sobre os desafios que nos são reservados pelo presente, feito de algoritmos, dados que são levianamente cedidos pelos internautas para os gigantes da internet e inteligências artificiais cada vez mais invasivas e insidiosas.

Portanto, foi um prazer reencontrá-lo no Meeting de Rimini, na Itália, para conversar com o franciscano da Terceira Ordem Regular também sobre o seu último livro, “Human in the loop. Decisioni umane e intelligenze artificiali” (Ed. Mondadori Università, prefácio de Giuliano Amato), porque o tema é um dos mais urgentes: somos nós que condicionamos as máquinas ou é o contrário que ocorre cada vez mais frequentemente? E o que acontece quando alimentamos as inteligências artificiais com dados contendo preconceitos?

Capa do livro “Human in the loop. Decisioni umane e intelligenze artificiali”, de Paolo Benanti.

Foto: Divulgação

A entrevista foi concedida a Carlo Terzano e publicada em StartupItalia, 04-09-2022. A tradução é de Moisés Sbardelotto.

Eis a entrevista.

Padre Benanti, no seu último livro, você reflete sobre o modo como os algoritmos influenciam o nosso agir já hoje: pode nos dar um exemplo?

Cada um de nós já experimentou o funcionamento desse tipo de algoritmos quando compramos um livro nas grandes plataformas: essas pequenas receitas informáticas, a partir dos nossos microcomportamentos, nos classificam como usuários interessados em algo, sugerindo-nos outros textos nos quais podemos estar interessados...

Então, com essas sugestões, elas já estariam nos influenciando?

Exatamente. Uma coisa é aplicar esses algoritmos preditivos a um motor: eles conseguem prever quando ele vai quebrar, como ocorre na Estação Espacial Internacional, mas, se os aplicarmos aos seres humanos, eles não se limitam a prever um comportamento, mas também o produzem, pelo menos em parte. Esse é o grande problema ligado à inteligência artificial, que também põe em jogo a nossa liberdade.

Portanto, é o ser humano quem condiciona a máquina, instruindo-a a partir de seus próprios gostos, mesmo durante uma simples busca de um filme ou de um livro dentro de um catálogo, ou é mais fácil que ocorra o inverso?

Digamos que o processo é de mão dupla: os algoritmos são primeiro instruídos a partir dos nossos gostos e tentam nos rotular. Se as escolhas são de uma pessoa que tem preconceitos (prefere um sexo a outro, uma etnia a outra...), a máquina os assume. Depois disso, trabalhando incansavelmente dia e noite, continuará trabalhando mesmo quando a pessoa for dormir, produzindo preconceitos, por sua vez. É um pouco como se estivéssemos lidando com grandes aspiradores que sugam tudo o que encontram na rua, para o bem ou para o mal, cuspindo-o multiplicado ao infinito.

Falamos de preconceitos, agora falemos de ética: ela tem o seu espaço no desenvolvimento tecnológico ou tendemos a ignorá-la?

Um dos maiores recursos das empresas de alta tecnologia são os engenheiros, que, além do salário, também querem que seu trabalho tenha um impacto positivo na sociedade. Querem que a empresa produza tecnologia que faça o bem: nenhum engenheiro gostaria de ajudar a desenvolver o software para um drone assassino que ataque pessoas inocentes. A ética da tecnologia, então, deve usar esses espaços para operações ganha-ganha: ganha a empresa que tem pessoas motivadas ao seu lado e ganha a sociedade inteira.

E isso é suficiente?

Não, devemos estar cientes de que isso por si só não é suficiente. A ética é uma voz, por mais poderosa e profunda que seja, que apela à consciência das pessoas, mas também são necessários guarda-corpos mais rígidos para ajudar a sociedade a se manter na pista desta nossa estrada que nos leva ao futuro. Portanto, são necessárias leis que sejam pontos de referência fixos para todos.

Os algoritmos de perfilização ou de funcionamento do Google não são conhecidos: sabemos muito pouco sobre eles. A rede é realmente livre e democrática, já que todas as nossas buscas podem ser controladas remotamente?

A rede nasceu livre, mas era a Web 1.0, depois da qual nenhum de nós continuou construindo o próprio site ou os próprios serviços: passamos a usar aqueles que as grandes empresas nos disponibilizavam gratuitamente. Mas não tem almoço grátis, como dizem os estadunidenses. De fato, se formos a um bar e encontrarmos amendoins à disposição de todos, é apenas porque, ao nos deixar com sede, eles nos levarão ao consumo de um número maior de bebidas. O mesmo mecanismo é encontrado hoje na web: os dados que nós deixamos dentro dos aplicativos são monetizados para publicidade. Se hoje entendemos a liberdade como uma conjugação da democracia, desse ponto de vista certamente voltamos no tempo, à Idade Média...

Em que sentido?

Na Idade Média, havia o senhor da terra, o landlord, que dava ao pobre camponês o direito de cultivar a terra, mas exigia em troca a metade da colheita. Hoje, temos o senhor da web, o datalord, que nos dá acesso aos seus serviços, mas em troca exige que cultivemos dados de grande valor. Pois bem, talvez mais do que a liberdade, deveria ser democratizado esse grande feudalismo digital que aceitamos.

Leia mais

• Os três conselhos de Harari para frear o “autoritarismo digital”
• O reinado feudal do algoritmo. Entrevista com Cédric Durand
• “A lógica do tecnofeudalismo possui uma ascensão contínua sobre nossas vidas”. Entrevista com Cédric Durand
• Algoritmos e novos instrumentos de participação política. Artigo de Paolo Benanti e Sebastiano Maffettone
• Como os algoritmos discernem nosso estado de ânimo pelo que escrevemos online
• “Os algoritmos vão dizer a sua dieta, horas de sol, exercício, meditação”. Entrevista com Joe Barkai
• “Atenção, os algoritmos começam a nos controlar”. Entrevista com Andrés Moya
• A enorme transformação da era digital e a correlação que conduz o nosso conhecimento sobre a realidade. Entrevista especial com Paolo Benanti
• A sociedade algorítmica
• ''Machine Behaviour'' e Inteligência Artificial: nomear os medos, governar os algoritmos. Artigo de Paolo Benanti
• “Estamos injetando nos algoritmos as nossas limitações, a nossa forma de marginalizar”. Entrevista com Kate Crawford
• A enorme transformação da era digital e a correlação que conduz o nosso conhecimento sobre a realidade. Entrevista especial com Paolo Benanti
• Um pacto entre ética e tecnologia: caso contrário, robôs e algoritmos mandarão nos seres humanos. Entrevista com Vincenzo Paglia