21 Junho 2022
Apaixonado por tecnologia e altamente comprometido na luta contra a desigualdade social, Ricardo Baeza-Yates é um dos cientistas mais fecundos que lideram o debate sobre os limites éticos da tecnologia e da ciência. Doutor em Ciência da Computação e diretor de pesquisa do Instituto de Inteligência Artificial Experiencial da Northeastern University, no campus do Vale do Silício, Baeza-Yates reflete sobre o futuro dos direitos humanos nesta nova realidade digital.
A entrevista é de Ariadna Romans, publicada por Ethic, 15-06-2022. A tradução é do Cepat.
Levando em conta a desigualdade de acesso à tecnologia, de acordo com a categoria socioeconômica ou as diferenças de alfabetização digital entre jovens e idosos, bem como os desafios enfrentados por alguns grupos para fomentar espaços seguros na rede ou o aumento do cibercrime…, considera que estamos preparados, como sociedade, para um mundo totalmente digitalizado?
Não, porque isso suporia que o mundo todo pudesse ser digital. Às vezes, eu digo – com a intenção de brincar – que o primeiro direito é ser digital e o segundo não ser. Eu tenho que permitir que existam pessoas que não queiram ser digitais. Viver sem internet (ou não) não pode ser uma decisão de um Governo, a menos que proponhamos um referendo para isso.
Lembro-me de um exemplo recente, no aeroporto de Barcelona, quando estava na fila para solicitar um cartão de embarque e disseram para uma senhora muito idosa que se não tivesse um formulário digital para covid, não poderia viajar. Ela era canadense e estava retornando ao seu país, mas como não tinha celular, não podia cumprir o requisito exigido.
Ao final, fiz isso por ela, mas me tomou um tempo e ainda tive dificuldades com o seu irmão, que também tinha o mesmo problema. E, claro, quando chegaram ao destino, devem ter encontrado o mesmo problema novamente. Se isso acontece com pessoas idosas de um país desenvolvido, imagine aqueles que vivem em partes do mundo com muito menos recursos.
Está aumentando a exclusão digital, conforme vamos nos digitalizando?
Não está necessariamente aumentando o número de pessoas afetadas por ela, mas acredito que quanto mais a transformação digital cresce, menos coisas as pessoas que não são digitalizadas conseguem fazer. Ou seja, é uma exclusão menos ampla, porém mais profunda.
O problema da exclusão digital é que nem todos terão as mesmas oportunidades, e os mais avançados terão mais oportunidades do que os menos avançados. Isto supõe uma diminuição na qualidade do serviço. E isso se soma a outras exclusões, como a econômica, a educacional, a de gênero, a cognitiva... Há pessoas que inclusive sofrem uma exclusão relacionada ao tempo, porque se você tem tempo livre, consegue se capacitar mais.
E no que diz respeito à falta de informação, é possível tomar uma decisão livre? A democracia funciona em um cenário de desinformação digital?
Supondo que existe a possibilidade de decidir livremente, penso que há uma exclusão educacional de até que ponto compreendemos o que estamos decidindo ou não. Uma democracia tecnológica não é muito mais imperfeita do que uma democracia como a que temos atualmente, por isso devemos levar em conta desafios complicados já persistentes, como a informação falsa.
Yuval Noah Harari aponta, em 21 lições para o século XXI, que as pessoas mais fáceis de manipular são aquelas que acreditam que não podem ser manipuladas. A democracia pode ser perfeita, mas sempre haverá manipulação que pode influenciar seus processos. Atualmente, há tanto caos informacional que não se sabe mais em que acreditar. E a realidade é sempre muito mais complicada do que nos fazem pensar.
Quais são os perigos mais sérios de um sistema onde nem todos os cidadãos compreendem como o mundo realmente funciona?
Nestes dois últimos anos, aprendemos muito para poder responder a esta pergunta. Considero que todas as decisões humanas devem ser pensadas com base na ciência, mas há coisas que ainda não sabemos e sobre as quais não temos certeza se a ciência compartilha.
Por exemplo, muitas das perguntas formuladas pela religião. E as religiões existem: dão respostas a perguntas difíceis de aceitar que, talvez, nunca seremos capazes de responder pela via científica (ou, ao menos, não durante a nossa vida).
Isso influencia muito porque as pessoas tendem a ser arrogantes, mas devemos continuar questionando o que já sabemos e não tomar nada como determinado. Embora, por outro lado, não podemos assumir posições claramente radicais, como acreditar que a Terra é plana ou que as vacinas não servem para nada.
Precisamente, desde o início da pandemia, detectou-se uma população maior em conflito com a comunidade científica. Quais são as causas desse descontentamento social? Que problemas essa desconexão entre cidadãos e ciência pode trazer?
Não tenho certeza se é algo novo ou não. Penso que sempre existiu, mas com a pandemia houve um motivo para que aflorasse e, nas redes sociais, esses grupos enxergaram as ferramentas para ter voz, com a percepção equivocada de que são mais pessoas do que são. É uma amplificação de um viés. E muitos cientistas, de fato, alimentaram essa tendência.
No entanto, existe algo que precisa ser levado em conta: a pandemia também nos mostrou que a resiliência é mais importante do que a eficiência. Nós, tecnólogos, nos preocupamos muito em ser eficientes e não reforçamos nossa capacidade de adaptação como espécie animal às mudanças ambientais de todos os tipos.
Como cientista, sempre se mostrou inclinado à divulgação e participação em espaços de reflexão sobre o papel que a tecnologia tem ou deveria ter na sociedade. Por que essa comunicação entre tecnologia e cidadãos é importante? A ciência ou a academia estão distantes da opinião pública?
Estão um pouco distantes. Mas não só porque a divulgação necessária não é feita, mas também porque estamos em um período de maior ignorância, já que em muitos países – começando pelos Estados Unidos – a educação declinou, principalmente por motivos políticos e econômicos. É sabido que é mais fácil manipular quando a ignorância abunda. A isso deve ser acrescentado o efeito amplificador mencionado acima e seu uso eleitoral em quase todo o mundo.
Portanto, a ciência deve estar presente nos mecanismos de tomada de decisão de cada país e os políticos devem ter um conhecimento mínimo dela. E uso o gênero masculino intencionalmente: não é por acaso que os líderes do Brasil, dos Estados Unidos e do Reino Unido contraíram o vírus duvidando de sua existência.
Com isso quero dizer que precisamos de uma tomada de decisão política mais multidisciplinar, considerando todas as vozes e escutar a um conselho de sábios como fazem algumas culturas milenares, que conte com pessoas que estão aí pela experiência que trazem, mesmo sem o direito a voto – mas com direito à palavra – para dar a conhecer pontos de vista que talvez ninguém tenha levantado antes. Isso seria altamente gratificante, não só pelos processos de decisão, mas também pelo seu caráter inclusivo.
Às vezes, não temos à mesa as pessoas corretas para chegar a decisões mais justas, que respeitem a autonomia das pessoas e, ao mesmo tempo, contribuam para a busca do bem-estar global. Fazer isso geraria uma meritocracia diferente, que nos permitiria envolver conhecimento e tomada de decisões com bases sólidas. Podemos cometer erros nesse processo, é claro, mas errar em tudo é difícil. O positivo é que esses processos seriam públicos.
Por exemplo, no Google criaram um conselho de ética que na mesma semana teve que ser dissolvido pela crítica pública de ter escolhido membros pouco éticos. Por tudo isso, deveria haver mais diálogo, mais divulgação, embora infelizmente divulgar não conte muito quando chega o momento de uma avaliação de resultados na academia. Ou seja, também temos que valorizar a divulgação como uma atividade tão importante quanto publicar um artigo de pesquisa ou o ensino de novos profissionais.
O novo ‘Artificial Intelligence Act’ da Comissão Europeia representa um esforço de regulamentação sem precedentes no mundo. Encontrar uma forma de ordenar a transição digital é imprescindível, mas as críticas também apontaram algumas falhas a nível de garantia dos direitos básicos dos cidadãos. Como deveríamos delimitar as regras do jogo para a inteligência artificial em seu uso na sociedade?
Para mim, o modelo proposto supõe um problema em sua abordagem, embora seja um precedente muito importante para todos. Penso que a regulamentação correta seria regular um setor em particular, como alimentação ou saúde, independentemente da tecnologia utilizada. Porque regulamentar o uso da tecnologia é como regulamentar os usos de um martelo: posso usá-lo para matar uma pessoa ou pregar um prego, mas não deveria optar por matar uma pessoa porque existem os direitos humanos.
Um bom exemplo do que estou dizendo é a Diretiva Europeia de Proteção de Dados (GDPR) que regulamenta um problema, mas que também diz o que você pode fazer e não o que não pode fazer, e sempre é mais fácil ter liberdade para fazer.
O segundo problema da proposta é que ela usa o risco como unidade de medida e divide o mundo em quatro categorias, quando o risco é uma variável contínua: essas categorias não existem na realidade, e é por isso que medir o risco é uma questão complicada, quando não impossível.
O terceiro problema é a viabilidade de fazer com que essas normas sejam cumpridas. Por exemplo, se tomamos o artigo 5º, que diz que são proibidos danos psicológicos ou físicos a pessoas com publicidade, como evitamos que não se mostre uma publicidade prejudicial a uma pessoa com obesidade mórbida ou diabética? É muito difícil cumprir. O mesmo acontece com a lei do direito ao esquecimento.
O último problema é que estamos usando o mesmo modelo para todos. A lei de proteção de dados, por exemplo, é aplicada tanto a uma multinacional como a uma pequena ou média empresa, mas seus efeitos não são os mesmos. O mesmo acontece com a inteligência artificial, quando apenas as multinacionais podem ter dados em massa. Espero que se revise um pouco mais e se valorize a regulamentação, porque hoje acredito que gerará mais problemas do que benefícios.
A regulamentação global de tecnologias como a inteligência artificial não é uniforme. Foram distinguidos dois grandes modelos, o americano e o chinês, e o europeu é entendido como um fronteiriço que busca uma união entre liberdade de mercado e o controle do estado. A Europa está preparada para liderar este novo paradigma?
Mais do que no meio, eu colocaria o exemplo europeu acima do chinês e do americano, porque os copia em algumas coisas e os mistura em outras. Seria como um triângulo. A Europa está na cabeça, mas com os outros dois atrás. Se levarmos em conta todas as possibilidades, eu diria que não deveria liderar esse novo paradigma porque o modelo europeu tem muitos vieses não resolvidos.
É um modelo um pouco mais heterogêneo, mas como os outros dois modelos são mais homogêneos, em certo sentido são mais simples. Isso o impede de pensar a Europa de forma mais ampla, porque está condicionada por cargas individualistas ou de rastros do colonialismo e sexismo que a encerra na concepção ocidental do mundo e não a permite pensar em termos de toda a humanidade. Além disso, as diferenças de poder e ideias entre os países também dificultam esse avanço. Precisamos de mais Ubuntu e menos kantismo.
Se pudesse resolver uma grande crise da humanidade, qual seria?
O mais urgente é acabar com a desigualdade. Hoje, o 1% mais rico tem quase metade da riqueza do planeta, ao passo que os 55% mais pobres têm pouco mais de 1% da riqueza. Como mudaria o mundo se as grandes fortunas investissem o dinheiro que não precisam para acabar com conflitos ou desafios globais?
Um gesto tão simples como melhorar a infraestrutura dos serviços básicos pode melhorar muito a vida das pessoas em muitos países. Mas também precisamos de uma gestão melhor da política, já que a pobreza induz à corrupção. E o fato de que existam pessoas com muitas habilidades que não podem ter acesso a uma educação melhor também é algo que deve mudar. Há muitos problemas, vivemos em uma desigualdade social brutal.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
“É mais fácil manipular quando a ignorância abunda”. Entrevista com Ricardo Baeza-Yates - Instituto Humanitas Unisinos - IHU
O vice-presidente Joe Biden, católico, oficializou o casamento homoafetivo esta semana, no mesmo momento em que os debates na pol[...]
LER MAISA concentração de inovações científicas e técnicas deram lugar a um novo sismo no mercado mundial. Assistimos a uma nova re[...]
LER MAIS
