Luciano Floridi, professor de filosofia em Oxford e um dos maiores especialistas mundiais em inteligência artificial (IA), nos fala de Ética. Entendida em sentido profundo e certamente não como defesa contra os “perigos” que alguns atribuem a essa extraordinária oportunidade de crescimento para a humanidade.
A reportagem é de Filippo Astone, publicada por Industria Italiana, 21-08-2020. A tradução é de Moisés Sbardelotto.
“Quando falamos de ética da inteligência artificial, estamos nos concentrando em uma série de questões que dizem respeito ao futuro da humanidade. Por exemplo, a enorme questão da responsabilidade. Se um avião cai porque o sistema recebe dados errados, de quem é a culpa? Mais: o software reforça as minhas escolhas, e eu me torno cada vez mais aquela pessoa ali. Mas, mesmo assim, continua sendo um conceito de ética tout court, em nível empresarial, que mais do que nunca está voltando à tona prepotentemente.”
Luciano Floridi, professor ordinário de filosofia e ética da informação na Universidade de Oxford, no Oxford Internet Institute, onde dirige o Digital Ethics Lab, conta nesta ampla entrevista como o discurso referente à inteligência artificial está intimamente ligado ao da ética e da responsabilidade. E, acima de tudo, como a ética pode produzir valor econômico.
Professor, vamos começar do início: o que é ética?
Estamos em um contexto em que existem muitíssimas definições. Em geral, pode-se dizer que, por Ética, entendemos todo o conjunto de precauções necessárias para fazer com que as “coisas” vão bem. Mas se quisermos ser filosoficamente corretos, devemos, acima de tudo, distinguir entre o bem e o mal. E isso, sem nos determos em milênios de história do pensamento humano, nos leva diretamente às novas tecnologias. Porque algumas delas podem levar a mais discriminação ou a menos opacidade nas decisões. Por exemplo, se um empréstimo bancário não for concedido, e a decisão tiver sido tomada por um software, é necessário um ser humano que torne essa escolha transparente. E outro que a verifique.
Agora subamos um degrau: como se aplica a ética à inteligência artificial?
Neste momento, estou estudando um ramo da ética que deveria lidar com alguns problemas bastante simples de se definir, mas muito complexos de se resolver. O primeiro é a opacidade das decisões tomadas pelos sistemas artificiais. Outra é a difusão distribuída da responsabilidade: quando sistemas grandes e cada vez mais complexos vivem também de inteligência artificial, de quem é a responsabilidade?
Um Boeing que cai realmente tem apenas um problema de software? E, nesse caso, a culpa é dos pilotos, de quem fez o treinamento deles, de quem autorizou o uso desse software, de quem o projetou? Esses são problemas mais evidentes. Depois, há os mais silenciosos, que são dois: o primeiro é o do “empurrãozinho”, ou seja, o fato de que um software pode ser tranquilamente programado para nos aconselhar sempre a ir numa determinada direção, indo de encontro à nossa autonomia. Pensemos naqueles que nascem hoje e que terão que lidar com décadas de inteligência artificial. Trata-se de sujeitos que são gentilmente empurrados pela inteligência artificial, silenciosamente, mas constantemente.
E o segundo problema silencioso?
É aquele de quem está se adaptando a quem. Em certo ponto, vimo-nos inventando tecnologias que fazem as coisas no nosso lugar, talvez até melhor e de forma mais eficiente. E, lentamente, somos nós que nos adaptamos à máquina, e não vice-versa. Essa é a tecnologia do passado. Mas, se eu tiver que empregar um pequeno software de inteligência artificial para fazer operações e fazer com que tudo corra bem e talvez tenha que usar uma linguagem mais simples, ou evitar certas palavras, então o resultado é que a tecnologia me mudou “para pior”, tornou-me um pouco mais estúpido. Esse é um risco que estamos correndo, mesmo que eu não veja isso como um perigo muito grave. No entanto, é preciso estabelecer um ponto firme na interação com a inteligência artificial, e é aqui que a ética entra em jogo.
Em que ponto está a discussão sobre esse tema?
Podemos ser otimistas se levarmos em consideração espaços temporais amplos e menos otimistas se nos concentrarmos no imediato. Hoje a política, a mídia, todos estão lidando com isso, e isso é entusiasmante. Mas, se olharmos para o que foi feito nos últimos cinco anos, temos resultados mais frustrantes: poucos progressos, o tema da inteligência artificial ainda é abordado por estereótipos gastos e banais. E por alarmismos inúteis ou danosos, como já pudemos dizer em outra conversa. A verdade é que chegou o momento de fazer algo em nível europeu, por exemplo, instituir uma agência que faça auditorias de modo sério sobre o setor dos softwares, assim como se faz agora para o setor farmacêutico ou agroalimentar.
A ética favorece a criação de valor econômico?
Se usada corretamente, sim. E pelo menos por dois motivos. Em primeiro lugar, ela permite criar mundo ligeiramente melhor, onde os negócios crescem porque as pessoas estão melhor. Uma frase que pode parecer quase banal, mas que, na realidade, esconde o segundo motivo: é natural que a empresa que quer crescer rapidamente e talvez se deixa comprar pelo grande comprador em pouco tempo não tenha a ética entre os seus principais argumentos. Mas a empresa madura, grande e internacional, que quer permanecer no mercado pelos próximos 50 anos, deve investir também em valor social, em responsabilidade empresarial, para melhorar o ambiente e assim por diante.
Aplicando esses conceitos ao digital, vejo que existem as empresas “históricas” que não precisam ser convencidas de que a ética faz parte do negócio. Depois, por outro lado, há as empresas mais jovens que precisam ser convencidas. Por fim, há as startups, que se apoiam muito mais solidamente na ética e que a compreendem rapidamente. Em suma, os velhos e os jovens introjetaram esses temas, a geração média definitivamente não. E, se quiser crescer e prosperar, deve fazer isso. Além disso, a ética, ao tornar transparentes os mecanismos de tomada de decisão e os processos de funcionamento, torna a empresa atraente para o seu ecossistema de referência e assegura a sua sustentabilidade ao longo do tempo.
Mas ela não seria também uma moda, um sistema para criar uma imagem positiva com pouco esforço? Afinal, uma empresa que atua em conformidade com a lei e que produz renda é ética em si mesma porque garante um benefício à sociedade e a quem nela trabalha...
Isso também é verdade, especialmente porque temos um sistema de leis na Europa que permite um controle preciso de eventuais atalhos. Mas também é preciso acrescentar que não há um limite para fazer bem as coisas: fazê-las de acordo com as regras é o mínimo, depois há um nível superior que é o ético. Existe um salário mínimo estabelecido pela lei? É claro, mas ninguém proíbe de dar um salário maior do que o nível de base. Ninguém proíbe que um empresário crie um refeitório para os empregados. Por isso, gostaria de ver esses gigantes do digital fazerem muito mais. Eu lamentaria que eles pensassem em se limitar àquilo que é legal, porque poderiam fazer muito mais. Por exemplo, para a boa informação e para limitar a proliferação das fake news online. A ética pode e deve ser sempre aplicada. Também na Itália, onde o lucro é sempre visto como algo negativo.
A esse respeito, como você vê a renda de cidadania?
Partamos de um pressuposto: que nós vivemos melhor do que as quatro ou cinco gerações que nos precederam. E não seria melhor que esse excedente fosse distribuído entre todos? Da mesma forma, eu estudei a renda de cidadania muito antes de ela se tornar a bandeira política de uma certa ala política, e ela me parecia uma solução interessante, mas com algumas contraindicações que podem levar a desincentivar o desejo de encontrar trabalho.
Mas na Alemanha funciona...
Talvez. Mas não é precisamente a renda de cidadania. Na Finlândia, eles tentaram testar e não funcionou muito bem. E, no fim, não é a panaceia para todos os males. É preciso entender como e onde isso pode ser feito e de que maneira. Na Itália, por exemplo, é um pouco perigoso. Eu preferiria investimentos em infraestrutura, em suporte social, em um abatimento nos impostos para as rendas mais baixas, em formação básica e avançada.
Aqui na Grã-Bretanha, temos bem-estar social que foi um importante legado dos governos pré-Thatcher. E permanece a ideia de que deve haver algum tipo de tecido social que apoie aqueles que acabam sendo menos privilegiados. Mas, pouco a pouco, ele foi desmantelado. Em contextos privilegiados como os países em que vivemos, um mínimo de redistribuição da riqueza é uma obrigação. Sou a favor de aumentar os impostos para as classes mais altas, por exemplo, se isso se transformar em uma redução nos impostos para os menos abastados. E aqui entra em jogo novamente a inteligência artificial, que também poderia ser usada para descobrir os sonegadores de impostos.
Supondo que realmente se queira prendê-los...
É natural, até porque trazer à tona tudo o que está ilegal na Itália levaria imediatamente a fechamentos em massa e a pessoas nas ruas, com um saldo negativo para os cofres italianos. Talvez bastasse fazer uma espécie de anistia que tornasse conveniente sair do submundo. E um papel fundamental, no entanto, deve ser desempenhado pelo Estado.
Sim, o Estado: as revoluções tecnológicas e o seu impacto em termos sociais e culturais requerem uma presença importante dele. Mas, nos últimos 20-25 anos, tentamos demolir a sua função.
Sim, e as pessoas, a esse respeito, confundem o necessário com o suficiente, ou seja, o Estado é cada vez mais necessário, porque estamos cada vez mais conectados e globalizados, mas também é cada vez mais insuficiente, pelos mesmos motivos e no sentido de que ele não tem força suficiente para satisfazer todas as exigências da população. Daí a ilusão de que se pode viver sem ele. Nada mais equivocado! Com a globalização, é preciso uma presença ainda maior do Estado e uma maior coordenação internacional, ou seja, no nosso caso, mais União Europeia.
Nos seus textos, você fala da Quarta Revolução Mundial, referindo-se à revolução da infosfera. Mas realmente estamos vivendo uma revolução?
As primeiras três revoluções – a de Copérnico, de Darwin e de Freud – são de deslocamento. Somos deslocalizados do centro do universo com Copérnico, do centro do mundo animal com Darwin e do centro do mundo mental com Freud. Com a infosfera, somos deslocalizados do mundo da informação ou infosfera.
Mas o que exatamente é a infosfera?
É o espaço das informações onde passamos cada vez mais tempo. Antes, ele costumava ser definido como ciberespaço, mas hoje acho que infosfera é mais eficaz por dois motivos. Em primeiro lugar, porque é tanto analógico quanto digital, e essas duas dimensões se misturam sem solução de continuidade. Além disso, nos ajuda a superar a ideia que o ciberespaço havia introduzido de que, para estar online, era necessário se conectar. Hoje, estamos sempre conectados. Por isso, junto com a infosfera, desenvolvi o conceito de onlife, ou seja, que um indivíduo que caminha pela rua convencido de que não está conectado tem pelo menos 20 aplicativos no seu smartphone que o estão geolocalizando constantemente.
A infosfera é um novo espaço que estamos construindo e no qual passamos cada vez mais tempo. A política está ocorrendo aqui, assim como as relações sociais, econômicas e assim por diante. Quanto mais a infosfera se amplia, mais nos tornamos sujeitos marginais, porque os agentes mais funcionais dentro da estrutura são os digitais. É preciso começar a imaginar os indivíduos como nós, como parte de uma rede que, por sua vez, está imersa na infosfera. Só assim é que se podem compreender algumas questões: o sucesso das redes sociais digitais também na política, a capacidade de fazer negócios mesmo como uma pequena empresa conectada e assim por diante.
Em um nível mínimo, a infosfera indica todo o ambiente informacional constituído por todos os entes informacionais, as suas propriedades, interações, processos e relações recíprocas. É um ambiente comparável ao ciberespaço, mas, ao mesmo tempo, diferente do ciberespaço, que é apenas uma região dela, já que a infosfera também inclui os espaços de informação offline e analógicos. Em um nível máximo, a infosfera é um conceito que pode ser utilizado também como sinônimo de realidade, interpretando-a em termos informacionais. Nesse caso, a ideia é de que o que é real é informacional, e o que é informacional é real.
E por que se trata de uma deslocalização de nós mesmos?
Há alguns anos já, eu venho tentando explicar que as tecnologias digitais não são extraordinárias apenas por aquilo que nos permitem fazer, mas também por aquilo que nos permitem entender sobre nós mesmos, sobre quem somos, sobre quem queremos ser, sobre que sociedade queremos construir, sobre as ambições que podemos satisfazer. Tentei deixar claro que era uma revolução de autocompreensão. Comecei a olhar para ela como se fosse uma deslocalização de nós mesmos: não estamos mais sequer no centro da informação, porque há tantos outros objetos que às vezes lidam com ela mais rapidamente e de maneira mais eficaz.
Você também diz que as TICs estão tornando a informação cada vez mais responsável...
Quanto mais cada informação estiver a apenas um clique de distância, menos seremos desculpados por não tê-la procurado. As tecnologias da informação e da comunicação estão tornando a humanidade cada vez mais responsável do ponto de vista moral, pela forma como o mundo é, será e deveria ser. Isso é um tanto paradoxal, já que as TICs também fazem parte de um fenômeno mais amplo, razão pela qual a clara atribuição de responsabilidade a um agente individual específico se tornou mais difícil e controversa.