07 Fevereiro 2025
Ele frequenta as universidades, fóruns de debate e estúdios de televisão ao redor do mundo com o seu hábito de frade franciscano e uma mochila nas costas. Paolo Benanti (Roma, 1973) é um dos especialistas em inteligência artificial mais requisitados do mundo.
Assessor da ONU, do Papa Francisco e do Governo italiano, acaba de publicar na Espanha o livro A era digital, no qual aborda os grandes desafios antropológicos, éticos e sociais que os últimos avanços tecnológicos estão levantando.
A entrevista é de Ignacio Santa Maria, publicada por Ethic, 06-02-2025. A tradução é do Cepat.
Em ‘A era digital, você diz que a quarta revolução em que estamos imersos não é apenas tecnológica. Quais são suas outras implicações?
Representa uma transformação radical da nossa compreensão da realidade e de nós mesmos. Hoje, graças à tecnologia, podemos remapear a realidade segundo outros paradigmas. É a mesma coisa que aconteceu séculos atrás com a invenção da lente convexa, que deu origem a dois instrumentos: o telescópio, que nos permitiu estudar o infinitamente grande, e o microscópio, que nos abriu caminho para estudar o infinitamente pequeno.
Esses dois instrumentos transformaram nossa compreensão da realidade porque percebemos que não somos o centro do universo, mas um planeta de um sistema solar secundário e, por outro lado, entendemos que não somos uma coisa única, somos feitos de pequenas partículas vivas que chamamos de células. Ou seja, o telescópio e o microscópio mudaram a cosmologia e a antropologia.
Hoje, a inteligência artificial, que estuda não o infinitamente grande ou pequeno, mas o infinitamente complexo, está reescrevendo nossa compreensão da realidade e de nós mesmos e nos levando a uma nova fase do conhecimento.
No entanto, pensadores como Pascal Bruckner argumentam que, com a transformação digital, passamos da era da compreensão à da distração.
Dizer que a era digital é apenas uma época da distração é o mesmo que dizer que há uma competição entre o homem e a máquina. Isto não está certo. A máquina é um instrumento. É verdade que também pode ser uma arma, mas como instrumento pode ampliar nossas capacidades de conhecimento.
E quais são, em sua avaliação, os maiores riscos éticos da inteligência artificial? A máquina pode chegar a tirar a liberdade do ser humano?
Se aplicarmos os algoritmos à liberdade das pessoas, não só serão capazes de prever um comportamento, como também de produzi-lo. Nas plataformas, sabem disso muito bem, pois quando fazem sugestões aos usuários, não só estão prevendo o seu comportamento, como também fazendo com que comprem determinadas coisas. Este é o motivo pelo qual precisamos ter uma boa governança sobre essas inovações.
Então, o dilema ético não está na tecnologia em si, mas nos seres humanos que a controlam?
É importante destacar que a máquina sozinha não faz nada. Os homens podem delegar tarefas às máquinas ou utilizá-las para controlar outros homens. Os riscos dependem do que o homem quer que a máquina faça.
Quando falamos de riscos e problemas éticos, a questão deve sempre recair sobre o lado humano. A máquina não inicia sozinha, não se constrói sozinha, não começa a funcionar sozinha. Portanto, é uma questão do que queremos que a máquina seja e o que queremos que ela faça.
Quais são os desafios políticos e sociais desta era digital em que estamos imersos?
A realidade que estamos vivendo está definida pelo software. Nos dispositivos, nós, usuários, somos proprietários do hardware, mas temos apenas uma licença de software. No Direito Romano, eram estabelecidos três direitos relativos à propriedade de uma coisa: usus, abusus e fructus. Podemos usar nosso celular ou tablet como quisermos, mas os frutos desse uso não são nossos, vão para a nuvem ou outro tipo de formato. E isto é importante, porque na Roma Antiga aqueles que eram privados dos frutos das coisas eram os escravos.
Agora, temos os centros de dados. Aqueles que possuem esses centros são os que controlarão o processo de centralização digital. Este é o desafio que a inteligência artificial nos coloca: todos os processos agora estão centralizados na nuvem e ela pertence a cinco empresas. 70% da nuvem pertence a uma empresa de Seattle. Eles são os proprietários de todos os dados.
Você destacou diversas vezes que somos incapazes de apontar os limites da máquina ou da tecnologia porque a nossa identidade humana diluiu. Sugere que as dúvidas sobre quem somos não têm a sua origem nos avanços tecnológicos, mas em algo anterior?
O fato tecnológico é filho da época e da compreensão da realidade de cada época. E os problemas que hoje nos levam a levantar perguntas sobre a máquina são, na verdade, um espelho da nossa identidade. Não esqueçamos que, antes desta nova primavera da inteligência artificial, já existiam debates públicos sobre o que é o ser humano.
Por exemplo, quando José Luis Rodríguez Zapatero, em 2008, na Espanha, tentou estender os direitos humanos aos grandes símios, ainda não tínhamos questionado qual era a diferença qualitativa do ser humano. Agora que a tecnologia se assemelha ou imita a pessoa, questionamos o que significa ser humano. É como se a cada dia assistíssemos a um grande confronto entre uma máquina cada vez mais humanizada e um homem cada vez mais mecanizado.
Não hesita em falar do advento do pós-humanismo, embora grande parte dos pós-humanistas considerem o ser humano como uma fase da evolução que será superada.
Atravessamos um momento em que somos chamados a nos perguntar o que significa ser humanos. Nesse sentido, podemos entender o pós como um além. Ou seja, aqueles limites que tínhamos estabelecido para nós mesmos, aquele contorno que tínhamos dado à figura humana não são mais os mesmos pelo que agora conhecemos. Isso nos leva a redefinir o que somos e o que nos cerca.
Contudo, na realidade, isso não é diferente do que a identidade humana tem sido desde tempos imemoriais. Somos esse ser que não tem apenas uma biologia, mas também uma história. Trata-se de entrar nesta nova página desta história.
Diariamente, vemos como a inteligência artificial escreve artigos, poemas, cria imagens, ilustrações, obras musicais etc. No entanto, para que alcance todos esses resultados, necessita que milhares de seres humanos realizem o cansativo e ingrato trabalho de coleta de dados. A inteligência artificial está ficando com os trabalhos mais bonitos e criativos, enquanto nós somos sobrecarregados com as atividades mais monótonas?
Penso que é necessário mudar o sentido da pergunta, porque não estamos dando esse trabalho lixo para todos os seres humanos, mas para determinadas pessoas. Estamos descarregando esta tarefa de treinar a máquina por meio de tarefas de coleta de dados que são repetitivas sobre os trabalhadores do Sul Global.
Portanto, a primeira injustiça social não é cometida pela máquina contra o homem, mas pelo homem contra o homem. As velhas práticas de exploração colonial retornam para extrair mais recursos que não são mais apenas matérias-primas ou força de trabalho, mas também capacidades cognitivas. Podemos ter uma atitude colonial no desenvolvimento dessas novas ferramentas.
