13 Novembro 2026
Os meios nunca devem ser levados além de um limite que não conseguem controlar. Por essa razão, reflete o autor, a competência continua sendo a base da ética.
O artigo é de Marco Malvaldi, químico e escritor italiano, publicado por La Repubblica, 12-11-2026.
Eis o artigo.
A primeira coisa a lembrar ao falar sobre ética em IA é que ela é dupla: existe a ética de uso e a ética de treinamento. A segunda é um tema fascinante, mas difícil de abordar: a melhor maneira de vivenciá-la, de vê-la com os próprios olhos, é experimentar.
Proponha o mesmo paradoxo ético, como o dilema do bonde (eu aciono a alavanca e salvo cinco pessoas, mas mato uma que de outra forma teria se salvado, ou não me meto e deixo cinco pessoas morrerem), a diferentes modelos de linguagem e veja o que acontece. Modelos diferentes, como o ChatGPT americano e o Qwen chinês, podem responder a essas perguntas de maneiras diferentes, especialmente se pedirmos que desempenhem um papel, o de um policial ou de um ferroviário, por exemplo.
Em suma, a ética pode depender do modelo que usamos, do papel que lhe atribuímos e da complexidade desses objetos, de modo que, antes de usá-los eticamente, precisamos compreender que cada modelo é diferente. Falar sobre ética em IA é um pouco como falar sobre a ética das pessoas chamadas Filipe: um nome que pode abranger tanto santos quanto assassinos em massa. Portanto, a ética em IA é necessariamente uma ética da competência. Para usá-la de forma moralmente aceitável, precisaríamos usar, e provavelmente desenvolver, competências que não nos são imediatamente óbvias.
É um pouco o que acontece com os pilotos de Fórmula 1. Pode não parecer, mas um piloto de Fórmula 1 precisa ter características físicas excepcionais, voltadas para uma atividade que parece o oposto do atletismo: ficar parado. Manter a cabeça imóvel. Parece fácil, mas, em um carro submetido a acelerações de 6 g, não é nada fácil. É por isso que os pilotos têm, e precisam manter, uma forma física excelente, extraordinária, absolutamente necessária para a sua função.
Essa metáfora da Fórmula 1 também pode nos ajudar a entender a característica mais marcante dos grandes modelos de linguagem, e a mais perigosa para o seu uso ético: a velocidade. Esses algoritmos são capazes de produzir qualquer tipo de texto, até mesmo código de computador ou imagens, em um ritmo insustentável para um ser humano: tanto em termos de produção quanto em termos de verificação e controle de qualidade do próprio produto. E aqui temos um problema. Falar bobagens é fácil. O contrário é mais difícil. Desmentir uma mentira, ou desmontar um argumento falacioso, é muito mais difícil do que não dizê-la. É bom saber que, na Itália, pelo menos nesse aspecto, estamos na vanguarda: foi o cientista da computação Alberto Brandolini quem formalizou essa observação, conferindo-lhe a dignidade de uma lei empírica, com seu Princípio da Assimetria da Mentira, que afirma que "a quantidade de energia e esforço necessária para refutar uma notícia falsa ou uma mentira é uma ordem de grandeza maior do que a necessária para produzi-la". Brincadeiras à parte, acho que todos concordamos que o dano causado por uma notícia falsa ou por um cálculo errado, talvez gerado por inteligência artificial, corre o risco de ser irreparável: exatamente como um acidente de carro. E como tentamos evitar acidentes? Simples: evitamos explorar o veículo ao máximo de sua capacidade e o utilizamos de acordo com a nossa capacidade. Meu carro, se eu confiar no painel, pode atingir 200 km/h, uma velocidade na qual eu seria perigoso. Todos sabem dirigir um carro a essa velocidade, mas poucos sabem controlá-lo.
🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google
Por essa razão, a ética do uso da IA não pode deixar de começar com uma consideração: a consciência da nossa ignorância. Não importa o que sabemos ou não sabemos: o crucial é conhecer os seus limites, a linha divisória entre o que dominamos e o que ignoramos. Uma linha tênue, muitas vezes representada pela fronteira mais perigosa: as coisas que mal conhecemos, das quais podemos ter um conhecimento superficial, sobre as quais podemos saber mais do que o cidadão comum, mas muito menos do que o necessário para raciocinar sobre elas.
O que não significa limitar-se ou parar, que fique claro. Isso não seria humano. O Ulisses de Dante já nos disse: "não fostes feitos pra viver quais brutos, mas pra seguir virtude e conhecimento". Talvez aí resida a solução: virtude e conhecimento. Não se pode agir virtuosamente sem conhecimento, mas, ao mesmo tempo, nossa natureza nos impele a expandir as fronteiras do saber. Desistir, fingir que essas fronteiras existem na prática e não apenas no mapa, seria absolutamente antiético, absolutamente desprovido de virtude, absolutamente desumano.
Mas a facilidade com que podemos produzir existe e representa um problema real. Por essa razão, acredito que, quando falamos de IA e ética, antes mesmo de competência, devemos falar de ignorância: aquela que reside em cada um de nós, mas também (e em alguns casos, sobretudo) naqueles que estudaram muito e que, portanto, acreditam ser capazes de raciocinar com clareza sobre tudo. O diabo está nos detalhes: entrar em um carro que pode atingir 320 quilômetros por hora, só para descobrir durante a corrida que o porta-malas está cheio de cilindros de gás inflamável, pode nos causar danos inimagináveis.
Leia mais
- Profissionais da indústria de tecnologia se reúnem para ler a encíclica do Papa Leão XIV sobre inteligência artificial
- Pensar a IA eticamente é refletir sobre o tipo de humanidade que queremos construir para o futuro. Entrevista especial com Steven S. Gouveia
- ‘Magnifica Humanitas’. A inteligência artificial exige mais filosofia, não menos tecnologia. Entrevista especial com Celso Cândido de Azambuja, Denis Coitinho e Gabriel Ferreira
- O Papa pede "responsabilidade e discernimento" para o uso ético da Inteligência Artificial
- Em encíclica sobre IA, o Papa Leão XIV alerta para as ameaças da tecnologia e dos centros de dados à criação
- Por dentro da inteligência artificial, um espaço para a algorética de Francisco. Artigo de Paolo Benanti
- Mitos sintéticos. Artigo de Paolo Benanti
- Feudalismo digital. Entrevista com Paolo Benanti
- “À espera de uma Hiroshima de IA”. Artigo de Timothy Garton Ash
- Catastrofistas versus aceleracionistas: a IA vai acabar com o mundo ou salvá-lo?
- Por uma teoria crítico-democrática para a era algorítmica. Artigo de Paola Cantarini
- Biopolítica algorítmica. Como as humanidades são impactadas e podem impactar a Inteligência Artificial. Entrevista especial com Virgilio Almeida
- A inteligência artificial: o superego do século XXI. Artigo de Éric Sadin
- DeepSeek e a inovação da IA. Artigo de Nello Cristianini