Inteligência artificial “reescrevendo o Holocausto”, alerta UNESCO

Desde 2022, 18 de junho é o Dia Internacional de Combate ao Discurso de Ódio. Para assinalar a ocasião, a UNESCO publicou um relatório sobre os riscos que a inteligência artificial representa para a memória do Holocausto. Neste assunto delicado, a tecnologia tende a amplificar a desinformação.

A reportagem é de Mélinée le Priol, publicada por La Croix International, 19-06-2024. 

A UNESCO denunciou a explosão da negação e falsificação do Holocausto nas redes sociais num relatório publicado em 2022. No serviço de mensagens Telegram, por exemplo, quase metade do conteúdo ligado ao genocídio dos judeus era antissemita. Isto também se aplica a 1 em cada 5 mensagens do Twitter dedicadas ao assunto.

Dois anos depois do Twitter, do TikTok e do Facebook, o ChatGPT e o Google Bard estão a ser examinados pelo órgão da ONU para avaliar o seu papel na compreensão contemporânea do Holocausto. Desde que foram tornados públicos no fim de 2022, os chamados sistemas “generativos” de inteligência artificial (IA) têm respondido a perguntas ao vivo de milhões de utilizadores, incluindo muitos alunos e estudantes. Esses resumos são compilados sem controle humano, utilizando vastas massas de dados da Internet.

Na Web, porém, o Holocausto é alvo de muita desinformação. Como resultado, o conteúdo gerado por IA também costuma ser errôneo. Isto vai desde uma simplificação prejudicial dos fatos até ao negacionismo mais severo, como o questionamento da participação no genocídio de líderes nazistas como Joseph Goebbels. Estas são as conclusões de um relatório de 30 páginas publicado em 18 de junho pela UNESCO e pelo Centro Judaico Mundial.

Emma Watson lendo Mein Kampf

“O risco é duplo: que os utilizadores que atuem de boa fé sejam induzidos em erro por estas ferramentas, cujo conteúdo parece ser oficial, e que pessoas mal-intencionadas as utilizem para espalhar a desinformação de forma mais eficaz”, Karel Fracapane, que lidera a luta da UNESCO contra discurso de ódio, resumido para La Croix. No início de 2023, por exemplo, um software de IA clonou a voz da atriz Emma Watson para fazê-la ler trechos do panfleto de Hitler, Mein Kampf. Este arquivo de áudio falso foi amplamente divulgado nas redes sociais.

“Quando a ferramenta carece de fontes, ela as inventa”, continuou Fracapane. Falsos testemunhos de sobreviventes, falsos trabalhos de referência e falsos conceitos históricos. Em particular, o ChatGPT cunhou o termo “Shoah por afogamento” para descrever campanhas em que os nazistas supostamente atiraram judeus nos rios. Inspirada em “Shoah pelas balas”, a expressão não corresponde à realidade histórica.

Simplificação excessiva

Não se limitando à IA generativa, o relatório da UNESCO também se refere aos motores de busca que funcionam com algoritmos. No entanto, Google, Bing e Yahoo! tendem a “simplificar demasiado” fatos complexos: entre 60% e 80% das imagens mais populares do Holocausto mostram apenas um campo, Auschwitz-Birkenau.

Quando questionado sobre isso, o mecanismo de busca chinês Baidu até “aparece” 36% das imagens relacionadas à música death rock, não ao genocídio! No Baidu, os resultados são ainda menos relevantes quando a consulta é feita em russo: nem uma única imagem relacionada a Shoah nos primeiros 50 resultados. No que diz respeito à documentação disponível na internet, existem grandes disparidades entre uma língua e outra.

Confrontada com o risco de negação do Holocausto e propagação do antissemitismo, a UNESCO emitiu uma série de orientações no documento “Recomendação sobre a Ética da Inteligência Artificial”, adotado em 2021. O documento também defende uma melhor regulamentação das empresas que fornecem IA e exige-lhes que respeitar a verdade histórica – nomeadamente através da introdução de filtros mais eficazes.

Na frente educacional, também considera “urgente” a formação em pensamento crítico. Finalmente, os museus e centros de arquivo são incentivados a digitalizar mais extensivamente a sua documentação relacionada com o Holocausto, para que as ferramentas de IA possam ser treinadas em dados de melhor qualidade.

Leia mais

• "Os programas de IA perpetuam os imaginários dominantes". Entrevista com Alberto Venegas Ramos
• Os principais criadores da IA alertam para o “perigo de extinção” que esta tecnologia representa para a humanidade
• O algoritmo gosta do discurso de ódio, diz Duvivier: 'A informação pertence a corporações'
• O holocausto, divisor de águas entre cristãos e judeus. Artigo de Brunetto Salvarani
• ChatGPT ou a escatologia das máquinas. Artigo de Yuk Hui
• Ódio e negação: “Ficamos paralisados. Parece que não estamos conseguindo ter consciência, nem fazer coisa alguma”. Entrevista especial com Milena Gordon Baker
• Holocausto: as raízes não devem ser esquecidas
• Auschwitz. "Estudar o que aconteceu em Auschwitz significa entrar nas profundezas da natureza humana para tentar entender o que somos"
• Papa Francisco: “Não podemos permitir que algoritmos excluam a compaixão, a misericórdia e o perdão”