Quando a tecnologia é útil e quando é prejudicial? As novas tecnologias podem ser utilizadas para criar um mundo melhor ou estão aí apenas para piorar as coisas? Essas são as primeiras perguntas que passaram pela nossa cabeça quando nos deparamos com a terapia deepfake.

A opinião é da bioeticista Marieke Bak e da jurista Saar Hoek, ambas professoras da Universidade de Amsterdam. O artigo foi publicado no Journal of Medical Ethics, 16-07-2024. A tradução é de Moisés Sbardelotto.

Eis o texto.

Toda tecnologia deepfake usa aprendizagem profunda – uma forma de inteligência artificial – para criar vídeos hiper-realistas de pessoas e situações, e podem mostrar cenários que nunca ocorreram de fato. As ferramentas para criar deepfakes são cada vez mais fáceis de acessar e usar, mas há desenvolvimentos em andamento para ajudar a detectar vídeos deepfaked.

A ascensão da tecnologia deepfake tem desvantagens: os políticos podem ser vistos dizendo qualquer coisa, o abuso e a fraude de identidade assumem novas dimensões, e a verdade torna-se mais difícil de detectar. Na área da saúde, porém, ela também pode ser usada para coisas positivas.

Existem oportunidades promissoras para a psicoterapia que utiliza deepfakes. Imagine pacientes em luto intenso sendo capazes de processar seus sentimentos com a pessoa que perderam ou aqueles com trauma sendo capazes de remodelar suas memórias.

Um estudo-piloto pioneiro empregou terapia deepfake para vítimas de transtorno de estresse pós-traumático (TEPT) relacionado à violência sexual. O terapeuta controlou deepfakes de criminosos para criar cenários terapêuticos em que as vítimas pudessem confrontar seus agressores. As descobertas iniciais sugerem que esse método proporciona um espaço para as vítimas processarem o seu trauma em um ambiente controlado e de apoio, quando as terapias tradicionais se esgotam.

Da mesma forma, no aconselhamento do luto, os deepfakes poderiam facilitar as interações virtuais com entes queridos falecidos, o que poderia ser especialmente benéfico em casos de luto complicado. Embora ainda não haja evidências sobre a eficácia da terapia deepfake nesse cenário, um documentário holandês de 2020 mostrou a primeira experiência com terapia deepfake para indivíduos enlutados. No documentário, o deepfake foi dublado por terapeutas treinados.

Embora a tecnologia deepfake possa ser promissora para certos pacientes, ela também levanta questões éticas e legais significativas. Deepfakes podem ser vistos como perturbadores e são frequentemente associados a histórias de ficção-científica. O caso de aconselhamento de luto lembra um episódio particularmente perturbador da série Black Mirror, intitulado “Be Right Back” [na tradução livre: “Já volto”], que retrata uma mulher tentando reanimar seu falecido namorado, primeiro como um chatbot [programa que simula conversas humanas], baseado em seu histórico de bate-papo online e, mais tarde, como um robô realista feito de silício. O primeiro passo agora é realmente possível com o uso de grandes modelos de linguagem para criar personas online dos mortos, os chamados deathbots ou griefbots, que podem mudar a forma como as pessoas sofrem. Deepfakes visuais parecem ser o próximo passo nesse vale misterioso.

Em nosso artigo recém-publicado no Journal of Medical Ethics, discutimos os aspectos éticos e legais da terapia deepfake, abordando as duas possíveis aplicações do tratamento de TEPT relacionado à violência sexual e do aconselhamento do luto. Inicialmente, esse debate começou quando dois dos autores utilizaram esse tema em uma disciplina eletiva de bioética. Para um trabalho sobre tecnologias emergentes, os alunos entrevistaram juristas, que se inspiraram no tema e nas percepções dos alunos. Decidimos, então, nos unir como bioeticistas e advogados da saúde para examinar os aspectos éticos e legais da terapia deepfake, o que resultou em um artigo que descreve duas questões principais.

Primeiro, voltemos ao básico. O que é “cuidar bem”? A terapia deepfake se qualifica para isso? Qualificar-se em “bons cuidados” implica a adesão à legislação médica relevante e aos princípios bioéticos – respeito pela autonomia, não maleficência, beneficência e justiça. Os terapeutas devem garantir que a terapia deepfake promova o bem-estar dos pacientes sem causar danos desproporcionais.

Os danos potenciais discutidos no documento incluem o risco de apego excessivo e a embaçamento da realidade. Riscos semelhantes já foram encontrados com o uso de chatbots para problemas de saúde mental, que podem ter consequências potencialmente desastrosas.

A diferença relevante, no entanto, é que a terapia deepfake, tal como é concebida hoje, seria controlada e supervisionada por um terapeuta treinado. Os terapeutas devem monitorar cuidadosamente os riscos da terapia deepfake, adaptando sua abordagem às necessidades e vulnerabilidades singulares de cada paciente.

Uma perspectiva diferente é a da pessoa deepfaked [que teve sua imagem manipulada]. A terapia deepfake protege suficientemente sua privacidade e seu consentimento? Em casos em que a pessoa retratada está falecida, a exigência de consentimento traz complexidades éticas e legais.

Estruturas legais como o Lei Geral de Proteção de Dados geralmente não se estendem a indivíduos falecidos, mas, se uma pessoa falecida se opôs explicitamente ao uso de sua imagem para terapia deepfake, seria antiético anular seus desejos. Por outro lado, se suas preferências forem desconhecidas, os potenciais benefícios terapêuticos podem justificar o uso. No caso de retratar criminosos de violência sexual, os terapeutas também podem confiar no “interesse legítimo” do paciente. No entanto, salvaguardas como segurança de dados, combinadas com benefícios terapêuticos claros, são cruciais para justificar o uso da imagem de alguém sem seu consentimento explícito.

À medida que a tecnologia deepfake evolui, sua integração com cuidados de saúde mental requer um debate público complexo e mais pesquisas sobre sua eficácia e aceitabilidade. A terapia deepfake deve ser guiada por padrões éticos e legais para salvaguardar o bem-estar do paciente e a confiança social, e questões adicionais de acessibilidade e impacto ambiental devem ser abordadas para garantir o bom uso dessa tecnologia emergente.

A tecnologia deepfake apresenta uma fronteira fascinante, mas desafiadora, na psicoterapia. Sua capacidade de criar cenários terapêuticos realistas e controlados oferece novos caminhos para tratar traumas e luto, mas isso deve ser guiado por uma reflexão ético-legal contínua, para a qual o nosso artigo serve como ponto de partida.

Leia mais

• Deep-fake, a arma radical contra a democracia
• Deep Fake, a mais recente ameaça distópica
• Instagram, uso político e ‘fake news’ em 2020
• As armadilhas da internet-propaganda
• Como a internet está matando a democracia
• “Quando você só acredita no que quer, não há como ter democracia”
• A democracia em xeque-mate frente às fake news. Entrevista especial com Fabrício Benevenuto
• Internet, poder e democracia
• Democratização da internet no Brasil: Um sonho cada vez mais distante
• Internet, isto não é democracia. Artigo de Michele Ainis
• "A inteligência artificial nos obriga a nos comportarmos como máquinas". Entrevista com Jean-Michel Besnier
• A inteligência artificial: o superego do século XXI. Artigo de Éric Sadin
• Com avanço tecnológico, fake news vão entrar em fase nova e preocupante
• Esta notícia é verdadeira?
• Fake news. A democracia tem um problema grave
• Notícias falsas (fake news) ‘viajam’ mais rápido do que histórias verdadeiras
• “Combate às fake news”: ética ou espetáculo?
• Fake news. Limpar o falso ou limitar a imprensa
• Como a publicidade incentiva "fake news"
• Manual para identificar notícias falsas na internet
• Desinformação sistemática?
• Nossa identidade como um elemento monetizável. Entrevista com Éric Sadin
• Éric Sadin e a era do anti-humanismo radical
• “O tecnoliberalismo lança-se à conquista integral da vida”. Entrevista com Éric Sadin
• Inteligência artificial: Capacidades cognitivas humanas podem ser substituídas na nova era de automação
• ''Assim a inteligência artificial vai dominar o mundo''. Mas é apenas um videogame
• Ética e Inteligência Artificial. Dez áreas de interesse
• Transumano: a união do ser humano com os robôs e a inteligência artificial
• "A Inteligência Artificial pode se transformar em um monstro incontrolável". Entrevista especial com José Eustáquio Alves
• A Inteligência Artificial pode fazer muita diferença em vários campos da nossa vida cotidiana. Entrevista especial com Dante Barone
• A Revolução 4.0, a Inteligência Artificial e os Robôs sapiens