02 Agosto 2024
Quando a tecnologia é útil e quando é prejudicial? As novas tecnologias podem ser utilizadas para criar um mundo melhor ou estão aí apenas para piorar as coisas? Essas são as primeiras perguntas que passaram pela nossa cabeça quando nos deparamos com a terapia deepfake.
A opinião é da bioeticista Marieke Bak e da jurista Saar Hoek, ambas professoras da Universidade de Amsterdam. O artigo foi publicado no Journal of Medical Ethics, 16-07-2024. A tradução é de Moisés Sbardelotto.
Toda tecnologia deepfake usa aprendizagem profunda – uma forma de inteligência artificial – para criar vídeos hiper-realistas de pessoas e situações, e podem mostrar cenários que nunca ocorreram de fato. As ferramentas para criar deepfakes são cada vez mais fáceis de acessar e usar, mas há desenvolvimentos em andamento para ajudar a detectar vídeos deepfaked.
A ascensão da tecnologia deepfake tem desvantagens: os políticos podem ser vistos dizendo qualquer coisa, o abuso e a fraude de identidade assumem novas dimensões, e a verdade torna-se mais difícil de detectar. Na área da saúde, porém, ela também pode ser usada para coisas positivas.
Existem oportunidades promissoras para a psicoterapia que utiliza deepfakes. Imagine pacientes em luto intenso sendo capazes de processar seus sentimentos com a pessoa que perderam ou aqueles com trauma sendo capazes de remodelar suas memórias.
Um estudo-piloto pioneiro empregou terapia deepfake para vítimas de transtorno de estresse pós-traumático (TEPT) relacionado à violência sexual. O terapeuta controlou deepfakes de criminosos para criar cenários terapêuticos em que as vítimas pudessem confrontar seus agressores. As descobertas iniciais sugerem que esse método proporciona um espaço para as vítimas processarem o seu trauma em um ambiente controlado e de apoio, quando as terapias tradicionais se esgotam.
Da mesma forma, no aconselhamento do luto, os deepfakes poderiam facilitar as interações virtuais com entes queridos falecidos, o que poderia ser especialmente benéfico em casos de luto complicado. Embora ainda não haja evidências sobre a eficácia da terapia deepfake nesse cenário, um documentário holandês de 2020 mostrou a primeira experiência com terapia deepfake para indivíduos enlutados. No documentário, o deepfake foi dublado por terapeutas treinados.
Embora a tecnologia deepfake possa ser promissora para certos pacientes, ela também levanta questões éticas e legais significativas. Deepfakes podem ser vistos como perturbadores e são frequentemente associados a histórias de ficção-científica. O caso de aconselhamento de luto lembra um episódio particularmente perturbador da série Black Mirror, intitulado “Be Right Back” [na tradução livre: “Já volto”], que retrata uma mulher tentando reanimar seu falecido namorado, primeiro como um chatbot [programa que simula conversas humanas], baseado em seu histórico de bate-papo online e, mais tarde, como um robô realista feito de silício. O primeiro passo agora é realmente possível com o uso de grandes modelos de linguagem para criar personas online dos mortos, os chamados deathbots ou griefbots, que podem mudar a forma como as pessoas sofrem. Deepfakes visuais parecem ser o próximo passo nesse vale misterioso.
Em nosso artigo recém-publicado no Journal of Medical Ethics, discutimos os aspectos éticos e legais da terapia deepfake, abordando as duas possíveis aplicações do tratamento de TEPT relacionado à violência sexual e do aconselhamento do luto. Inicialmente, esse debate começou quando dois dos autores utilizaram esse tema em uma disciplina eletiva de bioética. Para um trabalho sobre tecnologias emergentes, os alunos entrevistaram juristas, que se inspiraram no tema e nas percepções dos alunos. Decidimos, então, nos unir como bioeticistas e advogados da saúde para examinar os aspectos éticos e legais da terapia deepfake, o que resultou em um artigo que descreve duas questões principais.
Primeiro, voltemos ao básico. O que é “cuidar bem”? A terapia deepfake se qualifica para isso? Qualificar-se em “bons cuidados” implica a adesão à legislação médica relevante e aos princípios bioéticos – respeito pela autonomia, não maleficência, beneficência e justiça. Os terapeutas devem garantir que a terapia deepfake promova o bem-estar dos pacientes sem causar danos desproporcionais.
Os danos potenciais discutidos no documento incluem o risco de apego excessivo e a embaçamento da realidade. Riscos semelhantes já foram encontrados com o uso de chatbots para problemas de saúde mental, que podem ter consequências potencialmente desastrosas.
A diferença relevante, no entanto, é que a terapia deepfake, tal como é concebida hoje, seria controlada e supervisionada por um terapeuta treinado. Os terapeutas devem monitorar cuidadosamente os riscos da terapia deepfake, adaptando sua abordagem às necessidades e vulnerabilidades singulares de cada paciente.
Uma perspectiva diferente é a da pessoa deepfaked [que teve sua imagem manipulada]. A terapia deepfake protege suficientemente sua privacidade e seu consentimento? Em casos em que a pessoa retratada está falecida, a exigência de consentimento traz complexidades éticas e legais.
Estruturas legais como o Lei Geral de Proteção de Dados geralmente não se estendem a indivíduos falecidos, mas, se uma pessoa falecida se opôs explicitamente ao uso de sua imagem para terapia deepfake, seria antiético anular seus desejos. Por outro lado, se suas preferências forem desconhecidas, os potenciais benefícios terapêuticos podem justificar o uso. No caso de retratar criminosos de violência sexual, os terapeutas também podem confiar no “interesse legítimo” do paciente. No entanto, salvaguardas como segurança de dados, combinadas com benefícios terapêuticos claros, são cruciais para justificar o uso da imagem de alguém sem seu consentimento explícito.
À medida que a tecnologia deepfake evolui, sua integração com cuidados de saúde mental requer um debate público complexo e mais pesquisas sobre sua eficácia e aceitabilidade. A terapia deepfake deve ser guiada por padrões éticos e legais para salvaguardar o bem-estar do paciente e a confiança social, e questões adicionais de acessibilidade e impacto ambiental devem ser abordadas para garantir o bom uso dessa tecnologia emergente.
A tecnologia deepfake apresenta uma fronteira fascinante, mas desafiadora, na psicoterapia. Sua capacidade de criar cenários terapêuticos realistas e controlados oferece novos caminhos para tratar traumas e luto, mas isso deve ser guiado por uma reflexão ético-legal contínua, para a qual o nosso artigo serve como ponto de partida.
"Ao sugerir que a baixa densidade populacional da Amazônia seria justificativa para a construção das hidrelétricas no local, a[...]
LER MAISO Movimento de Combate à Corrupção Eleitoral (MCCE), responsável pela criação da Lei da Ficha Limpa, afirmou nesta quarta-fe[...]
LER MAIS
As redes sociais estão modificando as formas de luto e o diálogo sobre a morte no âmbito público. Duas sociólogas da Universi[...]
LER MAIS
