01 Junho 2019
"Se as imagens, notícias e vídeos gerados por AI alcançaram um nível no qual estão frequentemente indistinguíveis de fotografias e vídeos reais, e conteúdo humano, estamos no limiar de uma nova era de guerras de inteligência artificial", escreve Michael K. Spencer, em artigo publicado por Outras Palavras, 30-05-2019. A tradução é de Gabriela Leite.
Estas pessoas não existem: são “criadas” por Inteligência Artificial. Fotos, vídeos e textos muito verossímeis multiplicam os riscos de manipulação total. Emerge imenso problema: como regular a ciência, em meio à crise civilizatória?
Em 2019, vivemos em um mundo no qual vídeos e imagens deepfake de pessoas, totalmente fabricadas, podem ser criadas por inteligência artificial.
Enquanto isso, uma tecnologia chamada GPT-2 da OpenAI está ficando famosa por sua habilidade de escrever convincentemente e enganosamente [reproduzindo o estilo de autores como George Orwell, ou o seu (N.T.)].
Nesse novo mundo, a IA é capaz de mimetizar conteúdo humano, e tem o potencial de ser usada por maus atores, e campanhas financiadas por Estados, para influenciar os sentimentos da população de várias formas.
Estamos testemunhando uma explosão de fraude online. Em uma era na qual até o Facebook recusa o título de empresa de mídia, o que exatamente são os deepfakes?
Deepfakes são, essencialmente, identidades falsas criadas com o deep learning [aprendizagem profunda, por meio de uso maciço de dados], por meio de uma técnica de síntese de imagem humana baseada na inteligência artificial. É usada para combinar e sobrepor imagens e vídeos preexistentes e transformá-los em imagens ou vídeos “originais”, utilizando a tecnologia de GAN (Generative Adversarial Network, ou rede geradora antagônica). Veja uma primeira explicação neste vídeo:
Essa combinação de vídeos existentes e “originais” resulta em vídeos falsos, que mostram uma ou algumas pessoas realizando ações ou fazendo coisas que nunca aconteceram na realidade. Em 2019, também estamos vendo uma explosão de faces fake, através das quais a IA é capaz de conjurar pessoas que não existem na realidade, e que têm um certo fator de fluência.
De maneira fascinante, o engenheiro de software da Nvidia, Philip Wang, criou um website demonstrando a potência da técnica GAN para gerar imagens de pessoas falsas. Você pode conferir neste endereço:.
O site gera imagens baseado em um novo método de StyleGAN, desenvolvido pela Nvidia, que torna possível treinar o sistema para construir imagens artificiais de alta qualidade, com resolução de até 1024×1024 pixels.
Se você atualizar o site continuamente, verá um exemplo dessas “faces fake”, através do qual humanos digitais e personas falsas poderiam se tornar robôs (bots) de internet, capazes de nos influenciar em diversas maneiras. Aqui está uma amostra desses rostos: thispernondoesnotexist (essas pessoas não existem na vida real).
Como você pode observar, não há nenhuma maneira de dizer que essas não são pessoas reais. Personagens e textos fake são os próximos fronts do debate em torno do deepfake, que está só começando e é ainda outra maneira com a qual a inteligência artificial pode ser aproveitada como máscara e alterar o sentimento coletivo através de truques digitais.
Tecnologias como o GPT-2 e os GANs vão se tornar cada vez mais inteligentes. A suposta interferência russa no ciclo eleitoral norte americano de 2016 é um despertar para muitos, mas provavelmente apenas o início. Humanos digitais, âncoras de jornais de inteligência artificial, personas virtuais — tudo é possível na nova internet. O mercado de farsa online já está maduro.
Criar uma realidade deepfake é meio caminho andado à Matrix. Pense só no potencial de uso indevido da combinação de vídeos e identidades deepfake com as fake news.
O crescimento dos deepfakes poderia abrir um novo front na guerra desinformacional.
A infiltração deepfake seria relativamente barata e fácil de transformar em arma.
Se as imagens, notícias e vídeos gerados por AI alcançaram um nível no qual estão frequentemente indistinguíveis de fotografias e vídeos reais, e conteúdo humano, estamos no limiar de uma nova era de guerras de inteligência artificial.
Não ser capaz de dizer o que é real na internet já é fortemente problemático em uma era de redes sociais e Facebook, mas nas condições atuais só vai piorar. Considerando que os jovens gastam mais tempo online do que nunca, eles provavelmente se tornarão mais acostumados à AI a cada ano, o que pode gerar consequências inesperadas na sociedade.
O perigo dos deepfakes representa um novo tipo de ameaça à cybersegurança, na qual o que pode ser feito está muito à frente de como combatê-lo. Essas redes geradoras antagônicas (GANs), desenvolvidas pelo Nvidia, poderiam ser facilmente classificadas como uma má utilização do deep learning, se tais corpos regulatórios existissem.
Pode ser que você tenha visto o vídeo deepfake abaixo no YouTube. Obama poderia ter dito isso, mas ele não disse.
Em 2019, não apenas sua identidade pode ser roubada, você pode ser enquadrado, difamado e ser vítima de farsantes com os vídeos deepfake, que podem ser difíceis de se provar falsos. Você pode sofrer golpes, fraudes e ficar vulnerável online, e o inimigo seria a inteligência artificial.
A facilidade de usar os deepfakes implica que um novo tipo de hipocrisia e de conteúdo ilusório online está chegando. Não se trata mais de fake news, mas de memes, spam e conteúdo feito cada vez menos por humanos, para o bem e para o mal.
Geradores de texto falso. Imagens falsas. Vídeos falsos. Clonagem de voz. Clonagem de personas. A combinação de tecnologia mais inteligente vai criar problemas humanos muito reais, que vão muito além das fake news e dos discursos de ódio, que o facebook será incapaz de conter.
Antes de morrer, serei capaz de clonar a mim mesmo em uma persona feita por inteligência artificial que retenha não apenas alguns de meus pensamentos mais profundos, mas meus padrões comportamentais. Poderei deixar essa persona para meus descendentes.
Enquanto isso, a internet continuará a evoluir na interseção da IA, de uma maneira na qual o modo como os humanos fazem versões de si mesmos pode ser irreconhecível até para nós. Caminhamos rapidamente em direção a um mundo de implantes neuro e no qual estaremos cercados não apenas de robôs, mas de identidades de IA (chame-os como quiser).
A geração Z, grupo das pessoas que nasceram na última década do século XX e nos primeiros anos do século XXI, está passando tanto tempo na internet que sua realidade é mais repleta de eventos online do que face a face.
A desinformação vai aumentar de tal maneira que o facebook e os deepfakes vão gerar um mundo de eventos míticos de imersão, entretenimento e um capitalismo de vigilância que será profundamente perturbador para nossa saúde mental e estabilidade política.
Se regulação da IA atrasar, muitos perigos surgirão, devido aos desenvolvimentos tecnológicos e os usos de novas ferramentas.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Deep Fake, a mais recente ameaça distópica - Instituto Humanitas Unisinos - IHU
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
O historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS
