No remoto ano 2018, o engenheiro em sistemas informáticos Fredi Vivas e dois amigos fundaram na Argentina a RockingData, uma startup que resolveria os problemas das empresas analisando dados com a ajuda de ferramentas como machine learning, big data e inteligência artificial.

No começo, poucos entendiam o que faziam, mas, hoje, esse argentino de 42 anos – pós-graduado pela Singularity University, do Vale do Silício – é uma referência do mundo tecnológico, na América Latina, e um incentivador do gigantesco avanço da inteligência artificial.

Por e-mail, entramos em contato com Fredi, autor de Cómo piensan las máquinas? (Galerna, 2021), para que nos explique o novo mundo que está se abrindo com a inteligência artificial e se devemos temê-lo ou não.

A entrevista é de Juana Gallegos, publicada pelo jornal peruano La República, 30-04-2023. A tradução é do Cepat.

Eis a entrevista.

Vou perder meu emprego? O ChatGTP será capaz de escrever artigos e os jornalistas serão dispensados?

É difícil prever o futuro, mas, neste momento, não parece que os jornalistas perderão seus empregos completamente devido à automação da escrita. Embora seja verdade que a tecnologia avançou muito na geração de conteúdo automatizado, ainda existem muitas tarefas que os jornalistas realizam que não podem ser substituídas por máquinas. Por exemplo, a pesquisa, a entrevista e a análise de informação exigem habilidades humanas como a empatia, a criatividade e o pensamento crítico, que não são fáceis de serem imitadas pelas máquinas...

Vou ser honesto, o parágrafo que você acaba de ler foi escrito pelo ChatGPT. Mas, pessoalmente, concordo muito com essa visão. De modo algum, os jornalistas muito bons perderão o emprego, ao contrário, poderão usar a inteligência artificial para fazer aquelas coisas que causam tédio e tiram tempo do que realmente significa o jornalismo. É uma profissão que admiro e respeito muitíssimo, pois a estudei por quatro anos.

É verdade que a inteligência artificial acabará com algumas ocupações?

A inteligência artificial não substituirá os humanos, nem as ocupações. Sim, assume determinadas tarefas. De fato, a própria palavra robô vem do tcheco robota, que se traduz como servidão ou trabalho forçado. Digamos que, sob essa lógica, supõe-se que o trabalho que um robô faz é aquele que ninguém quer fazer.

Com isto, não quero dizer que não devemos nos preocupar. O trabalho do futuro exigirá que sejamos habilitados para entender essas grandes disrupções tecnológicas e como afetam nosso trabalho.

Vamos começar pelo princípio. O que é a inteligência artificial? É um robô?

Sim e não. Tecnicamente, a inteligência artificial é um subcampo das ciências da computação que simula a inteligência humana para trazer soluções para diferentes problemas. Para isso, realiza funções que pensávamos que eram patrimônio exclusivo dos seres vivos, como calcular, ver, encontrar coisas em imagens ou vídeos e, inclusive, desenvolver um conteúdo original a partir de dados ou informação prévia.

Essa inteligência pode ser usada, por exemplo, para detectar anomalias em uma radiografia que o olho humano não perceberia ou para encontrar padrões em um enorme conjunto de dados que levaríamos meses ou anos. Também é usada para personalizar as capas dos filmes que assistimos na Netflix, recomendar-nos listas de reprodução no Spotify, de acordo com nossas preferências, ou prever quais alunos têm mais chances de abandonar as aulas em uma universidade.

Por que dizem que a inteligência artificial é a ferramenta mais poderosa já criada?

A inteligência artificial é uma ferramenta ultrapoderosa e penso que é uma das mais importantes já criadas. Contudo, precisamos contextualizá-la, entendê-la e moderar nossas expectativas e nossos medos também. Antes dos computadores e da internet, a inteligência artificial nada mais era do que um conceito que dificilmente poderia ser levado adiante.

Então, o que é mais poderoso? A inteligência artificial, o computador ou o cérebro humano que criou e avançou nas duas coisas? (...) Estou convencido de que estamos diante de um ponto de inflexão na história da humanidade. E o que fizermos a esse respeito será chave para o nosso futuro.

É dito que no futuro a inteligência artificial generativa – aquela que criou a fotografia do Papa vestindo um casaco Balenciaga – fará tantas imagens sintéticas que não distinguiremos o que é real ou não, e que elas poderão ser usadas para fazer falsas acusações. Concorda com essa previsão negativa?

Calcula-se que aproximadamente 10% dos dados produzidos globalmente até 2025 virão da inteligência artificial generativa. E, efetivamente, pode ser um perigo. Por exemplo, a tecnologia deepfake (ou ultrafalse) pode criar um vídeo falso de mim falando e afirmando com a minha voz que a inteligência artificial destruirá a humanidade, algo que eu não disse, mas que pode parecer real.

Isso nos obrigará a adotar regulações e novos hábitos, além de um marco ético do ponto de vista organizacional. Assim como existe a tecnologia deepfake, também existem ferramentas que podem detectar quais imagens, textos ou vídeos foram produzidos por uma inteligência artificial e quais não. Talvez em um futuro não muito distante essas ferramentas não só façam parte de nosso uso frequente, como também estarão integradas com as redes sociais e a internet em geral.

Outra ferramenta de inteligência artificial é a que oferece a clonagem da voz humana, que poderia ser usada para cometer crimes e substituir a identidade das pessoas...

Sem dúvida. O cibercrime já possui outros tipos de arestas que, alguns anos atrás, jamais imaginaríamos. Não me lembro exatamente onde escutei isto, mas foi muito esclarecedor: “Quando, em seu momento, os ladrões começaram a usar carros ou motos para cometer crimes, os policiais também tiveram que usar essas tecnologias para combater o crime”. De fato, podemos pensar em uma delegacia de polícia que não tenha uma inteligência artificial?

É por causa desses receios que, recentemente, líderes e pesquisadores de inteligência artificial, com Elon Musk à frente, assinaram uma carta pedindo a interrupção nos avanços acelerados de programas de inteligência artificial como o ChatGPT. A inteligência artificial é uma ameaça real para o mundo?

Essa carta foi bastante polêmica porque muitos dos signatários também estavam financeiramente interessados em interromper alguns desses projetos. Hoje, a inteligência artificial não é uma ameaça, mas isso não quer dizer que, se não a usarmos bem, não possa se tornar. Por isso, é muito importante desenvolvê-la e utilizá-la atendendo a um marco ético.

Dentro da RockingData, a organização que lidero, trabalhamos esse marco ético com uma equipe multidisciplinar de filósofos, cientistas políticos e cientistas de dados e, nessa linha, também trabalhamos com organizações internacionais que criaram o primeiro marco ético com diretrizes sobre como desenvolver inteligência artificial de forma responsável.

Yuval Noah Harari, autor de “Sapiens: de animais a deuses”, disse que “a inteligência artificial pode se apoderar da cultura” ao ser capaz de produzir textos, pintura, música. Uma inteligência artificial pode alcançar a sensibilidade dos humanos para criar obras de arte?

Não sou especialista em arte, mas pelo que eu entendo, os grandes artistas da história foram aqueles que, para além de sua boa técnica, souberam interpretar momentos históricos e fazer coisas absolutamente inesperadas. A inteligência artificial generativa não faz isso, ao contrário, imita e adota padrões do que entende que se espera dela. Isso não é disrupção. Os grandes artistas são aqueles que fizeram coisas que foram contra a corrente, a inteligência artificial está mais treinada para ir a favor da corrente.

E dando asas à nossa imaginação, será que a inteligência artificial conseguirá nos trazer de volta da morte, assim como aconteceu naquele episódio de “Black Mirror” em que uma viúva conversa com uma inteligência artificial que clonou a voz e assumiu a personalidade de seu esposo falecido?

Quando vemos a foto de alguém que já faleceu, por um instante, sentimos que essa pessoa está perto de nós, certo? Antes da fotografia existir, isso era difícil e tínhamos de nos conformar com as nossas memórias ou, no melhor dos casos, com uma pintura, um desenho ou um objeto. Hoje, podemos ouvir os áudios que nossos entes queridos deixaram no WhatsApp ou ver fotos.

Contudo, também temos a tecnologia para treinar uma inteligência artificial com sua forma de falar, sua voz e suas imagens, e fazer perguntas a essa inteligência artificial para que responda como se fosse nosso ente querido. Essa tecnologia já existe e continuará melhorando. Mas voltemos ao mesmo ponto de antes: a chave está em como o ser humano interpreta essa realidade e que nós a utilizemos de forma ética, responsável e conhecendo seus limites e desafios.

Vamos falar sobre o seu livro “Cómo piensan las máquinas?”. É verdade que a inteligência artificial GTP-3 escreveu o prólogo? Como surgiu a ideia de inclui-la?

A tecnologia que usamos para escrever o prólogo do livro era GPT-2, e não era de fácil acesso como a que vemos agora no ChatGPT. Gostaria de dizer que foi uma ideia inovadora e disruptiva, mas, na realidade, recorri a ela porque o humano que eu tinha em mente para escrever o prólogo nunca respondeu.

Eu estava pressionado pelo fechamento da edição e um membro da equipe da RockingData me disse que havia tido uma conversa muito interessante com esta ferramenta. Então, ocorreu-me replicar uma dessas conversas e usá-la para o livro. E assim surgiu o prólogo.

E nesse prólogo a inteligência artificial diz que “ajudará a humanidade a alcançar seu máximo potencial”. Você pensa da mesma forma?

Se foi o GPT que disse, por que não acreditaria?... Falando sério, estou convencido de que será assim. Contudo, não acredito nisto de forma ingênua ou utópica. Existem muitos perigos, conforme comentei. Por isso, do meu lugar, tento fazer com que mais pessoas se interessem e conheçam essa tecnologia para pensá-la de diferentes ângulos e pontos de vista.

Valorizo e agradeço este espaço que você me oferece para chegar a mais pessoas em toda a América Latina. É realmente muito importante que todos saibamos como essa tecnologia impacta em nosso dia a dia e como podemos utilizá-la responsavelmente.

Quais seriam esses desafios éticos que as corporações desenvolvedoras de inteligência artificial deveriam considerar para que não vivamos em um futuro distópico?

Muitos. Já falamos sobre alguns deles antes, mas um que não mencionamos tem a ver com os vieses, e estes se formam porque nós, humanos, a partir de nossa subjetividade, damos peso ou valor desproporcional a algumas coisas sobre outras, o que nos impede de ver a realidade como realmente é.

Há alguns anos, ficou muito famoso um caso de uma inteligência artificial de seleção de pessoal que filtrava os currículos para uma grande empresa. A questão é que alguém percebeu que essa inteligência artificial não indicava mulheres para cargos de chefia porque os dados com os quais havia sido treinada diziam que os cargos diretivos eram ocupados por homens.

Nesse caso, o problema não era da inteligência artificial, mas sobre como havia sido treinada, sem levar em conta a desigualdade de gênero que a inteligência artificial iria contribuir para perpetrar. Existem mecanismos e processos para evitar cair nesses vieses quando desenvolvemos inteligência artificial e deveriam fazer parte de nosso marco ético.

Leia mais

• O ChatGPT tem alma? Uma conversa sobre ética católica e inteligência artificial com Blake Lemoine
• A inteligência artificial e a espiral do caos. Artigo de Franco ‘Bifo’ Berardi
• Inteligência Artificial é uma ferramenta muito útil, mas não é inteligente. Entrevista especial com Walter Carnielli
• “A estupidez natural me assusta mais do que a inteligência artificial.” Entrevista com Paolo Benanti
• Privilégios de ser pessoa. Possibilidade de inteligência artificial senciente levanta novas questões
• “A inteligência artificial está se tornando senciente”, avisa engenheiro do Google. E Big G o suspende
• Especialistas em inteligência artificial pedem uma pausa de seis meses para a “corrida fora de controle” do ChatGPT
• Harari alerta sobre a inteligência artificial: “Não sei se os humanos podem sobreviver”
• Uma Lei de Inteligência Artificial que protege os direitos das pessoas
• Inteligência artificial: o poder e o valor das pessoas e das máquinas. Artigo de Paolo Benanti
• ChatGPT atualiza debate sobre uso da inteligência artificial na educação. Entrevista especial com Yuri Oliveira de Lima e Pedro Henrique de Castro
• Ética, pós-humanismo e participação política na sociedade da inteligência artificial. Debate com Sebastiano Maffettone
• O pós-humanismo bate à porta: do Homo sapiens ao ciborgue