Uma carta aberta assinada pelos líderes da OpenAI, Google DeepMind e Anthropic compara esta tecnologia à pandemia ou guerra nuclear.

A reportagem é publicada por El País, 30-05-2023.

A inteligência artificial (IA) representa um “risco de extinção” para a humanidade, assim como catástrofes como uma guerra nuclear ou uma pandemia. Essas são as conclusões de um grupo de 350 executivos, pesquisadores e engenheiros especialistas nessa tecnologia em uma carta aberta de 22 palavras publicada na terça-feira pela organização sem fins lucrativos Center for AI Security. “Mitigar o risco de extinção [para a humanidade] da IA ​​deve ser uma prioridade global junto com outros riscos em escala social, como pandemias e guerra nuclear”, ele cita a declaração que foi assinada, entre outros, pelo alto- executivos de classificação de três grandes empresas de IA: Sam Altman (CEO da OpenAI), Demis Hassabis (Google DeepMind) e Dario Amodei (Anthropic).

Também entre os signatários estão os pesquisadores Geoffrey Hinton e Yoshua Bengio, que são frequentemente considerados padrinhos do movimento moderno de IA. Hinton deixou o Google há algumas semanas, onde ocupou a vice-presidência, por acreditar que essa tecnologia pode levar ao fim da civilização em questão de anos, como confessou ao EL PAÍS.

A declaração vem em um momento de crescente preocupação com uma indústria em rápido desenvolvimento e difícil de controlar. O próprio Sam Altman já havia se manifestado sobre o assunto durante sua aparição no Senado dos EUA, quando reconheceu a importância de regulamentar a inteligência artificial generativa. “Meu maior medo é que essa tecnologia dê errado. E se der errado, pode dar muito errado”, disse ele há apenas duas semanas, durante a primeira audiência sobre IA realizada no Capitólio.

O pai da OpenAI – a empresa que desenvolveu o ChatGPT, o programa de inteligência artificial mais popular e poderoso da área – acrescentou que entendia que “as pessoas estão ansiosas sobre como [IA] pode mudar a maneira como vivemos” e que, por isso, Por isso, é necessário "trabalhar em conjunto para identificar e gerir as possíveis desvantagens para que todos possamos usufruir das enormes vantagens". Não foi a primeira vez que um dos empresários mais envolvidos com essa tecnologia fez declarações dessa magnitude sobre o futuro da IA.

Em março, mais de mil intelectuais, pesquisadores e empresários haviam assinado outra carta aberta na qual pediam a suspensão por “pelo menos seis meses do desenvolvimento de sistemas de IA mais poderosos que o GPT4”, a última versão do ChatGPT. Na carta, os signatários alertam que a ferramenta OpenAI já é capaz de competir com humanos em um número cada vez maior de tarefas, podendo ser usada para destruir empregos e espalhar desinformação. “Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, apesar do fato de que nos últimos meses os laboratórios de IA entraram em uma corrida desenfreada para desenvolver e implantar mentes digitais cada vez mais poderosas do que qualquer um, nem mesmo seus criadores, eles podem entender, prever com segurança ou controle”, dizia a carta, que também foi assinada pelo magnata Elon Musk, fundador da Tesla e da SpaceX e dono do Twitter, que também é um dos fundadores da OpenAI.

Outra voz de alarme neste campo foi a do britânico Geoffrey Hinton, que no início de maio deixou seu emprego no Google para poder alertar com mais liberdade sobre os perigos dessas novas tecnologias. “Pelo que sabemos até agora sobre o funcionamento do cérebro humano, nosso processo de aprendizagem é provavelmente menos eficiente que o dos computadores”, confessou ao EL PAÍS algumas semanas atrás. Hinton garantiu na mesma entrevista que faltam “cinco a 20 anos” para a inteligência artificial superar a inteligência humana. “Nosso cérebro é fruto da evolução e tem uma série de objetivos integrados, como não machucar o corpo, daí a noção de dano; coma bastante, daí a fome; e fazer tantas cópias de nós mesmos quanto possível, daí o desejo sexual. As inteligências sintéticas, por outro lado, não evoluíram: nós as construímos. Portanto, eles não vêm necessariamente com objetivos inatos. Portanto, a grande questão é: podemos garantir que eles tenham objetivos que nos beneficiem?", disse ele.

Leia mais 

• Pioneiro da IA deixa Google e alerta para risco à humanidade
• “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton
• A maior ameaça para a humanidade não é a mudança climática, mas a Inteligência Artificial, afirma o filósofo de Oxford apoiado por Bill Gates
• A potência e a ameaça das redes neurais
• Procura-se uma bússola para se orientar entre os algoritmos. A resposta está na Bíblia e na Constituição
• O reinado feudal do algoritmo. Entrevista com Cédric Durand
• “A estupidez natural me assusta mais do que a inteligência artificial.” Entrevista com Paolo Benanti
• ChatGPT: “Comunismo 2.0 ou a destruição em massa da humanidade”. Comentário de Rodrigo Petronio
• ChatGPT: resta-nos habitar um cosmos de solidão. Comentário de Rodrigo Petronio
• ChatGPT não é 'inteligência artificial'. É roubo
• Inteligência artificial e alienação. Artigo de Mauro Luis Iasi
• O Google se lança na guerra da Inteligência Artificial
• Riscos e preocupações em torno da inteligência artificial (IA). Artigo de Henrique Cortez
• Da ficção científica à realidade: os novos dilemas éticos da Inteligência Artificial. Entrevista especial com João Cortese
• Inteligência Artificial e meio ambiente. Artigo de Carlos Bocuhy
• Depois da Inteligência Artificial. Especialistas debatem o tema na publicação ‘Cadernos IHU ideias’
• ChatGPT contra o pensamento crítico. Entrevista com Noam Chomsky
• Éric Sadin: “O ChatGPT é um movimento civilizatório com profundas consequências antropológicas”
• O ChatGPT tem alma? Uma conversa sobre ética católica e inteligência artificial com Blake Lemoine
• ChatGPT: “Comunismo 2.0 ou a destruição em massa da humanidade”. Comentário de Rodrigo Petronio
• Máquinas de IA não são “alucinantes”. Mas seus criadores são. Artigo de Naomi Klein
• Pausar desenvolvimento de IA não é suficiente. “Desliguem tudo”, alerta um dos fundadores da área
• Inteligência Artificial é uma ferramenta muito útil, mas não é inteligente. Entrevista especial com Walter Carnielli
• A inteligência artificial hackeia o sistema operacional da civilização humana. Artigo de Yuval Harari
• O aviso de Stephen Hawking, em 2014, sobre a inteligência artificial
• Papa: hoje existe o risco de dar vida à lógica das máquinas e dos dispositivos
• A globalização do paradigma tecnocrático
• “A inteligência artificial não é uma ameaça, mas, se não a usarmos bem, pode se tornar”. Entrevista com Fredi Vivas
• A inteligência artificial e a espiral do caos. Artigo de Franco ‘Bifo’ Berardi
• ChatGPT contra o pensamento crítico. Entrevista com Noam Chomsky
• Éric Sadin: “O ChatGPT é um movimento civilizatório com profundas consequências antropológicas”
• ChatGPT: “Comunismo 2.0 ou a destruição em massa da humanidade”. Comentário de Rodrigo Petronio
• O ChatGPT tem alma? Uma conversa sobre ética católica e inteligência artificial com Blake Lemoine
• Quais os limites do Chat GPT na Saúde?
• ChatGPT: resta-nos habitar um cosmos de solidão. Comentário de Rodrigo Petronio
• O algoritmo gosta do discurso de ódio, diz Duvivier: 'A informação pertence a corporações'
• “É o século da solidão”, constata economista inglesa Noreena Hertz
• A era dos coletivos de solidão. Artigo de Boaventura de Sousa Santos
• A solidão na era das novas tecnologias de informação
• 'Redes sociais deixam sociedade mais vulnerável'
• ChatGPT, a heroína da Bayer? Artigo de Paolo Benanti
• Especialistas em inteligência artificial pedem uma pausa de seis meses para a “corrida fora de controle” do ChatGPT
• Bostificação, o futuro irresistível do ChatGPT
• Chapação maquínica, alucinação estatística: pensar como o ChatGPT
• Chomsky e o melodrama tecnofóbico. Artigo de Bruno Cava
• ChatGPT, tecnologia e programadores. E o bicho-papão da automação
• ChatGPT, o algoritmo que finge saber. Comentário de Bruno Cava
• GPT-4, o algoritmo inexplicável e fechado. Artigo de Paolo Benanti
• O homem tecnológico: protagonista ou vítima?
• O que Noam Chomsky pensa a respeito da Inteligência Artificial do ChatGPT
• As cinco perguntas sobre o sucesso do ChatGPT
• ChatGPT: nem monstro, nem tábua de salvação
• Castells: o que (não) penso sobre o ChatGPT
• ChatGPT: entenda como funciona a inteligência artificial do momento - e os riscos que ela traz
• ChatGPT. “Apesar da IA, ainda temos o monopólio da consciência”
• O GPT-3 desafia a inércia acadêmica
• Biopolítica algorítmica. Como as humanidades são impactadas e podem impactar a Inteligência Artificial. Entrevista especial com Virgilio Almeida
• Inteligência Artificial e Saúde: para todos ou para quase ninguém?
• Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti
• “A inteligência artificial está se tornando senciente”, avisa engenheiro do Google. E Big G o suspende
• Dar uma ética à inteligência artificial: um desafio contado em livro
• A inteligência artificial não precisa de inteligência: o pensamento de Luciano Floridi
• “Ética da inteligência artificial”, novo livro de Luciano Floridi
• A necessidade de uma algorética para enfrentar o desafio da inteligência artificial. Artigo de Paolo Benanti
• É possível confiar na inteligência artificial?
• A inteligência artificial pode nos ensinar a ser mais humanos?
• Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
• Inteligência Artificial no Sul Global. Alguns comentários a Jack Qiu
• “A inteligência artificial já faz parte da nossa cotidianidade.” Entrevista com Luciano Floridi