Elon Musk, o cofundador da Apple Steve Wozniak e o historiador Yuval N. Harari estão entre os milhares de signatários de uma carta aberta.

A reportagem é de M. G. Pascual, publicada por El País, 29-03-2023.

A velocidade a que as ferramentas baseadas na inteligência artificial generativa (IA), capaz de criar textos, imagens ou música a partir de uma série de instruções, estão a ser utilizadas é assustadora para os especialistas. Mais de mil empresários, intelectuais e investigadores de renome envolvidos nesta tecnologia assinaram uma carta aberta apelando a uma moratória sobre o seu desenvolvimento, a fim de refletir sobre as suas consequências.

Mais especificamente, apelam a uma pausa de "pelo menos seis meses no desenvolvimento e teste de sistemas de IA mais poderosos do que o GPT4″, a última versão do modelo de linguagem de grande dimensão que o ChatGPT utiliza". A carta adverte que este último modelo já é capaz de competir com os humanos num número crescente de tarefas, e poderia ser utilizado para destruir empregos e espalhar desinformação. Portanto, apelam a um desenvolvimento seguro e apenas quando houver a certeza de que os seus efeitos serão positivos.

"Infelizmente", afirma a carta, "este nível de planejamento e gestão não está acontecendo, apesar do fato de nos últimos meses os laboratórios de IA terem entrado numa corrida desenfreada para desenvolverem e implantarem mentes digitais cada vez mais poderosas que ninguém, nem mesmo os seus criadores, consegue compreender, prever ou controlar de forma fiável".

ChatGPT e os impactos da inteligência artificial na educação

O magnata Elon Musk, fundador de Tesla e SpaceX e proprietário do Twitter, está entre aqueles que assinaram a carta. Curiosamente, Musk é um dos fundadores da OpenAI, a empresa que desenvolveu o ChatGPT, que foi a primeira a decidir tornar o seu grande modelo de linguagem automática disponível ao público em geral, algo que ninguém tinha feito até então, apesar de Google e Meta terem tido os seus próprios desenvolvimentos em curso durante anos.

Ciclo de Estudos Inteligência Artificial, fronteiras tecnológicas e devires humanos

O historiador Yuval Noah Harari, famoso pelos seus livros Sapiens e Homo Deus, e Yoshua Bengio, cuja contribuição para as redes neurais profundas lhe valeu o Prêmio Turing (considerado o Prêmio Nobel da Informática), são outros signatários bem conhecidos. Outros signatários notáveis incluem Steve Wozniak, cofundador da Apple, e Jaan Tallinn, cofundador da Skype.

O selo espanhol da carta é fornecido por especialistas de renome internacional como Ramon López de Mántaras, um dos pioneiros da IA na Europa; Carles Serra, diretor do Instituto de IA no CSIC, e Francesc Giralt, professor emérito na Universitat Rovira i Virgili. O primeiro assinou outra carta aberta publicada ontem na qual se queixa da decisão do governo de fechar um acordo de colaboração com um instituto de IA financiado pelos Emirados Árabes Unidos. Serra demitiu-se na semana passada do seu posto no Conselho Consultivo da AI em protesto contra o acordo.

Desenvolvimento, mas de forma responsável

"A IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerida com cuidado e recursos", diz um princípio acordado em 2017 por figuras-chave da disciplina numa conferência internacional. "Infelizmente, este nível de planejamento e gestão não está acontecendo", lamenta a carta.

O tiro de partida na nova corrida pela IA generativa foi disparada pela OpenAI, uma empresa controlada, entre outros, pelo homem mais rico do mundo e pela Microsoft. O lançamento no fim do ano passado da versão beta do ChatGPT, o seu famoso bot conversacional, trouxe para as mãos do público em geral uma tecnologia em que empresas como a Google e a Meta vinham trabalhando há décadas.

ChatGPT e DALL-E: Inteligência Artificial, da ética ao trabalho passando pelo aprendizado

A Microsoft acompanhou a tendência e anunciou um investimento de 10 mil bilhões de dólares na empresa. Pouco depois, revelou que o seu motor de busca Bing e aplicações Office teriam um chatbot semelhante ao ChatGPT. O Google não quis ser menos e apresentou o Bard, a sua própria versão de um chatbot de conversação. Meta também tem a sua própria: LLaMa. Entretanto, OpenAI apresentou ChatGPT4, uma versão nova, muito mais potente e polida do seu bot conversacional, e já está a trabalhar no ChatGPT5.

Tudo isto aconteceu em menos de cinco meses. Alarmados com a velocidade desta corrida, os signatários da carta pedem uma pausa de meio ano para refletir sobre a forma como deve ser gerida. "Se esta pausa não se puder concretizar em breve, os governos deveriam intervir e impor uma moratória", dizem os especialistas.

Leia mais

• Não é possível pausar o desenvolvimento de inteligência artificial, dizem especialistas
• O segredo sujo da inteligência artificial
• Inteligência artificial para construir outros mundos
• Bostificação, o futuro irresistível do ChatGPT
• Chapação maquínica, alucinação estatística: pensar como o ChatGPT
• Chomsky e o melodrama tecnofóbico. Artigo de Bruno Cava
• ChatGPT, tecnologia e programadores. E o bicho-papão da automação
• ChatGPT, o algoritmo que finge saber. Comentário de Bruno Cava
• GPT-4, o algoritmo inexplicável e fechado. Artigo de Paolo Benanti
• O homem tecnológico: protagonista ou vítima?
• O que Noam Chomsky pensa a respeito da Inteligência Artificial do ChatGPT
• As cinco perguntas sobre o sucesso do ChatGPT
• ChatGPT: nem monstro, nem tábua de salvação
• Castells: o que (não) penso sobre o ChatGPT
• ChatGPT: entenda como funciona a inteligência artificial do momento - e os riscos que ela traz
• ChatGPT. “Apesar da IA, ainda temos o monopólio da consciência”
• O GPT-3 desafia a inércia acadêmica
• Biopolítica algorítmica. Como as humanidades são impactadas e podem impactar a Inteligência Artificial. Entrevista especial com Virgilio Almeida
• Inteligência Artificial e Saúde: para todos ou para quase ninguém?
• Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti
• “A inteligência artificial está se tornando senciente”, avisa engenheiro do Google. E Big G o suspende
• Dar uma ética à inteligência artificial: um desafio contado em livro
• A inteligência artificial não precisa de inteligência: o pensamento de Luciano Floridi
• “Ética da inteligência artificial”, novo livro de Luciano Floridi
• A necessidade de uma algorética para enfrentar o desafio da inteligência artificial. Artigo de Paolo Benanti
• É possível confiar na inteligência artificial?
• A inteligência artificial pode nos ensinar a ser mais humanos?
• Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
• Inteligência Artificial no Sul Global. Alguns comentários a Jack Qiu
• “A inteligência artificial já faz parte da nossa cotidianidade.” Entrevista com Luciano Floridi