Cientista Geoffrey E. Hinton vê riscos no uso de sistemas de inteligência artificial por pessoas mal-intencionadas e defende pausa no desenvolvimento da tecnologia.

A reportagem é publicada por Deutsche Welle, 02-05-2023.

O cientista britânico Geoffrey E. Hinton, um dos pioneiros no desenvolvimento da inteligência artificial (IA), demitiu-se da empresa de tecnologia Google e afirmou que o fez para poder falar sobre os perigos dessa tecnologia sem ter que se preocupar com o impacto que suas declarações teriam para o seu empregador.

Hinton, frequentemente chamado de "padrinho" da IA, disse que hoje lamenta ter dedicado a carreira ao desenvolvimento da tecnologia. "Consolo-me com a desculpa normal: se não tivesse sido eu, outro o teria feito", declarou ao jornal The New York Times, em entrevista publicada nesta segunda-feira (1º/05).

Ele se une a outros especialistas que já advertiram para os riscos da IA diante de lançamentos como o ChatGPT e dos investimentos das grandes empresas de tecnologia nesse setor. "É difícil imaginar como evitar que atores mal-intencionados a usem para coisas más", declarou ao New York Times.

No Twitter, Hinton disse que a Google sempre agiu de forma muito responsável e negou que tenha pedido demissão para poder criticar o antigo empregador. Segundo o diário nova-iorquino, Hinton comunicou sua demissão ao Google no mês passado.

Para Hinton, a atual velocidade de desenvolvimento da IA assusta. "Veja como era há cinco anos e como é agora", comentou.

Ameaça à humanidade

No curto prazo, ele disse temer que a internet seja inundada com textos, fotos e vídeos falsos e que não seja mais possível, para as pessoas, distinguir o que é verdadeiro do que é falso.

Ele acrescentou que, mais adiante, a IA poderá substituir muitos trabalhadores e até mesmo se tornar uma ameaça à humanidade.

"A ideia de que essas coisas poderiam se tornar mais inteligentes que as pessoas, algumas pessoas acreditavam nisso. Mas a maioria das pessoas achava que isso estava muito distante. Eu pensava que estava muito distante, 30 ou 50 anos ou talvez mais. Obviamente já não penso mais assim", declarou.

Por isso, ele defendeu, assim como outros especialistas já fizeram, que a pesquisa nesse setor seja interrompida até que se entenda bem se será possível controlar a IA.

Em março, um grupo de especialistas defendeu uma pausa no desenvolvimento de sistemas de IA para dar tempo de assegurar que eles sejam seguros. A carta aberta, assinada por mais de mil pessoas, entre elas o empresário Elon Musk e o cofundador da Apple Steve Wozniak, foi motivada pelo lançamento do software GPT-4, uma versão ainda mais poderosa da tecnologia usada pelo ChatGPT.

Leia mais

• “A inteligência artificial não é uma ameaça, mas se não a usarmos bem, pode se tornar”. Entrevista com Fredi Vivas
• A inteligência artificial e a espiral do caos. Artigo de Franco ‘Bifo’ Berardi
• O ChatGPT tem alma? Uma conversa sobre ética católica e inteligência artificial com Blake Lemoine
• Teilhard de Chardin pode nos ajudar a entender teologicamente a inteligência artificial?
• Inteligência Artificial é uma ferramenta muito útil, mas não é inteligente. Entrevista especial com Walter Carnielli
• “A estupidez natural me assusta mais do que a inteligência artificial.” Entrevista com Paolo Benanti
• Harari alerta sobre a inteligência artificial: “Não sei se os humanos podem sobreviver”
• Uma Lei de Inteligência Artificial que protege os direitos das pessoas
• Poderá a Inteligência Artificial criar cidades humanas?
• ChatGPT atualiza debate sobre uso da inteligência artificial na educação. Entrevista especial com Yuri Oliveira de Lima e Pedro Henrique de Castro
• Especialistas em inteligência artificial pedem uma pausa de seis meses para a “corrida fora de controle” do ChatGPT
• Não é possível pausar o desenvolvimento de inteligência artificial, dizem especialistas
• O segredo sujo da inteligência artificial
• Religião e inteligência artificial: quando Francisco fala sobre redes neurais com judeus e muçulmanos
• O que Noam Chomsky pensa a respeito da Inteligência Artificial do ChatGPT