Após os alarmes apocalípticos, os principais especialistas em IA – incluindo os “pais” da aprendizagem profunda Geoffrey Hinton e Yoshua Bengio – avançam com propostas concretas para conter os riscos futuros associados a um desenvolvimento descontrolado da inteligência artificial.

A reportagem é de Pier Luigi Pisa, publicada por La Repubblica, 24-10-2023. 

“Gerenciando riscos da IA em uma era de rápido progresso.” Este é o título do artigo científico assinado por dois “pais” da inteligência artificial moderna, Geoffrey Hinton e Yoshua Bengio, e 22 outros acadêmicos, incluindo o escritor Yuval Noah Harari e o vencedor do Prêmio Nobel da Economia Daniel Kahneman, autor de um best-seller, o livro Thinking, Fast and Slow (em tradução livre, Pense rápido e devagar). Em comparação com os alarmes apocalípticos dos últimos meses, centrados nos riscos ligados ao desenvolvimento descontrolado da inteligência artificial, os estudiosos deram um passo em frente, propondo soluções concretas para evitar que a IA se transformasse numa ameaça temível. As propostas mais importantes dizem respeito às empresas que desenvolvem inteligência artificial e aos governos que terão de controlar os sistemas de IA existentes e futuros.

No paper, empresas como a OpenAI, que criou o ChatGPT e o Dall-E 3 são convidadas a "destinar pelo menos um terço do seu orçamento para pesquisa e desenvolvimento de IA para garantir segurança e uso ético". Aos governos, por outro lado, é pedido, entre outras coisas, que "solicitem urgentemente o registro dos modelos de IA, a proteção de informantes, relatem incidentes, e controlem os modelos e o uso de supercomputadores".

Há uma atenção especial voltada aos mecanismos que regulam a IA. Sabemos, de fato, como uma piada recorrente no mundo dos pesquisadores diz, que uma empresa como a OpenAI, por exemplo, tem "aberto" apenas o nome. O ChatGPT, como é dito no jargão, é uma "caixa preta": ninguém pode olhar para dentro dela e, portanto, ninguém sabe quais são seus mecanismos, ao contrário das IA "de código aberto", cujo código-fonte é público e acessível para qualquer modificação/desenvolvimento.

O paper assinado por Hinton e Bengio, vencedores do prestigioso Prêmio Turing em 2018, pede aos governos que legislem para que possam "ter acesso a sistemas avançados de IA antes de seu desenvolvimento, para avaliar riscos potenciais, como a capacidade de replicação autônoma, penetração em sistemas de computadores ou disseminação de patógenos pandêmicos".

No artigo, também se lê que "os governos deveriam responsabilizar legalmente os desenvolvedores e proprietários da 'IA de ponta' – o termo usado para descrever a IA mais avançada – pelos danos causados por seus modelos que podem ser razoavelmente previstos e evitados". Essa proposta, em particular, reflete o ponto de vista recentemente expresso por Harari.

Yuval Noah Harari, historiador que conquistou o mundo com seus livros sobre o passado e o futuro da humanidade (de Sapiens a Homo Deus), está preocupado com um futuro em que bilhões de "pessoas falsas" possam ser criadas com extrema facilidade. O autor chegou a pedir "20 anos de prisão" para todos aqueles que criarem "pessoas falsas" usando a IA. "Se você não puder distinguir um ser humano real de um falso", disse Harari em um congresso organizado em Genebra pelas Nações Unidas, "a confiança entrará em colapso. E com ela, a sociedade livre. Talvez as ditaduras consigam lidar de alguma forma, mas não as democracias". 

O artigo "Gerenciando riscos da IA em uma era de progresso rápido" também insta os governos a "estar prontos para conceder licenças para o desenvolvimento de inteligências artificiais específicas e suspender o desenvolvimento em resposta a capacidades preocupantes dos sistemas de IA". No documento, a necessidade de tomar medidas urgentes é frequentemente enfatizada. Isso ocorre porque, como afirma o título, a inteligência artificial cresce e melhora em um ritmo extremamente rápido.

"Em 2019, o GPT-2 não conseguia contar de forma confiável até dez", afirmam os signatários do paper.

"Apenas quatro anos depois, os sistemas de aprendizado profundo podem escrever software, gerar imagens fotorrealísticas sob demanda, dar conselhos sobre tópicos intelectuais e combinar o processamento de linguagem e imagem para guiar robôs. À medida que os desenvolvedores de IA escalam esses sistemas, emergem habilidades e comportamentos inesperados que não são o resultado de programação explícita. O progresso na IA tem sido rápido e surpreendente para muitos. Não há motivo para pensar que o progresso da IA deva diminuir ou parar no nível humano. Na verdade, a IA já superou as capacidades humanas em áreas específicas, como o dobramento de proteínas ou jogos de estratégia. Em comparação com os seres humanos, os sistemas de inteligência artificial podem agir mais rapidamente, assimilar uma quantidade maior de conhecimento e comunicar a uma taxa de transmissão muito mais alta. Além disso, podem ser dimensionados para usar recursos computacionais imensos e podem ser replicados em milhões de cópias."

Enquanto Hinton e Bengio continuam a conscientizar o público e os governos sobre a IA que poderia causar danos às pessoas ou à sociedade, pedindo diretrizes e leis para prevenir cenários catastróficos, seu colega Yann Lecun – também agraciado com o Prêmio Turing em 2018 por sua contribuição fundamental para o desenvolvimento da aprendizagem de máquina – reafirma que "a inteligência artificial nunca será uma ameaça para os seres humanos".

É o que LeCun, chefe de IA da Meta (a empresa que controla o Facebook, Instagram e WhatsApp), declarou ao Financial Times. Sua entrevista foi publicada em 19 de outubro, alguns dias antes da divulgação do artigo sobre "gerenciamento de riscos da IA" assinado por Hinton e Bengio.

Leia mais

• “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton
• A inteligência artificial hackeia o sistema operacional da civilização humana. Artigo de Yuval Harari
• Harari alerta sobre a inteligência artificial: “Não sei se os humanos podem sobreviver”
• Assim os Big Data alimentam as desigualdades. Entrevista com Yuval Noah Harari
• Os três conselhos de Harari para frear o “autoritarismo digital”
• A inteligência artificial e os “novos poderes desumanos”. Entrevista com Flavia Costa
• “Não precisamos de uma inteligência artificial para nos destruir, basta nós mesmos”. Entrevista com Mariano Sigman
• Gilbert Simondon e a Inteligência Artificial. Uma reflexão a partir da sua obra
• Onde estão os trabalhadores no debate sobre ética e regulação da inteligência artificial?
• A inteligência artificial e o desafio para o mundo do trabalho
• Inteligência artificial utiliza base de dados que refletem preconceitos e desigualdades
• Inteligência artificial/ChatGPT. Uma perspectiva humanista. Entrevista especial com Marco Schorlemmer
• “A inteligência artificial será como um novo módulo inconsciente do nosso cérebro”. Entrevista com Andy Clark
• Inteligência artificial: um desafio sério. Artigo de Giuseppe Savagnone
• A revolução da inteligência artificial transforma as pesquisas sobre o novo regime climático. Conferência com Sergio Marconi
• “Em tempos de inteligência artificial, não queremos medir a precarização do trabalho nem seus efeitos”. Entrevista com Joan Benach
• Inteligência artificial e estupidez natural. Artigo de Vito Mancuso
• ChatGPT não é 'inteligência artificial'. É roubo
• Inteligência artificial e alienação. Artigo de Mauro Luis Iasi
• ChatGPT: carta aos meus alunos. Carta de Russel P. Johnson
• O Google se lança na guerra da Inteligência Artificial
• Riscos e preocupações em torno da inteligência artificial (IA). Artigo de Henrique Cortez
• Da ficção científica à realidade: os novos dilemas éticos da Inteligência Artificial. Entrevista especial com João Cortese
• Inteligência Artificial e meio ambiente. Artigo de Carlos Bocuhy
• Depois da Inteligência Artificial. Especialistas debatem o tema na publicação ‘Cadernos IHU ideias’
• ChatGPT contra o pensamento crítico. Entrevista com Noam Chomsky
• Éric Sadin: “O ChatGPT é um movimento civilizatório com profundas consequências antropológicas”
• O ChatGPT tem alma? Uma conversa sobre ética católica e inteligência artificial com Blake Lemoine
• ChatGPT: “Comunismo 2.0 ou a destruição em massa da humanidade”. Comentário de Rodrigo Petronio
• Máquinas de IA não são “alucinantes”. Mas seus criadores são. Artigo de Naomi Klein