São os próprios empregados que estão dizendo. Aqueles que trabalham em seu desenvolvimento. Treze trabalhadores e ex-trabalhadores de empresas de tecnologia publicaram uma carta aberta alertando sobre o perigo da inteligência artificial.

A reportagem é de Óscar F. Civieta, publicada por La Marea, 05-06-2024. A tradução é do Cepat.

Entre eles, há sete ex-trabalhadores da OpenAI (a empresa criadora do ChatGPT e dirigida por Sam Altman), quatro trabalhadores atuais (que não informam seus nomes na carta), um ex-empregado do Google DeepMind e um empregado atual da mesma empresa (que antes esteve na Anthropic). Também assinam Yoshua Bengio, Geoffrey Hinton e Stuart Russell, conhecidos como os ‘padrinhos da IA’, que já haviam alertado para estes riscos.

Embora apontem no primeiro parágrafo que a IA pode “trazer benefícios sem precedentes para a humanidade”, concentram-se principalmente no que descrevem como “riscos graves”.

Por exemplo, detalham “um crescimento das desigualdades existentes, da manipulação e a desinformação, e inclusive o perigo de que “se perca o controle dos sistemas autônomos de IA, o que pode provocar a extinção humana”. Além disso, lembram que as próprias empresas e os governos têm alertado a esse respeito.

As empresas de IA são resistentes à supervisão

Os signatários sustentam que estes riscos podem ser mitigados seguindo a orientação da comunidade científica. No entanto, afirmam que “as empresas de inteligência artificial têm fortes incentivos econômicos para evitar uma supervisão efetiva”.

Estas empresas “possuem informações suficientes sobre as capacidades e limitações de seus sistemas, a idoneidade das medidas de proteção que aplicam e os níveis de risco. Contudo, existem poucas normas que as obriguem a compartilhar essa informação com os governos, e nenhuma com a sociedade civil”.

“Enquanto não houver uma supervisão governamental destas empresas, nós, empregados e ex-empregados, somos os únicos com capacidade de lhes exigir responsabilidades”, afirmam. “O problema é que os acordos de confidencialidade nos impedem de expressar as nossas preocupações, exceto às próprias empresas”.

Queixam-se de que os denunciantes possuem pouca proteção e reconhecem que temem “represálias”, tendo em conta os exemplos em toda a indústria.

Querem liberdade para informar sobre os riscos da inteligência artificial

Terminam a carta reivindicando que as empresas de inteligência artificial se comprometam com vários princípios.

Em primeiro lugar, que não lhes façam assinar qualquer acordo que “proíba críticas à empresa, relacionadas aos riscos mencionados”, e que “não receberão represálias”.

Além disso, que as empresas implementem um sistema para que os trabalhadores (atuais e anteriores) tenham a possibilidade de expor suas inquietações “para a própria empresa, o público, os reguladores e uma organização independente, com experiência relevante, sempre e quando os segredos comerciais e outros interesses da propriedade estejam protegidos”.

Por fim, exigem que até que se efetive esta via de reivindicação, as empresas lhes permitam “compartilhar publicamente informações confidenciais relacionadas aos riscos da IA”.

Leia mais

• A inteligência artificial precisa da supervisão da ONU. Artigo de Peter G. Kirchschläger
• Os principais criadores da IA alertam para o “perigo de extinção” que esta tecnologia representa para a humanidade
• OpenAI agora diz que teria sido “impossível” treinar ChatGPT sem violar direitos autorais
• “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton
• Vaticano, governo, Microsoft, IBM e Fao. Nasce a carta ética para a inteligência artificial
• Pausar desenvolvimento de IA não é suficiente. “Desliguem tudo”, alerta um dos fundadores da área
• Inteligência Artificial é uma ferramenta muito útil, mas não é inteligente. Entrevista especial com Walter Carnielli
• Pioneiro da IA deixa Google e alerta para risco à humanidade
• A inteligência artificial hackeia o sistema operacional da civilização humana. Artigo de Yuval Harari
• O aviso de Stephen Hawking, em 2014, sobre a inteligência artificial
• “A inteligência artificial não é uma ameaça, mas, se não a usarmos bem, pode se tornar”. Entrevista com Fredi Vivas
• A inteligência artificial e a espiral do caos. Artigo de Franco ‘Bifo’ Berardi
• ChatGPT contra o pensamento crítico. Entrevista com Noam Chomsky
• Éric Sadin: “O ChatGPT é um movimento civilizatório com profundas consequências antropológicas”
• ChatGPT: “Comunismo 2.0 ou a destruição em massa da humanidade”. Comentário de Rodrigo Petronio
• O ChatGPT tem alma? Uma conversa sobre ética católica e inteligência artificial com Blake Lemoine
• Quais os limites do Chat GPT na Saúde?
• ChatGPT: resta-nos habitar um cosmos de solidão. Comentário de Rodrigo Petronio
• O algoritmo gosta do discurso de ódio, diz Duvivier: 'A informação pertence a corporações'
• 'Redes sociais deixam sociedade mais vulnerável'
• ChatGPT, a heroína da Bayer? Artigo de Paolo Benanti
• Especialistas em inteligência artificial pedem uma pausa de seis meses para a “corrida fora de controle” do ChatGPT
• Bostificação, o futuro irresistível do ChatGPT
• Chapação maquínica, alucinação estatística: pensar como o ChatGPT
• Chomsky e o melodrama tecnofóbico. Artigo de Bruno Cava
• ChatGPT, tecnologia e programadores. E o bicho-papão da automação