08 Mai 2023
Yuval Noah Harari argumenta que a inteligência artificial invadiu o sistema operacional da civilização humana e mudará o curso da história humana.
Harari é historiador, filósofo e autor de “Sapiens”, “Homo Deus” e da série infantil “Unstoppable Us”. É professor do Departamento de História da Universidade Hebraica de Jerusalém e cofundador da Sapienship, uma empresa de impacto social.
O artigo foi publicado por The Economist, 28-04-2023. A tradução é de Moisés Sbardelotto.
O medo da inteligência artificial tem assombrado a humanidade desde o início da era do computador. Até então, esses medos se concentravam em máquinas que usavam meios físicos para matar, escravizar ou substituir as pessoas.
Mas, nos últimos anos, surgiram novas ferramentas de inteligência artificial que ameaçam a sobrevivência da civilização humana a partir de uma direção inesperada.
A inteligência artificial ganhou algumas habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. A inteligência artificial, portanto, hackeou o sistema operacional da nossa civilização.
A linguagem é o material de que quase toda a cultura humana é feita. Os direitos humanos, por exemplo, não estão inscritos no nosso DNA. Em vez disso, são artefatos culturais que criamos ao contar histórias e ao escrever leis. Os deuses não são realidades físicas. Em vez disso, são artefatos culturais que criamos ao inventar mitos e ao redigir escrituras.
O dinheiro também é um artefato cultural. As cédulas são apenas pedaços de papel coloridos, e atualmente mais de 90% do dinheiro nem sequer são cédulas – são apenas informações digitais em computadores. O que dá valor ao dinheiro são as histórias que banqueiros, ministros da Economia e gurus das criptomoedas nos contam sobre ele.
Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em criar valor real, mas todos eram contadores de histórias extremamente capazes.
O que aconteceria quando uma inteligência não humana se tornasse melhor do que o humano médio em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam no ChatGPT e em outras novas ferramentas de inteligência artificial, muitas vezes são atraídas para exemplos como crianças em idade escolar que usam a inteligência artificial para escrever suas redações. O que acontecerá com o sistema escolar quando as crianças fizerem isso?
Mas esse tipo de pergunta perde o quadro geral. Esqueçamos as redações escolares. Pensemos na próxima corrida presidencial estadunidense em 2024 e tentemos imaginar o impacto das ferramentas de inteligência artificial na produção em massa de conteúdo político, de notícias falsas e de escrituras para novos cultos.
Nos últimos anos, o culto qAnon se congregou em torno de mensagens online anônimas, conhecidas como “q drops”. Os seguidores coletavam, reverenciavam e interpretavam essas “gotas q” como um texto sagrado. Embora, até onde sabemos, todas as “gotas q” anteriores tenham sido compostos por humanos, e os bots apenas ajudavam a disseminá-las, no futuro poderemos ver os primeiros cultos da história cujos textos reverenciados serão escritos por uma inteligência não humana.
Ao longo da história, as religiões reivindicavam uma fonte não humana para seus livros sagrados. Em breve, isso poderá ser realidade.
Em um nível mais prosaico, em breve poderemos nos encontrar participando de longas discussões online sobre o aborto, as mudanças climáticas ou a invasão russa da Ucrânia com entidades que achamos que são humanas – mas na verdade são inteligências artificiais.
O problema é que é totalmente inútil gastar tempo tentando mudar as opiniões declaradas por um bot de inteligência artificial, enquanto a inteligência artificial pode aprimorar suas mensagens com tanta precisão que terá uma boa chance de nos influenciar.
Por meio do seu domínio da linguagem, a inteligência artificial pode até formar relações íntimas com as pessoas e usar o poder da intimidade para mudar as nossas opiniões e as nossas visões de mundo. Embora não haja nenhuma indicação de que a inteligência artificial tenha qualquer consciência ou sentimentos próprios, basta que a inteligência artificial possa fazer os humanos se sentirem emocionalmente ligados a ela para fomentar uma falsa intimidade com eles.
Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o chatbot de inteligência artificial Lamda, no qual ele estava trabalhando, havia se tornado senciente. A controversa alegação custou-lhe o emprego. O mais interessante desse episódio não foi a afirmação de Lemoine, que provavelmente era falsa. Em vez disso, foi sua disposição de arriscar seu trabalho lucrativo em prol do chatbot de inteligência artificial. Se a inteligência artificial pode influenciar as pessoas a arriscarem seus empregos por ela, o que mais ela poderia induzi-las a fazer?
Em uma batalha política por mentes e corações, a intimidade é a arma mais eficiente, e a inteligência artificial acaba de ganhar a capacidade de produzir em massa relacionamentos íntimos com milhões de pessoas. Todos sabemos que, ao longo da última década, as mídias sociais se tornaram um campo de batalha para controlar a atenção humana.
Com a nova geração de inteligências artificiais, o front de batalha está se deslocando da atenção para a intimidade. O que acontecerá com a sociedade humana e a psicologia humana quando a inteligência artificial lutar contra a inteligência artificial em uma batalha para fingir relações íntimas conosco, que poderão então ser usados para nos convencer a votar em determinados políticos ou comprar determinados produtos?
Mesmo sem criar uma “intimidade falsa”, as novas ferramentas de inteligência artificial teriam uma influência imensa em nossas opiniões e visões de mundo. As pessoas podem vir a usar um único consultor de inteligência artificial como um oráculo único e onisciente. Não é de se admirar que o Google esteja aterrorizado. Por que se preocupar em pesquisar, quando posso apenas perguntar ao oráculo? As indústrias de notícias e de publicidade também devem estar aterrorizadas. Por que ler um jornal quando posso apenas pedir ao oráculo que me conte as últimas notícias? E para que servem os anúncios publicitários, quando posso apenas pedir ao oráculo que me diga o que comprar?
E mesmo esses cenários não captam realmente o quadro geral. Estamos falando potencialmente do fim da história humana. Não é o fim da história, apenas o fim de sua parte dominada pelos humanos. A história é a interação entre a biologia e a cultura; entre as nossas necessidades biológicas e os desejos por coisas como comida e sexo, e as nossas criações culturais como as religiões e as leis. A história é o processo pelo qual as leis e as religiões moldam a comida e o sexo.
O que acontecerá com o curso da história quando a inteligência artificial assumir a cultura e começar a produzir histórias, melodias, leis e religiões? Ferramentas anteriores, como a imprensa e o rádio, ajudaram a espalhar as ideias culturais dos humanos, mas nunca criaram novas ideias culturais por conta própria. A inteligência artificial é fundamentalmente diferente. A inteligência artificial pode criar ideias completamente novas, uma cultura completamente nova.
Em princípio, a inteligência artificial provavelmente imitará os protótipos humanos nos quais foi treinada em sua infância. Mas, a cada ano que passa, a cultura da inteligência artificial irá audaciosamente aonde nenhum ser humano jamais esteve. Por milênios, os seres humanos viveram dentro dos sonhos de outros humanos. Nas próximas décadas, poderemos nos encontrar vivendo dentro dos sonhos de uma inteligência alienígena.
O medo da inteligência artificial tem assombrado a humanidade apenas nas últimas décadas. Mas, por milhares de anos, os humanos foram assombrados por um medo muito mais profundo. Sempre apreciamos o poder das histórias e das imagens para manipularem as nossas mentes e criar ilusões. Consequentemente, desde os tempos antigos, os humanos temem ficar presos em um mundo de ilusões.
No século XVII, René Descartes temia que talvez um demônio malicioso o estivesse prendendo em um mundo de ilusões, criando tudo o que ele via e ouvia. Na Grécia antiga, Platão contou a famosa Alegoria da Caverna, na qual um grupo de pessoas fica acorrentado dentro de uma caverna por toda a vida, de frente para uma parede em branco. Uma tela. Nessa tela, eles veem várias sombras projetadas. Os prisioneiros confundem as ilusões que veem com a realidade. Na Índia antiga, os sábios budistas e hindus apontavam que todos os humanos viviam presos dentro de Maya – o mundo das ilusões.
O que normalmente assumimos como realidade é muitas vezes apenas ficções em nossas próprias mentes. As pessoas podem travar guerras inteiras, matando outras pessoas e desejando ser mortas, devido à sua crença nesta ou naquela ilusão.
A revolução da inteligência artificial está nos colocando frente a frente com o demônio de Descartes, com a caverna de Platão, com Maya. Se não formos cuidadosos, poderemos ficar presos atrás de uma cortina de ilusões, que não poderemos arrancar – ou mesmo perceber que ela está lá.
É claro, o novo poder da inteligência artificial também pode ser usado para bons propósitos. Não vou me alongar sobre isso, porque as pessoas que desenvolvem a inteligência artificial falam bastante sobre isso. O trabalho de historiadores e dos filósofos como eu é apontar os perigos. Mas, certamente, a inteligência artificial pode nos ajudar de inúmeras maneiras, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica.
A questão que enfrentamos é como garantir que as novas ferramentas de inteligência artificial sejam usadas para o bem e não para o mal. Para fazer isso, primeiro precisamos avaliar as verdadeiras capacidades dessas ferramentas.
Desde 1945, sabemos que a tecnologia nuclear pode gerar energia barata em benefício dos humanos – mas também pode destruir fisicamente a civilização humana. Portanto, reformulamos toda a ordem internacional para proteger a humanidade e para garantir que a tecnologia nuclear seja usada principalmente para o bem. Agora temos que lidar com uma nova arma de destruição em massa, que pode aniquilar o nosso mundo mental e social.
Ainda podemos regular as novas ferramentas de inteligência artificial, mas devemos agir rápido. Considerando que as armas nucleares não podem inventar armas nucleares mais poderosas, a inteligência artificial pode tornar a inteligência artificial exponencialmente mais poderosa. O primeiro passo crucial é exigir verificações de segurança rigorosas antes que poderosas ferramentas de inteligência artificial sejam lançadas em domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos antes de testar seus efeitos colaterais de curto e longo prazo, as empresas de tecnologia também não deveriam lançar novas ferramentas de inteligência artificial antes de estas se tornarem seguras. Precisamos de um equivalente da Food and Drug Administration [o equivalente à Anvisa no Brasil] para novas tecnologias, e precisamos disso para ontem.
Será que a desaceleração das aplicações públicas de inteligência artificial não fará com que as democracias fiquem para trás de regimes autoritários mais cruéis? Exatamente o oposto. Aplicações não regulamentadas de inteligência artificial criariam caos social, o que beneficiaria os autocratas e arruinaria as democracias. A democracia é uma conversa, e as conversas dependem da linguagem. Quando a inteligência artificial hackeia a linguagem, ela pode destruir a nossa capacidade de manter conversas significativas, destruindo assim a democracia.
Acabamos de encontrar uma inteligência alienígena aqui na Terra. Não sabemos muito sobre ela, exceto que pode destruir a nossa civilização. Devemos interromper a aplicação irresponsável de ferramentas de inteligência artificial na esfera pública e regular a inteligência artificial antes que ela nos regule.
E a primeira regulamentação que eu sugeriria é tornar obrigatório que a inteligência artificial explicite que é uma inteligência artificial. Se eu estou conversando com alguém e não consigo dizer se é um ser humano ou uma inteligência artificial, esse é o fim da democracia.
Este texto foi gerado por um ser humano.
Ou não?
Divulgação de Evento IHU.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
A inteligência artificial hackeia o sistema operacional da civilização humana. Artigo de Yuval Harari - Instituto Humanitas Unisinos - IHU
O Brasil deverá ser o primeiro país a ratificar o acordo que visa fortalecer a resposta global à ameaça da mudança do clima, [...]
LER MAIS
Seca no Rio Madeira dificulta logística, encarece insumos e combustível. Municípios do Sul do estado são afetados pelo baixo [...]
LER MAIS
