25 Setembro 2024
Yuval Noah Harari publica novo livro. O pensador israelense, consolidado como um dos mais influentes do século XXI graças ao sucesso de seus ensaios Sapiens e Homo Deus, continua desenvolvendo em Nexus. Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial (Companhia das Letras, 2024) sua tese sobre como a construção de mitos, religiões e ficções coletivas têm sido elementos-chave nas nossas estruturas sociais. A ela alia aquele que considera o último grande avanço da humanidade nesse sentido, a inteligência artificial. A sua mensagem é pessimista: se não agirmos agora, existe um risco real de que os sistemas de aprendizagem automática tragam uma nova era de trevas.
A entrevista é de Carlos del Castillo, publicada por El Diario, 21-09-2024. A tradução é do Cepat.
“Temos que compreender que existe um potencial totalitário na IA como nunca vimos antes na história”, disse Harari em recente encontro com jornalistas no qual elDiario.es esteve presente. A inteligência artificial e a sua integração em dispositivos, tanto pessoais como domésticos, urbanos ou veículos, poderão levar ao desenvolvimento de uma capacidade de vigilância sem precedentes, alerta o historiador.
“A diferença entre regimes autoritários e totalitários é que os primeiros controlam a esfera política, o exército ou os orçamentos, mas deixam as pessoas abandonadas à sua sorte na maior parte do tempo. O tirano não pode saber o que cada um de nós faz e pensa a cada minuto do dia. Mas é exatamente isso que os regimes totalitários tentam fazer. Regimes como os de Stalin na União Soviética ou de Hitler na Alemanha não queriam apenas controlar o exército e os orçamentos. Eles queriam controlar todos os aspectos da vida das pessoas. O que você ouve, o que você vê, o que você diz, quem você conhece, que livros você lê, tudo”, diz.
E prossegue em seu raciocínio: “Mas mesmo Hitler e Stalin tiveram dificuldades, havia limites ao controle que podiam exercer. Eles não podiam seguir todo mundo o tempo todo. Stalin não tinha 200 milhões de agentes da KGB para seguir todas as pessoas e, se tivesse, o que faria um agente da KGB? Preparar um relatório sobre você? A sede da KGB em Moscou teria sido inundada com 200 milhões de relatórios em papel. Mesmo que um agente da KGB visse você fazer algo e relatasse isso, haveria uma grande chance de que o relatório apenas acumulasse poeira. Ninguém jamais o leria porque não teria analistas suficientes. Portanto, mesmo na União Soviética havia uma certa medida de privacidade”, explica Harari.
“Agora a inteligência artificial poderia tornar possível a criação de regimes de vigilância total que aniquilariam a privacidade. Num país com IA, não são necessários agentes humanos para seguir todas as pessoas”, alerta.
O pensador lembra que esta situação não está tão distante da realidade. “O meu próprio país, Israel, está construindo um regime de vigilância total nos territórios palestinos ocupados, com câmeras, drones e software seguindo todas as pessoas o tempo todo”, continua: “Também não são necessários analistas humanos para analisar toda a informação. Isso a IA faz. Ela pode processar imensas quantidades de dados, vídeos, imagens, texto ou áudio, analisá-los e reconhecer padrões.” Israel também utiliza a IA para converter toda essa informação em alvos militares e assassiná-los, reconheceram fontes da inteligência israelense.
Discursos como o de Harari não vêm apenas da academia. Poucas horas depois da coletiva de imprensa do historiador israelense, foi a vez de Larry Ellison, o fundador da Oracle, se expressar em termos semelhantes. Embora de uma perspectiva totalmente oposta. “A polícia se comportará da melhor forma possível, porque estaremos constantemente monitorando e registrando tudo o que acontecer. Os cidadãos se comportarão da melhor forma possível, porque estaremos constantemente registrando e reportando tudo o que acontece. É inquestionável”, assegurava. Ellison é dono da quinta maior fortuna do mundo, segundo a Forbes, e é o principal apoiador de Donald Trump no Vale do Silício. A Oracle é uma das maiores empresas de tecnologia e boa parte de seus negócios baseia-se no gerenciamento de data centers, computação em nuvem e inteligência artificial.
A ideia da qual Harari parte em Nexus é que o acúmulo de informações não tornou os seres humanos mais sábios. Acumular informação é uma forma de acumular poder, reconhece, mas “poder não é sabedoria”. Como prova, o acadêmico aponta a crise climática e o colapso ecológico com que a humanidade flerta. Também a criação de novas tecnologias como a IA, “que têm o potencial de escapar ao nosso controle e nos escravizar ou mesmo aniquilar”.
“Ninguém contesta que hoje nós, humanos, temos muito mais informação e muito mais poder do que na Idade da Pedra, mas não é verdade que compreendemos melhor a nós mesmos e o nosso papel no universo”, propõe.
Esse poder, continua Harari, “nunca é o resultado da iniciativa individual”, mas “sempre surge da cooperação entre um grande número de pessoas”. Essa colaboração se estabelece em redes, que o homem utilizou para construir uma civilização capaz de explorar o espaço ou reduzir a mortalidade infantil para menos de 97%. Mas também para “liberar poderes que não podemos controlar”. “O principal argumento deste livro é que a humanidade ganha enorme poder ao construir grandes redes de cooperação, mas a forma como essas redes são construídas predispõe-na a fazer um uso imprudente do poder”, resume.
Ao longo da obra, Harari analisa exemplos de como a ideia de que “a informação é essencialmente uma coisa boa e quanto mais informação pudermos reunir, melhor” é essencialmente “ingênua”. Ele cita exemplos como um editorial do The New Englander, jornal estadunidense do século XIX, que em 1858 celebrava a invenção do telégrafo: “É impossível que continuem a existir antigos preconceitos e hostilidades, agora que este instrumento foi criado para que todas as nações da Terra troquem ideias”.
Dois séculos depois, a tecnologia de comunicação telegráfica parece um brinquedo, se comparada à internet. Mas o racismo, o machismo ou o belicismo seguem existindo. Envenenamos voluntariamente o planeta que habitamos. Construímos bombas e vírus cada vez mais potentes que podem aniquilar a humanidade, enumera o historiador: “Não faltam aos nossos líderes informações sobre estes perigos, mas, em vez de colaborarem na busca de soluções, aproximam-se cada vez mais da guerra global”.
Harari compara o panorama atual das notícias à junk food (comida lixo). Ele aponta as redes sociais e as fazendas de conteúdo como as responsáveis por tornar viciante a maior parte da informação que as pessoas consomem hoje, mas vazia de conhecimento. Aponta as empresas que as operam por fornecerem um produto que prejudica a mente, assim como a junk food prejudica o corpo. “As pessoas têm o direito de ser estúpidas, têm até o direito de inventar mentiras”, defende. “O principal problema agora com as redes sociais, as notícias falsas e as teorias da conspiração não são as decisões dos usuários humanos, que são protegidas pela liberdade de expressão. São as decisões dos algoritmos corporativos”.
Harari denuncia que o único objetivo das plataformas é capturar a atenção dos usuários, e não fornecer informações úteis. “À medida que as pessoas passam mais tempo no YouTube, no Twitter, no TikTok, as empresas vendem mais anúncios e recolhem mais dados, que podem depois vender a terceiros. Este é o modelo de negócios deles. É assim que ganham dinheiro, por isso têm um grande interesse em capturar a atenção das pessoas e fazê-las ficar mais tempo”, lembra: “Na busca desse objetivo, os algoritmos das empresas descobriram que a maneira mais fácil de capturar a atenção humana e reter mais pessoas na plataforma por mais tempo é pressionar o botão do ódio, ou o botão do medo, ou o botão da raiva na mente, e espalhar deliberadamente notícias falsas e teorias da conspiração que aumentam o ódio, o medo e a raiva”.
Na tese do historiador, o nazismo ou o stalinismo foram redes de colaboração que deram errado. “Eram redes muito poderosas, apoiadas por ideias excepcionalmente equivocadas”, diz em Nexus. O mesmo pensa em relação às redes sociais. A inteligência artificial, baseada na informação, mas não na sabedoria, poderia acabar sendo outro exemplo, embora seja “um tipo de rede totalmente novo”. Harari afirma que um grande número de pessoas acredita que a sua chegada será positiva porque implica um grande avanço tecnológico, esquecendo que o telégrafo também o era na época e depois da sua invenção ocorreram duas guerras mundiais.
Além da potencial perda de privacidade, o historiador cita dois problemas que podem derivar diretamente do surgimento da IA. Um deles é o geopolítico, “sobrecarregando os conflitos humanos” ao adicionar uma corrida global para controlar esta tecnologia. O segundo é o da caixa preta: “Poderíamos ver-nos envoltos por uma rede de algoritmos incompreensíveis cuja função seria gerir as nossas vidas, remodelar as nossas políticas e as nossas culturas; e inclusive redesenhar nosso corpo e nossa mente”.
“A IA não é uma ferramenta, é um agente independente”, afirma: “É a primeira tecnologia da história que pode tomar decisões e gerar novas ideias por si só (…). As facas e as bombas não decidem por si mesmas quem matar. Pelo contrário, a IA pode processar informações por conta própria e, portanto, substituir os humanos na tomada de decisões”.
Para falar dos perigos desta nova tecnologia, o pensador cita ações como a carta assinada por empresários da IA como Sam Altman ou Elon Musk que alertava que uma IA descontrolada poderia ser tão destrutiva quanto uma “bomba nuclear”. Esta carta foi chamada de “catastrófica” por outros especialistas, que não descartaram o fato de a “moratória” ao desenvolvimento proposta por Altman ou Musk ter na verdade a intenção de torpedear a concorrência.
Harari também comenta uma pesquisa da qual participaram 2.778 pesquisadores, na qual “mais de um terço estimou em pelo menos 10% a probabilidade de que a IA avançada levará a resultados tão ruins quanto a extinção humana”. A mesma pesquisa indica que mais de 60% dos entrevistados dificilmente viam qualquer chance de isso acontecer. Até a ONU apontou que um dos maiores problemas quando se trata de regular esta tecnologia é a “dificuldade em decifrar a publicidade da realidade”.
Com mais de 45 milhões de cópias vendidas dos dois livros, Sapiens e Homo Deus têm sido grandes best-sellers. No entanto, são obras que receberam críticas do meio acadêmico. Estas salientam que Harari simplifica muito questões complexas sobre assuntos nos quais não é especialista, como biologia, antropologia ou tecnologia. Atualmente, são muitos os pesquisadores especializados em IA que lembram que “os avanços atuais não nos aproximam de ter uma inteligência artificial semelhante à humana” e que o progresso tecnológico não tem de ser uma linha reta. Embora as inteligências artificiais generativas tenham percorrido um longo caminho nos últimos anos, o consenso científico neste momento é que não serão a base tecnológica de uma IA consciente ou humanóide. “Podem passar 100 anos e o padrão ainda ser essas enormes inteligências artificiais simuladas que em geral não são realmente capazes de compreender nada, como o ChatGPT”, explicou um cientista da computação em entrevista ao elDiario.es.
Embora Harari não fale de uma única IA todo-poderosa, mas da criação de uma rede de inúmeros algoritmos que seriam impossíveis de controlar, um inverno da inteligência artificial (como o que esta tecnologia já passou na segunda metade do século XX, com pouquíssimos avanços) poderia descafeinar boa parte dos alertas que o historiador emite em Nexus. O historiador foi questionado sobre esta questão no seu encontro com jornalistas espanhóis e latino-americanos.
“O que estamos vendo é que os desenvolvimentos mais recentes da IA são essa capacidade de criar histórias, que não existia antes. Se voltarmos alguns anos e olharmos para as redes sociais, as IAs já controlavam a conversa, decidindo o que atraía a atenção, o que era notícia no Facebook ou o que recebia mais tráfego no Twitter. Mas a IA não conseguia criar conteúdo. Não conseguia escrever bons textos. Não conseguia criar música ou imagens. Agora, a nova geração de IA é capaz de fazer isso. E eu sei que muitas pessoas falam que sim, que escrevem textos, mas não são muito bons. Escrevem música, mas não é muito boa. Criam vídeos e imagens, mas têm muitos erros, como pessoas que têm seis dedos em uma mão. Mas entendam que estes são apenas os primeiros passos da revolução da IA. A revolução da IA tem basicamente dez anos. Ainda está dando os primeiros passos de bebê. Ainda não vimos nada. Se pensarmos no desenvolvimento, a evolução da IA é análoga à evolução biológica. Portanto, os atuais sistemas de inteligência artificial são apenas amebas. São muito, muito simples. Demorou bilhões de anos para que as amebas evoluíssem para dinossauros, mamíferos e humanos, porque a evolução orgânica é lenta. Demora bilhões de anos. A evolução digital da IA é milhões de vezes mais rápida. O ChatGPT, a ameba da IA, não levará um bilhão de anos para evoluir até se tornar o dinossauro da IA”, respondeu.
Nexus dedica mais espaço para traçar o contexto histórico de como a humanidade criou redes de cooperação problemáticas ao longo da história e descrever como as atuais estão nos afetando do que para propor soluções. No entanto, o historiador propõe duas formas de corrigir o rumo. Uma é individual, e sugere que cada pessoa estabeleça uma dieta informativa, de forma semelhante a como se estabelece uma dieta nutricional: sendo seletivos com o que consumimos.
A outra estratégia é fortalecer o discurso civil e democrático, especialmente num momento em que este se encontra ameaçado. Harari ressalta que não é possível frear uma tendência tecnológica, mas destaca a importância de instituições como tribunais, universidades e mídia. “A democracia construiu mecanismos para se proteger. Um sistema de freios e contrapesos. Não se trata apenas de eleições. As eleições são um controle muito importante, mas sem o resto dos controles é fácil fraudá-las, como acontece na Venezuela. Você precisa de tribunais independentes e de meios de comunicação independentes que possam expor os erros e potencialmente as mentiras do governo e que este não possa impedi-lo”.
No seu encontro com jornalistas espanhóis e latino-americanos, Harari quis destacar a importância da imprensa nessa equação. “O papel dos meios de comunicação social é essencial”, enfatizou: “A democracia é uma conversa. É isto que a democracia é. Ditadura é ditar. Uma pessoa dita tudo. Democracia é quando as pessoas se levantam, falam e tentam chegar a uma decisão comum. Agora, até o surgimento da imprensa moderna, a democracia, pelo menos a democracia em grande escala, era simplesmente impossível. Não temos nenhum exemplo de democracia em grande escala no mundo antigo. Os únicos exemplos que conhecemos são cidades-estado de pequeno porte, como a antiga Atenas, ou mesmo tribos menores. Porque para conversar, as pessoas precisam falar. Agora, numa cidade pequena, todos podiam se reunir na praça principal e conversar. Mas num reino grande, era tecnicamente impossível manter uma conversa entre milhões de pessoas”.
Portanto, prossegue Harari, “a democracia era simplesmente impossível. E não conhecemos nenhuma democracia em grande escala no mundo pré-moderno. Uma conversa em larga escala só se tornou possível com o surgimento da tecnologia da informação moderna, e a primeira tecnologia da informação moderna e crucial foi o jornal. Nossos jornais começaram a surgir nos séculos XVII e XVIII em lugares como a Holanda e a Inglaterra, onde também se vê a ascensão das primeiras democracias em grande escala da história. Depois tivemos mais tecnologias da informação como o telégrafo, o rádio e a televisão. Esta é a base da democracia em grande escala, porque, mais uma vez, sem estas tecnologias não há conversa. E sem conversa não há democracia”.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Yuval Noah Harari: “Existe um potencial totalitário na inteligência artificial nunca antes visto” - Instituto Humanitas Unisinos - IHU
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
O historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS
