13 Mai 2023
"O desenvolvimento da Inteligência Artificial levará ao fim do capitalismo tal como o conhecemos", escreve Slavoj Žižek, filósofo, psicanalista e professor da European Graduate School e do Instituto de Sociologia da Universidade de Liublian, em artigo publicado por Project Syndicate e reproduzido por A Terra é Redonda, 27-03-2023. A tradução é de Daniel Pavan.
A carta aberta do instituto The Future of Life exigindo uma pausa cautelar de seis meses no desenvolvimento de inteligências artificiais já foi assinada por milhares de figuras de alto escalão, incluindo Elon Musk. Os signatários temem que os laboratórios de IA estejam “presos em uma corrida descontrolada” pelo desenvolvimento e pela implementação de sistemas cada vez mais poderosos que ninguém – inclusive seus criadores – pode compreender, prever ou controlar.
O que explica a explosão de pânico dentre certo setor das elites? O controle e a regulação estão, obviamente, no centro da história. Mas por parte de quem? Durante a pausa proposta de um semestre, quando a humanidade poderá fazer um balanço dos riscos, quem a defenderá? Uma vez que os laboratórios de Inteligência Artificial na China, na Índia e na Rússia continuarão trabalhando (possivelmente em segredo), um debate público global acerca do problema é inconcebível.
Apesar disso, devemos considerar o que está em jogo aqui. Em seu livro de 2015, Homo Deus, o historiador Yuval Harari previu que a consequência mais provável da Inteligência Artificial seria uma divisão radical – muito mais forte do que a divisão de classes – no interior da sociedade humana. Muito em breve, a biotecnologia e os algoritmos computacionais unirão forças na produção de “corpos, cérebros e mentes,” resultando em um aumento na lacuna “entre aqueles que sabem como desenvolver corpos e cérebros e aqueles que não sabem”. Neste mundo, “aqueles que tomaram o trem do progresso irão adquirir capacidades divinas de criação e destruição, enquanto os que foram deixados para trás serão condenados à extinção”.
O pânico que a carta sobre a Inteligência Artificial reflete parte do medo de que até mesmo aqueles que estão no “trem do progresso” serão incapazes de conduzi-lo. Nossos mestres feudais digitais contemporâneos estão assustados. O que eles querem, no entanto, não é o debate público, mas um acordo entre governos e empresas de tecnologia para que o poder seja mantido em seu lugar.
A expansão massiva das capacidades da Inteligência Artificial é uma ameaça séria àqueles no poder – incluindo os que desenvolvem, possuem e controlam a Inteligência Artificial. Ela aponta para nada menos do que o fim do capitalismo tal como o conhecemos, que se manifesta no prospecto de um sistema de Inteligência Artificial auto reprodutor que requererá cada vez menos inputs dos agentes humanos (as negociações algorítmicas no mercado são apenas o primeiro passo nesta direção). A escolha que nos resta será entre uma nova forma de comunismo e o caos incontrolável.
Os novos chatbots oferecerão a muitas pessoas solitárias (ou não tão solitárias) infindáveis noites de conversa amigável sobre filmes, livros, culinária ou política. Reaproveitando uma velha metáfora minha, o que as pessoas terão é a versão Inteligência Artificial do café descafeinado, do refrigerante sem açúcar: um vizinho amigável sem segredos obscuros, um Outro que simplesmente se acomodará às suas necessidades. Há uma estrutura de negação fetichista aqui: “Eu sei muito bem que não estou falando com uma pessoa real, mas sinto que estou – e sem qualquer um dos riscos que isso implica!”
De qualquer forma, um exame cuidadoso da carta sobre as Inteligência Artificial mostra que estamos diante de mais uma tentativa de proibir o impossível. Trata-se um velho paradoxo: é impossível que nós, enquanto humanos, participemos em um futuro pós-humano, logo, devemos proibir seu desenvolvimento. Para nos orientarmos diante destas tecnologias, devemos fazer a velha pergunta de Lênin: Liberdade para quem fazer o quê? Em qual sentido éramos livres antes? Já não éramos muito mais controlados do que percebíamos? Em vez de reclamar da ameaça à nossa liberdade e dignidade no futuro, talvez devamos antes considerar o que liberdade significa agora. Enquanto não fizermos isso, agiremos como histéricos que, de acordo com o psicanalista francês Jacques Lacan, estão desesperados em busca de um mestre, mas um que possamos dominar.
O futurista Ray Kurzweil prevê que, devido à natureza exponencial do progresso tecnológico, em breve teremos de lidar com máquinas “espirituais” que não apenas demonstrarão todos os sinais de autoconsciência, mas irão superar, e muito, a inteligência humana. Todavia, não devemos confundir este posicionamento “pós-humano” com a preocupação paradigmaticamente moderna de conquistar um domínio tecnológico total sobre a natureza. O que estamos testemunhando, em vez disso, é uma inversão dialética deste processo.
As ciências “pós-humanas” de hoje não estão mais atrás de dominação. Sua crença é a surpresa: que tipo de propriedades emergentes, contingentes e não planejadas os modelos de Inteligência Artificial “caixa-preta” poderão adquirir? Ninguém sabe, e aqui está a emoção – ou, na verdade, a banalidade – de todo este empreendimento.
Assim sendo, no início deste século, o filósofo-engenheiro francês Jean-Pierre Dupuy detectou nas novas robótica, genética, nanotecnologia, vida artificial e Inteligência Artificial uma inversão estranha da arrogância antropocêntrica tradicional que a tecnologia permite: “Como podemos explicar que a ciência se tornou uma atividade tão ‘arriscada’ que, de acordo com alguns cientistas de alto nível, ela é, hoje, a principal ameaça à sobrevivência da humanidade? Alguns filósofos respondem a esta pergunta dizendo que o sonho de Descartes – ‘tornar-se o mestre e possuidor da natureza’ – deu errado, e que devemos urgentemente retornar ao ‘domínio do domínio’. Eles não entenderam nada. Não veem que a tecnologia que se conforma em nosso horizonte através da ‘convergência’ de todas as disciplinas visa justamente o não domínio. O engenheiro de amanhã não será um aprendiz de feiticeiro por sua negligência ou ignorância, mas por escolha”.
A humanidade está criando seu próprio deus ou diabo. Enquanto o resultado não puder ser previsto, uma coisa é certa. Se algo semelhante a essa “pós-humanidade” emerge enquanto um fato coletivo, nossa visão de mundo perderá todos os três de seus sujeitos definidores e sobrepostos: humanidade, natureza e divindade. Nossa identidade enquanto humanos pode apenas existir sobre o pano de fundo de uma natureza impenetrável, mas se a vida se torna algo que pode ser completamente manipulado pela tecnologia, ela perderá seu caráter “natural”. Uma existência plenamente controlada é uma existência desprovida de sentido, sem mencionar o acaso e o encanto.
O mesmo, é claro, vale para qualquer sentido de divino. A experiência humana de “deus” tem sentido apenas a partir do ponto de vista da finitude e da mortalidade humana. Quando nos transformarmos em homo deus e criarmos propriedades que parecem ser “supernaturais” a partir de nosso velho ponto de vista humano, os “deuses”, tal como os conhecemos, desaparecerão. A questão é o que restará, se é que algo restará. Iremos venerar as inteligências artificias que criamos?
Temos todas as razões para temer que as visões tecno-gnósticas de um futuro pós-humano sejam fantasias ideológicas ofuscando o abismo que nos aguarda. Não é preciso dizer que será preciso muito mais do que uma pausa de seis meses para garantir que os humanos não se tornem irrelevantes, e suas vidas desprovidas de sentido, em um futuro não tão distante.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
O deserto pós-humano. Artigo de Slavoj Žižek - Instituto Humanitas Unisinos - IHU
Publicamos aqui a introdução ao novo livro do filósofo esloveno Slavoj Zizek, intitulado Gli intelletuali e la passione per la [...]
LER MAIS"Todos os nossos problemas, da crise ao ambiente, são problemas do viver juntos: nesse sentido, eu falo de comunismo". O filósof[...]
LER MAIS
