"O que até agora era ficção científica, porém, está se tornando realidade. Os esforços ativos com os computadores e a química visam não apenas a ajudar ou mesmo a melhorar os humanos, mas, em última análise, substituir-nos por algo que os entusiastas insistem que será melhor".
A opinião é de Scott Hurd, vice-presidente de desenvolvimento de liderança da Catholic Charities USA e presidente do conselho do Catholic Climate Covenant. O artigo foi publicado por National Catholic Reporter, 10-05-2024. A tradução é de Moisés Sbardelotto.
“Nós podemos reconstruí-lo. Temos a capacidade técnica!”
As crianças dos anos 1970 ouviam essas palavras na abertura de cada episódio de “O Homem de Seis Milhões de Dólares”: uma série sobre um astronauta chamado Steve, que, após um trágico acidente, foi reconstruído com membros e implantes de energia nuclear biônica, e tinha força, velocidade e visão sobre-humanas. Ele se tornou um agente secreto do governo, e os bandidos sempre eram pegos.
As crianças de hoje não conhecem “O Homem de Seis Milhões de Dólares”, mas conhecem outro super-herói com poderes extraordinários graças à ciência: o Capitão América, da Marvel, um soldado da Segunda Guerra Mundial, também chamado Steve, que, blindado com um escudo indestrutível de “vibrânio”, foi transformado em uma máquina de combate a partir de um “soro de supersoldado” experimental.
Personagens com poder tecnológico, como o Capitão América e o Homem de Seis Milhões de Dólares, são produtos da ficção científica há décadas. Nem todos se chamam Steve e nem sempre são os mocinhos. Assisti “Doctor Who” o suficiente para saber que os ciborgues não são nossos amigos.
O que até agora era ficção científica, porém, está se tornando realidade. Os esforços ativos com os computadores e a química visam não apenas a ajudar ou mesmo a melhorar os humanos, mas, em última análise, substituir-nos por algo que os entusiastas insistem que será melhor. O movimento é chamado de “transumanismo” e, segundo o filósofo político da Universidade Johns Hopkins, Francis Fukuyama, é a “ideia mais perigosa do mundo”.
Um comentarista preocupado observou que “um futuro em que a fronteira entre a vida concebida pelo carbono e a vida desenvolvida pelo silício se torna cada vez mais permeável está se aproximando a uma velocidade vertiginosa” e “afetará profundamente o futuro da humanidade, se tivermos algum, aliás”. Esse aviso não foi emitido no lançamento de um filme da ComicCon, em uma Convenção Internacional de Conspiradores de Chapéus de Papel-Alumínio ou em um canto escuro do Reddit.
A afirmação foi feita por um conferencista de destaque em um simpósio sobre inteligência artificial organizado pelo então Pontifício Conselho para a Cultura do Vaticano. Essas palavras, compreensivelmente, perturbaram o público. E o fato de lê-las abriu meus olhos para uma ameaça da qual eu estava completamente inconsciente.
Alarmado, comecei a aprender sobre as visões distópicas de titãs da tecnologia como o cofundador do Google, Larry Page, que menospreza como “especistas” aqueles que temem o deslocamento da humanidade por robôs, e o CEO da OpenAI (ChatGPT), Sam Altman, que prevê uma inevitável “fusão” de humanos e máquinas. Ele diz: “Nossos telefones nos controlam e nos dizem o que fazer e quando; os feeds das mídias sociais determinam como nos sentimos; as ferramentas de busca decidem o que pensamos”.
A Neuralink, empresa do antigo parceiro de negócios de Altman, Elon Musk, colocou com sucesso (de acordo com Musk) um implante diretamente em um cérebro humano “para redefinir os limites da capacidade humana”. E Musk chamou seu filho mais novo (e inicialmente secreto) de “Techno Mechanicus”.
Depois, temos Peter Thiel, mentor bilionário de Altman e Mark Zuckerberg, do Meta/Facebook, ex-megadoador de Trump, preparador do Juízo Final, escarnecedor do voto feminino e perturbadoramente um dos principais investidores do Hallow, o popular aplicativo de oração católica. Thiel insiste que a democracia e a liberdade são incompatíveis e não se preocupa em mitigar a pobreza atual. O que ele está interessado mesmo é em fazer avançar a agenda transumanista, insistindo que a morte é simplesmente uma doença a ser superada pela tecnologia. Não importa a insistência de São Paulo de que Jesus já destruiu a morte, o “inimigo final” (1Coríntios 15,26). Thiel tem outros planos.
Recentemente, Thiel ajudou a estabelecer uma Olimpíada alternativa que permite o doping por atletas e o uso de “recursos ergogênicos”. Por que os competidores deveriam ser limitados pela mera força e habilidade humanas, quando isso pode ser superado com a tecnologia? Como o “combate” será um concurso de destaque nesses “Enhanced Games” [Jogos Aprimorados], podemos antecipar lutas entre os aspirantes a Capitães América e os Homens de Seis Milhões de Dólares, replicando um brinquedo popular da minha infância – os robôs Rock 'Em Sock 'Em – em que os carrancudos e musculosos robôs batem uns nos outros até que a cabeça caia. Entretenimento vulgar no mesmo nível da recentemente aguardada “luta de bilionários” entre Musk e Zuckerberg.
Thiel poderia argumentar que as novas tecnologias já confundem a linha entre o ser humano e a máquina, e nos transformam em ecossistemas computacionais: óculos ou fones de ouvido que distorcem nossa visão, scanners que decodificam nossos pensamentos e monitoram nossos sentimentos, óculos “inteligentes” que sussurram em nossos ouvidos e fones de ouvido que captam nossas ondas cerebrais. Diante disso e do que está no horizonte, um cartunista do Washington Post desenhou a progressão de computadores em nossas mesas para computadores em nossas mãos, para computadores em nossas cabeças e para computadores em nossos cérebros, ameaçando, como o Papa Francisco adverte na Fratelli tutti, nos fazer “prisioneiros da virtualidade” que perderam “o gosto e o sabor da realidade” [n 33].
Nada do que eu disse pretende diminuir os avanços que dispositivos de assistência tiveram na mudança de vida de pessoas com deficiência, como os usados por Stephen Hawking, o famoso cosmólogo, físico, autor de best-sellers e membro por muito tempo da Pontifícia Academia de Ciências do Vaticano. Sua cadeira de rodas mecanizada e seus computadores interativos permitiram que ele continuasse suas atividades científicas enquanto vivia com ELA (Esclerose Lateral Amiotrófica). Ele certamente apreciou os benefícios da tecnologia avançada. Ao mesmo tempo, alertou que uma nova tecnologia – a IA – poderia “significar o fim da raça humana”.
Este fim trágico pode acontecer, como Francisco adverte na Laudato si’, encíclica sobre o cuidado da casa comum, por meio de uma “exaltação tecnocrática (...) que nega qualquer valor peculiar ao ser humano” [n. 118]. Pois, se o Homo sapiens não for entendido como criado à imagem de Deus e possuidor de uma dignidade inerente, mas rejeitado simplesmente como um trampolim de transição para algo melhor e mais poderoso, então os seres humanos não deveriam ter mais direitos do que um papagaio, como sugere o pensamento transumanista. E, em uma luta por recursos finitos entre os humanos e aquele que os sucede, os humanos provavelmente perderiam. Afinal, trata-se a sobrevivência do mais apto.
Mas, embora a extinção humana possa ser a maior ameaça representada pelo transumanismo, uma ameaça mais imediata é que suas invenções subjacentes exacerbem as divisões existentes entre os “ricos” e os “pobres”.
“Como seria bom”, sonha Francisco na Fratelli tutti, “se, ao aumento das inovações científicas e tecnológicas, correspondesse também uma equidade e uma inclusão social cada vez maior” [n. 31]. Isso seria realmente maravilhoso. Mas as tecnologias avançadas são caras, e os ricos correrão para adotá-las para manter seu poder ou simplesmente por medo de ficarem para trás em sociedades brutalmente competitivas. Afinal, como lamenta Francisco sobre “uma economia de exclusão e desigualdade”: “Essa economia mata”.
O investidor transumanista e megatecnológico Marc Andreessen rotula a “responsabilidade social” e a “ética tecnológica” como “inimigos” em seu assustador “Techno-Optimist Manifesto” [Manifesto tecno-otimista]. E se tal pensamento prevalecer, poderemos em breve nos ver divididos entre “humanos” e “humanos plus”: um pouco como as diferenças entre serviços premium de streaming e os de TV a cabo. Este último ainda está em vigor, mas está rapidamente se tornando obsoleto. E, embora os pais ricos de hoje privilegiem seus filhos com vidas organizadas, aulas particulares, escolas exclusivas, ortodontia cosmética e agora até Ozempic, tais vantagens no futuro seriam asseguradas através de apêndices robóticos, melhoramentos genéticos e assistentes pessoais de IA integrados no corpo – fazendo os debates de hoje sobre igualdade e inclusão parecerem pitorescos.
Aquelas pessoas que não têm acesso a tais tecnologias – ou que se recusam a adotá-las – resignar-se-ão a limpar as casas daqueles que o fizerem. Mas espere um pouco: os Jetsons não tinham uma empregada robô? Até mesmo o papel de Astro, o cachorro de verdade da família, pode estar ameaçado. Existem muitos cães-robôs disponíveis hoje, incluindo um com lança-chamas. Uma empresa fabrica gatos robóticos, disponíveis para compra em sites de farmácias, e apregoa a “revolucionária tecnologia vibrapurr” [vibra-ronrom, em tradução livre] de seu produto. No entanto, a minha irreverência ignora o fato de que tais felinos-robôs podem beneficiar os idosos com declínio cognitivo através do entretenimento e do conforto. Benefícios reais para pessoas reais com necessidades reais.
O que sugere questões éticas fundamentais: quando é que as tecnologias de apoio ultrapassam os limites e se tornam outra coisa? Quando é que nos tornamos simplesmente apêndices de máquinas e extensões de sistemas informatizados? O que isso implica sobre a natureza humana, a busca humana, a dignidade humana e o ser criado à imagem de Deus? A nossa fé é encarnacional, e professamos acreditar na “ressurreição do corpo”, mas como a nossa tradição responderá à substituição dos corpos? As “mutilações” corporais têm sido historicamente proibidas, exceto por “razões médicas estritamente terapêuticas”. Mas os implantes voluntários biônicos ou de silicone terapêuticos também seriam ou não? E em que ponto, pergunta Francisco na Laudato si’, a técnica passa a ser “entendida como o recurso principal para interpretar a existência” [n. 110]?
Nos captchas [autenticadores digitais], gosto de clicar na caixa que diz: “Não sou um robô”. Mas chegará o dia em que alguns hesitarão em fazer essa afirmação? Para tomar emprestada uma metáfora depreciativa do irmão da tecnologia para o cérebro humano, meu “computador de carne” dói ao pensar em tudo isso – e isso despedaça o meu coração já pesado. É por isso que me sinto encorajado pelo fato de o Vaticano levar esse assunto a sério, sublinhando a necessidade de regulamentos e de progresso tecnológico que “afirmem o brilho da raça humana”.
O então Pontifício Conselho para a Cultura organizou o simpósio de 2021 sobre IA mencionado anteriormente. O agora Dicastério para a Cultura e a Educação criou um departamento de cultura digital. A Pontifícia Academia para a Vida criou a Fundação RenAIssance para financiar a reflexão ética sobre as novas tecnologias e emitiu o seu “Apelo de Roma para uma Ética da Inteligência Artificial”, assinado pelo CEO da Cisco Systems. E no dia 1º de janeiro deste ano, Francisco emitiu sua mensagem para o Dia Mundial da Paz sobre IA e paz, alertando sobre uma “ditadura tecnológica”.
Embora os cientistas da TV que criaram “O Homem de Seis Milhões de Dólares” insistam: “Temos a capacidade técnica!”, ainda não vimos um homem ou uma mulher verdadeiramente biônicos. Mas há transumanistas com muito dinheiro (ou grandes participações em criptomoedas) que estão trabalhando duro nisso.
Será que conseguirão fazer avançar aquilo que, nas palavras de Fukuyama, é “a ideia mais perigosa do mundo?” Eu não tenho certeza disso. Eles continuarão tentando? Podemos apostar.
Será que a Igreja – e, na verdade, todas as pessoas de boa vontade – precisa antecipar isto agora, por meio do ensino moral e social? Sem dúvida. E rápido.