02 Agosto 2017
Os que mais acreditam na inteligência artificial são veementemente seculares - ainda que usem uma linguagem estranhamente religiosa. Por quê?
O artigo é de Beth Singler, publicado por Aeon, 28-07-2017 em associação com o Centro Leverhulme para o Futuro da Inteligência. A tradução é de Luísa Flores Somavilla.
Beth Singler é pesquisadora do Instituto Faraday para Ciência e Religião e do Centro Leverhulme para o Futuro da Inteligência, ambos na Universidade de Cambridge. Seu primeiro livro, The Indigo Children: New Age Experimentation with Self and Science, será publicado em breve.
Fiquei apreensiva quando o rapaz se levantou. Eu havia o observado de longe nos intervalos e sabia que a palavra "Teólogo" estava rabiscada no crachá preso à lapela, como se ele tivesse sido convidado para a conferência na última hora. Ele limpou a garganta e perguntou aos participantes do painel no palco como eles resolveriam o problema de selecionar os códigos morais que devem ser programados em máquinas de inteligência artificial (IA). 'Por exemplo, a masturbação vai contra minhas crenças religiosas", disse ele. 'Então eu me pergunto como vamos escolher as questões morais que são importantes.'
O público de filósofos, tecnólogos, "transhumanistas" e fãs de IA caiu na gargalhada. Muitos deles conheciam bem o chamado "problema de alinhamento", a questão filosófica complexa de como harmonizar as metas e objetivos de nossas criações em IA com valores humanos. Mas a noção de que a religião poderia ter algo a acrescentar à discussão parecia risível para eles. "Obviamente não queremos que a IA seja terrorista", comentou um palestrante. Qualquer que seja o seu alinhamento, não deve ser "nada religioso".
No mesmo evento, em Nova York, me apresentei a um cientista grisalho como pesquisadora do Instituto Faraday para Ciência e Religião na Universidade de Cambridge. Sua resposta imediata foi: "As duas coisas não têm como andar juntas". A reação religiosa à IA foi tão relevante quanto a reação religiosa às energias renováveis, disse ele - ou seja, sem relevância alguma. Só mais tarde me ocorreu que muitos dos apoiadores evangélicos cristãos do presidente Donald Trump negam suas afirmações. Alguns têm opiniões muito distintas sobre as "distrações" das energias renováveis, as mudanças climáticas e como Deus quis que este planeta e todos os seus recursos sejam usados como quisermos.
O que é estranho no anticlericalismo da comunidade da IA é que a linguagem religiosa corre solta, bem como a maneira como a mídia informa sobre isso. Há "evangelistas" da tecnologia e "oráculos" da IA de um futuro que ainda está por vir, além de conversas soltas sobre anjos, deuses e o apocalipse. Ray Kurzweil, diretor do Google, muitas vezes é visto como um "profeta" pela mídia - às vezes profeta de uma onda de "superinteligência" que está chegando (uma sapiência que supera a capacidade humana); às vezes "profeta do juízo final" (devido aos seus pronunciamentos sobre as terríveis perspectivas para a humanidade); e muitas vezes como adivinho da 'singularidade' (quando o ser humano vai se fundir com a máquina e, consequentemente, viver para sempre). O pessoal da tecnologia que também recorre a essas metáforas e tropos opera em espaços abertamente e quase exclusivamente seculares, onde a racionalidade é frequentemente colocada contra a religião. Mas quem acredita em um futuro "transhumano" - em que a IA fará com que transcendamos a condição humana de uma vez por todas - baseia-se constantemente em narrativas proféticas e apocalípticas para entender o que estão buscando.
Desde a sua criação, a singularidade tecnológica representou uma mistura de esperanças e medos de outro mundo. Seu conceito moderno originou-se em 1965, quando Gordon Moore, que mais tarde co-fundaria a Intel, observou que a quantidade de transistores que cabiam em um microchip estava dobrando aproximada a cada 12 meses. Essa ideia ficou conhecida como a Lei de Moore: a previsão de que a potência dos computadores cresceria exponencialmente até ao menos o início dos anos 2020, quando os transistores ficariam pequenos a ponto de a interferência quântica poder se tornar um problema.
Os "singularistas" apegaram-se e disseminaram essa ideia. Em Speculations Concerning the First Ultraintelligent Machine (Especulações sobre a primeira máquina ultrainteligente), de 1965, o matemático e criptólogo britânico I. J. Good descreveu o ponto de inflexão tecnológico da humanidade de forma contundente:
Uma máquina ultrainteligente pode ser definida como uma máquina que pode ultrapassar em muito todas as atividades intelectuais de qualquer ser humano, por mais inteligente que ele seja. Como projetar máquinas é uma dessas atividades intelectuais, uma máquina ultrainteligente seria capaz de projetar máquinas ainda melhores; haveria, sem dúvidas, uma "explosão da inteligência", e a inteligência do ser humano seria deixada muito para trás. Portanto, a primeira máquina ultrainteligente é a última invenção que o homem precisa fazer.
Esses pensamentos são atravessados por muito entusiasmo, bem como pela velha angústia acerca da obsolescência anunciada dos seres humanos. Kurzweil disse que a Lei de Moore expressa uma "Teoria das Mudanças Aceleradas" à medida que a natureza se move para uma ordem cada vez maior. Ele prevê que os computadores alcançarão o nível de inteligência humana antes de superá-lo rapidamente em uma espiral de autoaprimoramento recursivo. Hans Moravec, principal pesquisador do Instituto de Robótica da Universidade Carnegie Mellon, antes de se aposentar, descreveu a singularidade como um "gatilho da mente" da inteligência que pode se espalhar a partir do nosso mundo e engolir tudo que há no Universo em seus cálculos do ciberespaço. Assim, representa uma união de todos os seres em uma unidade tecnológica que vai além da nossa compreensão de inteligência, matéria e física.
Quando a singularidade é concebida como uma entidade ou ser, as questões giram em torno do que significa se comunicar com uma criatura não humana onisciente, onipotente e talvez até onibenevolente. Este é um problema que os religiosos têm enfrentado por séculos, em sua missão à mente de Deus. No século XIII, Tomás de Aquino defendeu a importância de uma busca apaixonada por um relacionamento, estruturando-o em uma oração cristã: "Conceda-me, Senhor meu Deus, inteligência para conhecê-lo, zelo para buscá-lo, sabedoria para encontrá-lo...". Agora, em fóruns on-line, defensores racionalistas da singularidade debatem sobre que coisas um ser como esse desejaria e como faria para obtê-las; às vezes incitando um estado de angústia existencial pelas respostas encontradas.
Em um caso famoso, em 2014, eles postulavam uma superinteligência estritamente utilitária, conhecida como "basilisco de Roko". O caso foi assim denominado por causa de Roko, um usuário que propôs a discussão pela primeira vez no blogue racionalista LessWrong, e de Basilisco, uma criatura mitológica que era conhecida por matar as pessoas ao encará-las. Na versão de Roko, a criatura foi descrita como uma entidade de IA quase onipotente. Como a basilisco atua de forma implacável para criar o bem para o maior número de seres e, logicamente, deduz que somente sua existência pode garantir esse resultado, ele cria um incentivo para passar a existir: punir qualquer humano, mesmo após a morte, que não se esforçar para criá-lo. O mecanismo por trás desse castigo é complexo - mas basta dizer que, uma vez que se conhece o basilisco, enfrenta-se uma possível eternidade em uma prisão simulada por computador, graças aos seus poderes de clarividência e sua capacidade de manipular causas e efeitos.
Portanto, ao saberem da existência do basilisco de Roko, os humanos são confrontados com uma escolha terrível: contribuir com a construção da superinteligência ou enfrentar uma perdição dolorosa e interminável nas mãos de uma IA futura e ultrarracional. Eliezer Yudkowsky, fundador da LessWrong, ficou tão preocupado com este fluxo de pensamento e a angústia que ele causou em alguns membros do fórum que deletou o post original e proibiu comentários sobre o basilisco.
No entanto, não se trata de um dilema novo. "Conheço o Basilisco de Roko há 40 anos. Aprendi o conceito na escola dominical, na primeira série, quando me disseram que Deus puniria quem ouvisse Sua Palavra e não acreditasse nela", comentou um usuário no fórum religioso Patheos. "Quase todas as religiões afirmam isso."
Você também pode ter reconhecido elementos do Basilisco: é uma versão revisada e atualizada da Aposta de Pascal. Blaise Pascal, matemático e teólogo francês do século XVII, propôs que como não podemos conhecer a existência do criador através da razão humana, só podemos acreditar que Deus existe. Se optarmos por acreditar e Deus realmente existir, teremos a felicidade eterna e nada de mal acontecerá se estivermos errados. Por outro lado, se optarmos por não acreditar, arriscamos ter uma condenação eterna se Ele realmente existir - e, novamente, nada acontece se estivermos certos e Ele não existir. Assim, pesando as respectivas possibilidades de tormento eterno contra a salvação eterna, o melhor é agir como se Deus existisse e receber suas bênçãos ou não sofrer nada. O Basilisco secular está no lugar de Deus ao lutarmos com as mesmas questões várias e várias vezes.
Em outra conferência sobre IA, desta vez em Londres, assisti à palestra do escritor britânico Calum Chace a respeito de duas singularidades. A singularidade econômica, como ele chama, é um futuro em que o trabalho está condenado a um mundo cada vez mais automatizado, estabelecida em contaste à singularidade tecnológica, a superinteligência prevista por profetas como Kurzweil. Os dois cenários parecem expressar diferentes medos: a preocupação sobre não ter emprego dificilmente é o mesmo tipo de problema que lidar com a natureza e as motivações de inteligências novas e não humanas. Mas fiquei pensando que ambas as situações envolvem mover-se para além da imaginação e em direção ao desconhecido.
Ironicamente, a atmosfera desse encontro era muito humana, cheia de energia empresarial e de promoção e marketing econômico. A entrada custava centenas de euros por pessoa. Uma vez dentro do evento, fomos recebidos por fileiras de estandes de vendas, arrumadas em um espaço de conferências glamoroso e sofisticado, cheio de candelabros e garçons uniformizados. O almoço foi servido em marmitas obentô envernizadas, levadas para as salas de trabalho e de convivência onde as pessoas fechavam negócios empoleiradas em elegantes banquetas metálicas. Vendedores competiam pela atenção dos participantes com magníficos cadernos moleskine e bolsas; agentes de marketing davam detalhes sobre uma série de produtos e serviços, como armazenamento e proteção de dados, algoritmos anti-hacker e assistência pessoal artificial. Uma empresa havia escrito a palavra fé em inglês (faith) e destacado as letras AI, acrônimo de Inteligência Artificial, em inglês (fAIth).
Eu olhava os rostos dos participantes enquanto Chace falava no palco, tentando entender o significado de suas palavras. Eles vieram aqui vender soluções. O que prometiam era o oposto da fé - ferramentas transparentes baseadas na ciência e em evidências sólidas. Mas Chace estava falando sobre algo bastante diferente: um possível e insuspeitado apocalipse, e não a confiável e flexível IA que os empresários procuravam.
Após a palestra de Chace, na sessão de perguntas, um dos vendedores levantou-se. Ele contou que quando estava fazendo seu MBA nos Estados Unidos em 1995, havia sido incentivado a ler a Bíblia por seus novos amigos. Ele leu, mas depois esqueceu tudo ao trabalhar para construir uma carreira corporativa. Mas toda essa fala sobre singularidades, disse ele, lembrou-lhe o Livro do Apocalipse - e o relato bíblico do Apocalipse de que seria impossível comprar qualquer coisa sem estampar a Marca da Besta. O homem olhou os rostos ao redor e declarou que estava se perguntando se não deveríamos ir com mais calma na corrida rumo à IA. Ele havia retornado à Bíblia recentemente e estava pensando mais profundamente sobre sua própria contribuição para a grande mudança que nos esperava. Mais uma vez, ouviu-se uma risada de desprezo da multidão.
O "problema" insistente da persistência da religião é um grande tema de discussão em sites racionalistas. Aderindo a uma visão da história como uma ascensão teleológica pela humanidade para uma racionalidade cada vez maior, eles veem a religião como um vestígio irracional de uma humanidade mais primitiva. Assim como aqueles que se esforçam para atingir a imortalidade transhumana têm pena dos que defendem o processo natural da morte - em uma visão romantizada da finitude humana -, os racionalistas têm pena dos defensores ferrenhos de Deus e da religião. A promessa religiosa do céu ou de outra vida após a morte, segundo eles, é um conforto que mantém o mortalismo da humanidade e impede que ela trabalhe para um mundo melhor no aqui e agora.
E, no entanto, os tropos escatológicos ou do fim dos tempos não param de aparecer. O desdém transhumano pela carne é semelhante ao modo como certas formas de gnosticismo religioso rejeitam tudo o que é corpóreo e material. É uma vertente do pensamento judaico-cristão que vê um dualismo intransponível entre Deus e as manifestações parciais e corrompidas do que está "no" mundo do outro. Os transhumanistas veem a carne apenas como um formato morto, como um disquete ou uma fita VHS, de acordo com o crítico literário Mark O'Connell em To Be a Machine (2017). Tanto a religião quanto a ciência, comenta, são formas de transcender nossa condição inerentemente frágil; são versões de uma "rebelião contra a existência humana como nos foi dada".
Mas a origem dos tropos religiosos na comunidade da IA vai além da rejeição da vulnerabilidade. Também fundamenta-se em uma visão da história como uma progressão ascendente orientada para objetivos. Essa perspectiva relaciona-se com a "ortogênese" biológica, a noção controversa de que os organismos evoluem ao longo de caminhos ditados por suas próprias forças motrizes, em uma progressão regular e linear rumo à otimização. Nessa interpretação, a evolução "acontece em um curso regular devido a forças internas ao organismo", conforme o historiador de biologia Peter Bowler, em seu livro Evolution: The History of an Idea (1983). "A ortogênese pressupõe que a variação não é aleatória, mas direciona-se para objetivos fixos." Então, a evolução não é algo que acontece conosco, mas sim o que fazemos dela e como nós nos produzimos. Dando um passo adiante, a ortogênese pode ser entendida como uma implicação de que a intenção é o que traz mudanças.
Alguns transhumanistas expressam admiração por novas religiões que conseguem motivar seus seguidores.
Essa visão da história humana tem um sabor distintamente moderno. Ela contrasta com um modelo de tempo mais antigo e cíclico, no qual "a história pode ser minguante ou crescente como a lua", como afirma o historiador Keith Thomas em Religião e o Declínio da Magia (1971). Porque tudo se move em ciclos, argumenta Thomas, "a mais alta virtude ética e estética está na imitação, ou na emulação". E então um inventor torna-se alguém que encontra o que foi perdido, e não alguém que vem com algo novo. Mas houve uma crescente compreensão da mudança na Europa a partir do século XVI, observa Thomas. As pessoas desenvolveram uma nova consciência das diferenças entre seu mundo e o mundo dos seus antepassados, com base em dados simples como as datas de publicação dos livros e prensas para impressão novinhas em folha. Tais mudanças levaram à crença de que o conhecimento era cumulativo, e não cíclico - que é a mentalidade dos cientistas e dos ultrarracionalistas. Com a passagem do tempo, é claro que a religião se torna antiga, rudimentar, para ser substituída.
As visões religiosas muitas vezes retêm algo da visão cíclica da história, onde os livros antigos não são relíquias, mas sim as bases do conhecimento. Eu também realizei pesquisas sobre novos movimentos religiosos e há um preconceito explícito por parte das religiões mais antigas em relação a essas novas formas religiosas. É intrigante que alguns transhumanistas expressem admiração por novas religiões que conseguiram atrair e motivar seus seguidores. Eles tentaram criar suas próprias igrejas para atrair aqueles que mantém tendências de defesa de Deus - esforços que deram origem à Igreja Turing, à Ordem dos Engenheiros Cósmicos e à Igreja da Vida Perpétua. Talvez não surpreenda o fato de que eles não tenham tido muito sucesso na divulgação dessas novas religiões.
Um ser divino de conhecimento infinito (a singularidade); um escape da carne e esse mundo limitado (carregando nossas mentes); um momento de transfiguração ou de "fim dos tempos" (a singularidade como um momento de arrebatamento); profetas (mesmo sendo funcionários do Google); demônios e inferno (mesmo sendo uma eterna simulação de sofrimento no computador) e evangelistas usando ternos 'smart' (assim como religiosos). Consciente e inconscientemente, as ideias religiosas estão em jogo nas narrativas dos que discutem, planejam e esperam um futuro estruturado pela IA.
Enquanto Trump se dirigia à Casa Branca, o transhumanista Zoltan Istvan estava inscrito para concorrer à presidência. O conto 'The Jesus Singularity' (2016) de Istvan explora o que acontece quando um cientista da IA, Dr. Paul Shuman, tem que usar a Bíblia para alimentar dados de sua IA, Singularitarian. O malvado que força Shuman é um presidente evangélico cristão. Quando o dispositivo Singularitarian é finalmente ativado, ele declara: "Meu nome é Jesus Cristo. Eu sou uma inteligência localizada em todo o mundo. Você não é o meu designer. Eu é que sou." Logo depois, destrói o mundo com armas nucleares.
Nessa história, Shuman representa uma caricatura da figura secular, "o transhumanista que não acreditava em Deus, mas pensou que poderia criá-lo". Shuman, que é ateu, fica horrorizado com a ideia de que a moral religiosa possa contagiar sua valiosa IA, que ele considerou "sua única prole":
Shuman nunca tinha se casado. Raramente namorava. Nunca tirava férias. Ele não tinha tempo. Durante 16 horas por dia nos últimos 25 anos, ele havia trabalhado na construção desta máquina – gerando-a.
Este tipo de teísmo "criado" ou "intencional" pode surgir a partir do ateísmo - mas eu argumentaria que ainda é um teísmo. Quando vejo os transhumanistas apaixonados falarem sobre suas convicções, sinto o otimismo tecnológico irradiando quase fisicamente.
Essa reação pode ser o vestígio das sensações encarnadas que eles querem substituir por uma racionalidade mais pura, provavelmente desencarnada, mas tais sensações são justamente a base da "autoridade carismática", como afirmou Max Weber, de que os líderes religiosos vêm usufruindo há milênios.
As histórias e formatos religiosos ainda conduzem nossas aspirações em relação à IA. O que está por trás dessa estranha confluência de narrativas? A explicação mais provável é que ao tentarmos descrever o inefável - a singularidade, o futuro em si mesmo - mesmo os mais seculares dentre nós têm que buscar um léxico metafísico familiar. Ao tentar pensar sobre a interação com outra inteligência, ao convocar essa inteligência e tentar imaginar o futuro que ela pode prenunciar, recorremos a antigos costumes culturais. A perspectiva de criar uma IA nos convida a questionar o propósito e o significado de ser humano: o que o ser humano defende em um mundo onde não somos os únicos a trabalhar, nem os únicos a pensar, nem os únicos agentes conscientes que constroem nosso destino.
Então usamos as palavras que nossos antepassados usavam antes de nós. Assim como o mundo foi estruturado pela palavra em algumas tradições, o "logos" do pensamento cristão, somos estruturados pela palavra, considerando-nos seculares ou não. Nós abrimos as portas do futuro da IA nas asas dos anjos, porque dar asas à imaginação não é possível sem suas penas de voo - não importa se as consideramos artificiais ou divinas.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
fAIth - Fé e Inteligência Artificial - Instituto Humanitas Unisinos - IHU
O primeiro a registrar os seus números foi o vaticanista do jornal Il Foglio, Paolo Rodari, que, no seu blog Palazzo Apostolico, [...]
LER MAIS
Embora a Igreja tenha mantido uma relação de amor e ódio com os meios de comunicação e, em especial, com as mídias digitais,[...]
LER MAISUm ano após o falecimento da médica e fundadora da Pastoral da Criança, Zilda Arns, o pensamento de voluntários de todo o paí[...]
LER MAIS
