Superinteligência

"Imagine (...) um cérebro conectado a máquinas que fabricam impulsos. Esse cérebro seria incapaz de distinguir a realidade da simulação. O virtual seria real", comenta Marcelo Gleiser, professor de física teórica no Dartmouth College, em artigo publicado Folha de S. Paulo, 28-09-2014.

Eis o artigo.

Comecei a ler o livro "Superintelligence", do filósofo Nick Bostrom, professor na Universidade de Oxford e diretor do Instituto do Futuro da Humanidade. (Isso sim é título!) Bostrom é conhecido pelo seu famoso argumento sobre a possibilidade de que vivemos numa simulação de computador ou, ainda mais dramaticamente, de que somos uma simulação de computador.

Da mesma forma com que, hoje, jogamos videogames nos quais personagens se parecem cada vez mais reais, é possível imaginar um futuro onde computadores serão tão sofisticados que as simulações (os "jogos") serão essencialmente indistinguíveis da realidade. Nesse caso, pergunta Bostrom, como saber se não estamos já numa simulação, desenvolvida por seres muito mais avançados do que nós?

A ideia é popular em filmes de ficção científica, como o famoso "Matrix", com Keanu Reaves no papel de Neo, um redentor da nossa escravidão virtual. O interessante da ideia é que, de fato, nossa percepção da realidade vem de impulsos externos, captados pelos nossos órgãos sensoriais, para então serem integrados pelo cérebro: o que chamamos de realidade, como explico em meu livro "A Ilha do Conhecimento", é a soma total dessa integração. Portanto, se esses impulsos podem ser fabricados artificialmente, podemos "enganar" o cérebro.

Sabemos que isso é possível devido ao efeito do álcool e de outras drogas que podem deformar a percepção do real. Imagine, então, um cérebro conectado a máquinas que fabricam impulsos. Esse cérebro seria incapaz de distinguir a realidade da simulação. O virtual seria real.

Em seu novo livro, que espero resenhar aqui em breve, Bostrom explora um outro cenário, não menos inquietante. Se nossos esforços de criar computadores cada vez mais poderosos continuar --e não há dúvida de que a direção é essa-- poderemos chegar à máquinas superinteligentes, inteligências artificiais com uma capacidade intelectual muito superior à nossa. A questão, portanto, é como se certificar de que elas não serão, também, o nosso fim.

Bostrom dá dois exemplos logo no início do livro. Da mesma forma que o futuro dos gorilas, hoje, depende muito mais da gente do que deles, nosso futuro dependerá dessas máquinas. Continuando com esse exemplo, sabemos das divisões que existem entre a caça predatória, de um lado, e a preservação das espécies, do outro. O que garante que nós não seremos os objetos de caça dessa nova "espécie"?

Num outro exemplo, Bostrom conta a fábula dos tico-ticos que, cansados de fazer seus ninhos, discutem se devem procurar uma coruja para cuidar deles: sendo mais forte, ela faria esses ninhos facilmente; poderia, também, achar comida e proteger o grupo de predadores, como o gato do vizinho. Enquanto a maioria dos passarinhos acha a ideia genial, uma minoria se opõe, dizendo que não sabe como domesticar as corujas e que, antes de trazer uma para o meio deles, seria melhor aprender a domesticá-las.

Mas quem sabe como domesticar uma coruja? Como aprender sem ter uma "em mãos"? A fábula termina incompleta, com os tico-tico procurando um ovo de coruja para criar. Como a dos tico-ticos, nossa fábula também está incompleta. A questão é que fim escolheremos para ela.