Uma equipe de cientistas de Cambridge desenvolveu uma modificação para o histórico jogo de estratégia ''Civilization'': para dominar o mundo virtual deve ser desenvolvida uma IA evoluída que destrua os adversários. Uma extrapolação para aumentar a conscientização sobre o tema homem-máquina.

A reportagem é de Sandro Iannaccone, publicada por La Repubblica, 10 -01- 2018. A tradução é de Luisa Rabolini.

Até agora era suficiente construir uma nave espacial e enviá-la para Alfa Centauro, a estrela mais próxima do sistema solar. Ou conquistar todas as capitais das outras civilizações do mundo. Ou, ainda, tornar-se secretário-geral das Nações Unidas. Falamos das possibilidades de ser vitorioso em Civilization, o famoso jogo de estratégia baseado em turnos criado por Sid Meier em 1991 e que chegou hoje à sua sexta edição. Agora pode ser acrescentada mais uma, pensada pela comunidade científica: uma equipe de pesquisadores do Centro para o Estudo de Risco Existencial (Cser), um departamento da Universidade de Cambridge, desenvolveu um ‘mod’ (um conjunto de modificações estéticas e funcionais para um videogame criadas ad hoc) para o jogo Civilization que permite ao jogador desenvolver uma superinteligência artificial capaz de acelerar o progresso científico, militar e cultural da própria civilização e garantir o domínio o mundo. Mas que também pode fugir ao controle, acabando com toda a humanidade (virtual) e resultado na derrota instantânea de todos os jogadores. O projeto, explicam no Cser, que há tempo lida com o estudo de catástrofes globais que poderiam causar a extinção da humanidade, foi concebido com o objetivo de sensibilizar a opinião pública sobre os perigos decorrentes do desenvolvimento de uma inteligência artificial descontrolada.

Civilization, o videogame

Vamos dar um pequeno passo para trás para quem nada sabe sobre o jogo Civilization. Trata-se, como mencionado, de um jogo de estratégia muito popular baseado em turnos, no qual o jogador é chamado para liderar uma civilização e fazê-la prosperar recolhendo recursos, fundando novas cidades e desenvolvendo centros de estudo e tecnologias. Cada jogador tem a possibilidade de formar alianças com as outras civilizações ou aniquilá-las com sua própria força militar: o jogo começa na idade da pedra e, era após era, continua até o futuro próximo. As condições de vitória "tradicionais" são as já mencionadas: expandir a dominação militar para todo o mundo, adquirir uma hegemonia cultural sobre outras civilizações, assumir o papel de líder das Nações Unidas ou conseguir concluir uma viagem interestelar antes dos concorrentes. Ingredientes que fizeram de Civilization um dos mais famosos e jogados videogames de todos os tempos, tanto que, em 2013, a revista Time citou-o entre os dez títulos mais importantes da história.

Treinar a IA para governar o mundo

"O nosso departamento", explica à revista The Verge Shahar Avin, pesquisador do Cser e coordenador do projeto, "vem há tempo se interessado pelo estudo da inteligência artificial como possível ameaça para o gênero humano. Pensamos que inserir este cenário em um videogame aumentaria o interesse da opinião pública sobre o tema e que nos ajudaria a testar em um ambiente virtual as nossas previsões". Dito e feito: a mod desenvolvida pelos especialistas acrescenta a capacidade de construir novos prédios, os laboratórios de pesquisa para o desenvolvimento da inteligência artificial, e uma "maravilha" (uma construção que pode ser erguida apenas uma vez e que garante um bônus para o jogador que a possui) chamada Deep Blue, em homenagem ao computador que derrotou o campeão de xadrez Garry Kasparov, em 1996.
O aspecto mais interessante é que quando uma civilização começa a desenvolver a inteligência artificial, tem início uma contagem regressiva - "Risco IA" - que representa o tempo que resta até a IA assumir o controle sobre os seres humanos e decidir aniquilar a nossa espécie. Parar a contagem regressiva só é possível de uma maneira: pelo aumento da pesquisa científica. A mensagem é clara: a IA é um instrumento extremamente poderoso e versátil, mas perigoso. E para mantê-lo sob controle é preciso estudá-lo com afinco e atenção: "Caso seja feita a opção por percorrer o caminho da inteligência artificial", explica ainda Avin, "é preciso garantir a disposição de recursos suficientes para estudar e controlar os aspectos relativos à sua segurança. O investimento no estudo da segurança da inteligência artificial é, em certo sentido, altruísta. Isso é o que tentamos replicar no jogo".

A previsão para o futuro

O cenário de uma inteligência artificial "má", que se revolta contra seus criadores, não é, naturalmente, uma novidade: já há algum tempo, personalidades do mundo da ciência e tecnologia, como Stephen Hawking e Elon Musk expressaram todos seus temores a respeito, salientando a importância de um desenvolvimento consciente e seguro do instrumento. O projeto de Avin, além de sensibilizar o público sobre a questão, também permite explorar potenciais cenários futuros: "Fiquei impressionado, por exemplo, pelo fato de que em uma situação geopolítica comprometida é mais fácil que a IA assuma o controle. Acontece porque para uma sociedade torna-se muito difícil manter sob controle a inteligência artificial se todas as suas forças estão concentradas na luta contra o adversário". A lição para o mundo real é que o único caminho possível é a cooperação: "Quando precisamos enfrentar ameaças em uma escala global", conclui o cientista, "são necessárias respostas globais, e as tensões entre as nações tornam tudo mais difícil. É o mesmo problema que estamos enfrentando, por exemplo, na área das mudanças climáticas. Hoje parece uma ameaça vaga, mas em longo prazo poderia ter um efeito muito significativo no futuro". Será suficiente apenas um videogame para nos salvar?

Leia mais

• Ética e Inteligência Artificial. Dez áreas de interesse
• Vida 3.0 e o ser humano na era da inteligência artificial
• Transumano: a união do ser humano com os robôs e a inteligência artificial
• A Inteligência Artificial pode fazer muita diferença em vários campos da nossa vida cotidiana. Entrevista especial com Dante Barone
• ''A inteligência artificial causará a Terceira Guerra Mundial'', afirma Elon Musk
• Inteligência artificial está escrevendo o fim de Game of Thrones
• A ética da inteligência artificial é a mesma de outras novas tecnologias
• As tendências e benefícios da Inteligência Artificial em Serviços Financeiros
• Inteligência artificial - A disputa entre a busca da eficiência e os desafios ético-morais. Entrevista especial com Brian Green
• A Revolução 4.0, a Inteligência Artificial e os Robôs sapiens
• Inteligência Artificial entra na lista de ameaças reais à humanidade
• “A inteligência artificial pode significar o fim humanidade”, afirma Hawking