Personalidades como Bill Gates, Stephen Hawking e Elon Musk já expressaram o temor de a inteligência artificial superar a humana e, assim, colocar em risco a nossa civilização. A Universidade de Stanford, na Califórnia, lançou um projeto de longo prazo para avaliar os efeitos dessas tecnologias em nossa sociedade. Agora, um estudo intitulado "12 riscos globais que representam ameaça à civilização humana", divulgado este mês, lista as chamadas superinteligências como um risco real para a nossa existência no planeta.

A reportagem foi publicada pelo jornal O Globo, 24-02-2015.

A pesquisa foi elaborada pela Fundação Global Challenges, em parceria com o Instituto Futuro da Humanidade, da Universidade de Oxford, no Reino Unido. O trabalho é considerado o primeiro a selecionar os principais perigos para a civilização humana. Entre os riscos atuais, estão as mudanças climáticas extremas, a guerra nuclear, as catástrofes ecológicas, pandemias e crises sócio-econômicos com potencial de disseminação global.

Na categoria "riscos exógenos", estão um improvável impacto de asteroide e uma eventual erupção de um supervulcão. Já entre os "riscos emergentes", são listadas a biologia sintética, a nanotecnologia, a inteligência artificial e um item chamado de "riscos incertos". Há uma última categoria chamada de "risco de políticas globais", na qual está relacionada apenas as "falhas de governança futura".

— Esta revisão acadêmica foi elaborada a fim de dar suporte em conhecimento aos formuladores de políticas sobre a existência e alcance desses riscos globais, e fornecer um caminho para ações imediatas em escala internacional para prevenir ou limitar os seus efeitos — explica Dennis Pamlin, consultor da fundação e coautor do relatório.

A Inteligência Artificial é apontada como uma das ameaças menos compreendidas, pois existem incertezas consideráveis sobre previsões de quanto tempo levará para o desenvolvimento de superinteligências e quando elas aprenderão a se desenvolver sozinhas. Os riscos mais imediatos se referem à substituição de humanos no trabalho, mas elas podem avançar tanto a ponto de saírem do controle.

“Tais inteligências extremas podem não ser fáceis de controlar, e poderiam agir de forma a aumentar suas próprias inteligências e a maximizar a aquisição de recursos para suas motivações iniciais. E se essas motivações não detalharem a sobrevivência e o valor da humanidade em detalhes exaustivos, a inteligência pode ser levada a construir um mundo sem humanos”, descreve o estudo.

Apesar de a Inteligência Artificial ser colocada como uma séria ameaça à nossa sobrevivência, existem outros desafios mais urgentes. Mudanças Climáticas Extremas, Guerra Nuclear, Catástrofe Ecológica, Pandemia e Colapso do Sistema Global são citados como os riscos atuais.

Desafios Atuais

Os impactos da mudança climática serão mais intensos em países pobres, que podem se tornar completamente inabitáveis dependendo da intensidade das alterações no clima. Entre os cenários possíveis, o relatório aponta mortes em massa, fome, colapso social e migração em massa.

“Combinado com choques na agricultura e nas indústrias dependentes da biosfera em países mais desenvolvidos, isso poderia levar a um conflito global e, possivelmente, ao colapso da civilização”, alerta o estudo.

A possibilidade de uma guerra total entre Rússia e EUA diminuiu consideravelmente, mas o potencial para um conflito nuclear deliberado ou acidental ainda existe. Segundo estimativas, as chances de uma guerra nuclear acontecer nos próximos cem anos é de aproximadamente 10%. O impacto vai depender das dimensões do conflito, que podem gerar desde impactos locais ao inverno nuclear.

O pior dos cenários é que as explosões causem incêndios tão grandes que a fumaça alcance a estratosfera, o que reduziria drasticamente a temperatura do planeta e afetaria a produção global de alimentos.

Pandemia e Colapso Ecológico

O relatório afirma que “existem argumentos para suspeitar que uma epidemia de alto impacto é mais provável que se imagina”. Todas as características de uma doença devastadora já existem na natureza: essencialmente incurável (ebola); quase sempre fatal (raiva); extremamente infecciosa (gripe); e com longo período de incubação (HIV).

“Caso um patógeno surja combinando de alguma forma essas características, o número de mortos será extremo”, alerta o estudo.

As politicas de saneamento e a medicina avançaram muito nos últimos anos, o que diminui os riscos, mas os modelos modernos de transporte e o adensamento populacional nas metrópoles permitem que infecções se espalhem de forma mais rápida que no passado.

O ritmo acelerado de degradação do meio ambiente pode levar o mundo a um colapso ecológico. O maior problema, aponta o relatório, é que diferente de outros tempos, hoje, os danos são generalizados, o que coloca o mundo inteiro em risco.

O estudo também alerta sobre a possibilidade de colapso do sistema global. Em um mundo interconectado, formado por partes independentes que se inter-relacionam, é possível que componentes que funcionam bem sozinhos, se tornem vulneráveis quando conectados ao sistema, com potencial para afetar o todo e outros sistemas correlatos.

Esse fenômeno já foi visto em crises econômicas do passado, como a de 2008, que surgiu no mercado imobiliário americano e afetou praticamente todo o mundo.

Riscos Exógenos 

A humanidade também enfrenta ameaças que independem da ação humana e com poucas possibilidades de intervenção. Um impacto de um imenso asteroide, com 5 quilômetros ou mais de tamanho, acontece a cada vinte milhões de anos e liberaria energia cem mil vezes maior que a bomba atômica. Imediatamente, o impacto destruiria área do tamanho da Holanda e a poeira afetaria o clima de maneira que a produção de alimentos seria afetada.

Existem discussões sobre técnicas para desviar a trajetória de um asteroide a fim de salvar o planeta num possível caso, mas também é preciso elaborar medidas de evacuação que possam reduzir os danos causados pelo impacto.

Outra ameaça à humanidade vem do subterrâneo. Super vulcões, capazes de produzir erupções com volume ejetado superior a mil quilômetros cúbicos — milhares de vezes superior a erupções normais — podem afetar o clima drasticamente, causando efeito similar ao do inverno nuclear.

E casos passados servem de exemplo para a análise. Em 1991, a erupção do monte Pinatubo causou redução global das temperaturas em 0,5 grau Celsius por três anos, enquanto a erupção do Toba, há 70 mil anos, esfriou o planeta pelo período de dois séculos.

Desafios Emergentes

Ao lado da Inteligência Artificial, o relatório aponta a biologia sintética como ameaça emergente à humanidade. O rápido avanço de tecnologias médicas beneficiam a sociedade, mas trazem riscos de pandemias. Um dos maiores problemas relacionados à biologia sintética é o possível desenvolvimento de patógenos para guerras biológicas, que tenham humanos ou componentes cruciais do ecossistema como alvo.

Também é possível que produtos biológicos sintéticos, com fins benéficos, se integrem à biosfera e causem danos inesperados.

A nanotecnologia, processo de produção com precisão em nível atômico ou molecular, pode levar à criação de uma infinidade de novos produtos, inclusive novos e mais letais armamentos. O mau uso da nanotecnologia na medicina também é uma ameaça.

Nessa categoria, o estudo lista os “riscos desconhecidos”, um amálgama de questões que, isoladas, parecem inofensivas, mas combinadas representam uma ameaça não insignificante.

Questões Políticas

“Existem duas divisões nos desastres de governança”, diz o relatório, “falhando na resolução de problemas possíveis de serem resolvidos, e ativamente causando os problemas”. Um exemplo da primeira seria o fracasso no alívio da pobreza absoluta, enquanto da segunda seria a instalação de um sistema totalitário.

A questão para o futuro é que a tecnologia, somada a mudanças políticas e sociais, vão permitir a construção de novos modelos de governança, que podem ser muito piores ou muito melhores.