24 Julho 2019
"Três expoentes do pensamento conservador revelam, num artigo provocador, seus temores diante da era em que as máquinas poderão pensar por nós. Suas principais preocupações: guerra nuclear e caos nas relações e contatos humanos", escreve Antonio Martins, jornalista, em artigo publicado por Outras Palavras, 22-07-2019.
Quando até os defensores icônicos do capitalismo manifestam incertezas e receios com os rumos do sistema e o futuro do mundo, vale a pena estar muito atento. Henry Kissinger, ex-secretário de Estado dos EUA, Eric Schmidt, ex-executivo-chefe da Google e Alphabet e Daniel Huttenlocher, reitor da área tecnológica da Universidade de Cornell acabam de publicar uma análise sobre as perspectivas e riscos da Inteligência Artificial (IA). Sóbrio, o texto, que estará na edição impressa de agosto da revista The Atlantic (mas já pode ser acessado online) não é alarmista na forma – e não sugere, nem de longe, ação de resistência. Chega a dizer que o advento da IA é “irrefreável” e pode ser “uma das revoluções mais significativas – e de maior alcance – na história da humanidade”. Mas quais os seus sentidos? Ao tentar responder a esta pergunta, os autores não escondem seu temor.
Kissinger, Schmidt e Huttenlocher são claros. O desenvolvimento da IA equivale a “transferência crescente de decisões, de seres humanos para máquinas”. Ao processar um volume de informações imensamente maior que o cérebro humano, os sistemas dotados de Inteligência Artificial podem “descobrir associações entre dados e ações, oferecendo soluções que são, para nós, difíceis ou impossíveis”. O resultado, nas palavras dos próprios autores, é que “este processo cria novas formas de automação e, com o tempo, poderá produzir formas inteiramente novas de pensamento”.
Este passo já foi dado, em domínios aparentemente banais. Computadores programados para jogar xadrez haviam se tornado superiores aos campeões mundiais há vinte anos (vale ler a história dos confrontos Garry Kasparov um passo muito mais espantoso foi dado. Máquinas associadas à Inteligência Artificial foram induzidas a aprender sozinhas a jogar xadrez. Ao invés de orientado por grandes jogadores (como sempre ocorrera antes) seu processo de aprendizado baseou-se em conhecer as regras; e desenvolver, por si, estratégias próprias. O método é rudimentar: tentativa e erro. Mas a capacidade de processar informações, descobrir e desenvolver padrões, é tão colossal que o AlphaZero, programa que realizou a proeza, tornou-se – em apenas 24 horas – capaz de vencer qualquer ser humano quando os mais sofisticados programas para jogar xadrez criados até então[1].
O que acontece quanto ferramentas deste tipo são transportadas de tabuleiros inofensivos para as relações humanas, tão complexas e desiguais? Kissinger, Schmidt e Huttenlocher lembram que algumas aplicações podem, teoricamente, resultar em grandes ganhos – relacionados, por exemplo, à saúde e longevidade. Mas chamam atenção para ao menos duas aplicações em que os desequilíbrios resultantes podem ser catastróficos.
A primeira é a guerra – inclusive nuclear. Um armagedom foi evitado até agora, dizem eles, graças ao princípios do equilíbrio do terror e da dissuasão. As potências atômicas com capacidade de dizimar seus possíveis adversários (e o mundo) hesitam em fazê-lo por saberem que a consequência inevitável será sua própria, e idêntica, devastação. Mas e quando a Inteligência Artificial for aplicada à gestão dos arsenais atômicos? Que inusitadas estratégias – incluindo simulações, chantagens, emboscadas – os sistemas tentarão, reciprocamente, desenvolver para liquidar os do inimigo? Quais as consequências (não para as máquinas, mas para bilhões de humanos e o próprio planeta) de um passo em falso capaz de desencadear a grande avalanche?
A segunda consequência são as relações humanas – em especial a Educação. O advento de assistentes pessoais (como o Alexa e o Google Home) e a popularidade do celular entre as gerações mais jovens permitem antever um futuro, breve e aterrador, em que “a principal fonte de interação e conhecimento não serão os pais, membros da família, amigos ou professores – mas ‘companheiros’ digitais”.
Ocorre que os algoritmos de IA, embora ampliem o repertório de informações, também “estreitam as escolhas e multiplicam o poder de suprimir ideias novas ou desafiadoras”. Podem além disso, admitem os autores, “diminuir a capacidade inquisitiva”, já que a busca de conhecimento será progressivamente transferida para máquinas; abrir possibilidades muito mais vastas para o terrorismo de Estado e de grupos (pense na sabotagem digital das redes de infraestrutura); enfraquecer os sistemas democrático por meio de métodos como os da Cambridge Analytica.
Nos breves parágrafos propositivos do texto, Kissinger, Schimdt e Huttenlocher são muito menos profícuos e instigantes que nos trechos de alerta. Partidários da hegemonia capitalista, eles parecem descrer da possibilidade de ação transformadora sobre o mundo. Falam em trivialidades como “exigir envolvimento humano em ações onde há apostas altas em jogo (como a interpretação de exames médicos); fazer simulações e testes para testar a adequação da IA aos valores humanos; desenvolver um novo campo de escrutínio – a “ética de IA”. Parecem desconsiderar que vivemos sob um sistema em cuja essência estão a disputa, a rivalidade e a violência.
Ainda assim, o texto lança uma provocação perturbadora e indispensável. A Inteligência Artificial é um dos múltiplos campos em que o desenvolvimento das forças produtivas desafiará, muito em breve, relações sociais, comportamentos e visões de mundo consolidadas há séculos (pense também, por exemplo, na edição genética, nas nanotecnolgias, nas armas autônomas). Se o ambiente político e o controle do poder continuarem a se deteriorar, o resultado pode ser a desumanização radical. Reflita sobre isso quando se julgar desanimado pelos reveses da democracia brasileira. O desafio é mais vasto do que, às vezes, supõe nosso vão pessimismo.
Nota:
[1] Em 2015, outro programa – o AlphaGo – tornou-se, pela primeira vez, capaz de vencer seres humanos também no Go, outro jogo de lógica e estratégia, com variáveis e alternativas imensamente superiores às do xadrez.
Embora a Igreja tenha mantido uma relação de amor e ódio com os meios de comunicação e, em especial, com as mídias digitais,[...]
LER MAIS
