As agências de espionagem de todo o mundo têm grandes esperanças pela inteligência artificial. Mas essas não são as primeiras tentativas que elas fazem nesse sentido. Vamos dar uma olhada, estimulados por uma reportagem da The Economist, sobre como a inteligência artificial está mudando o mundo da inteligência global.

O comentário é de Paolo Benanti, teólogo e frei franciscano da Terceira Ordem Regular, professor da Pontifícia Universidade Gregoriana, em Roma, e acadêmico da Pontifícia Academia para a Vida. Em português, é autor de “Oráculos: Entre ética e governança dos algoritmos” (Ed. Unisinos, 2020). O artigo foi publicado por seu blog, 12-03-2021. A tradução é de Moisés Sbardelotto.

Eis o artigo.

Quando se trata de usar a inteligência artificial, as agências de espionagem estão envolvidas nisso há mais tempo do que a maioria das outras. Na Guerra Fria, a National Security Agency (NSA) dos Estados Unidos e o Government Communications Headquarters (GCHQ) da Grã-Bretanha exploraram pela primeira vez o uso da inteligência artificial para ajudar a transcrever e traduzir os enormes volumes de grampos telefônicos soviéticos que eles começaram a coletar nos anos 1960 e 1970.

No entanto, a tecnologia não estava madura. Um ex-oficial de inteligência europeu disse que seu serviço não usava transcrição ou tradução automática no Afeganistão nos anos 2000, confiando em falantes nativos, em vez disso.

Agora, os espiões esperam poder fazer melhor. As tendências que tornaram a inteligência artificial um negócio atraente para as empresas – mais dados, algoritmos melhores e mais poder de processamento para fazer tudo vibrar – estão dando grandes ideias também às agências de espionagem.

No dia 24 de fevereiro, o GCHQ publicou um artigo sobre como a inteligência artificial poderia mudar o seu trabalho. A “checagem de fatos assistida por máquina” poderia ajudar a localizar imagens falsas, verificar desinformação em fontes confiáveis e identificar os robôs das mídias sociais. A inteligência artificial poderia bloquear ataques cibernéticos “analisando padrões de atividade em redes e dispositivos” e combater o crime organizado, identificando cadeias suspeitas de transações financeiras.

Esse tipo de coisas já é um clichê. A Nuclear Threat Initiative, uma ONG estadunidense, demonstrou recentemente que a aplicação de aprendizado de máquina a dados comerciais disponíveis publicamente poderia identificar empresas e organizações anteriormente desconhecidas suspeitas de envolvimento no comércio ilícito de armas nucleares. Mas as agências de espionagem não se limitam a dados publicamente disponíveis.

Alguns esperam que, auxiliados pela sua capacidade de espionar informações privadas, tais aplicações modestas possam abrir o caminho para um rolo compressor alimentado pela inteligência artificial. “A inteligência artificial revolucionará a prática da inteligência”, dizia um relatório publicado no dia 1º de março pela Comissão sobre Inteligência Artificial da National Security Commission dos EUA, um grupo de estudo poderoso copresidido por Eric Schmidt, ex-presidente executivo da Alphabet, a empresa controladora do Google, e Bob Work, um ex-secretário adjunto de defesa.

O relatório não carece de ambição. Ele diz que, até 2030, cerca de 17 agências de espionagem dos EUA deverão construir uma “arquitetura federada de motores analíticos de aprendizagem contínua”, que analisa tudo, desde a inteligência humana até imagens de satélite para prever ameaças iminentes. A comissão aponta com aprovação para a resposta do Pentágono à Covid-19, que integrou dezenas de conjuntos de dados para identificar surtos de Covid e gerenciar a demanda por suprimentos.

No entanto, o que é possível na saúde pública nem sempre é tão fácil na segurança nacional. As agências de inteligência ocidentais lidar com leis que regem como os dados privados podem ser coletados e usados. Em seu artigo, o GCHQ diz que estará atento ao viés sistêmico, como o fato de o software de reconhecimento de voz ser mais eficaz ou não com alguns grupos do que com outros e transparente sobre as margens de erro e incerteza em seus algoritmos.

Os espiões estadunidenses dizem, de forma mais vaga, que respeitarão “a dignidade, os direitos e as liberdades humanas”. Essas diferenças podem precisar ser resolvidas. Uma sugestão feita por uma força-tarefa recente de ex-espiões estadunidenses em um relatório publicado pelo Centre for Strategic and International Studies (CSIS) de Washington foi de que a aliança de inteligência “Five Eyes” – EUA, Austrália, Grã-Bretanha, Canadá e Nova Zelândia – crie um servidor de nuvem compartilhado para armazenar dados.

Em todo o caso, as restrições enfrentadas pela inteligência artificial nos serviços de inteligência são tanto práticas quanto éticas. O aprendizado de máquina é bom para detectar padrões – como padrões distintos de uso de celulares – mas é ruim para prever o comportamento individual. Isso é especialmente verdade quando os dados são escassos, como no combate ao terrorismo. Modelos de policiamento preditivo podem processar dados de milhares de roubos a cada ano. O terrorismo é muito mais raro.

Essa raridade cria outro problema, familiar aos médicos que pensam em programas de triagem em massa para doenças raras. Qualquer modelo preditivo irá gerar falsos positivos, nos quais pessoas inocentes são apontadas para a investigação. Um design cuidadoso pode reduzir a taxa de falsos positivos. Mas, como a “taxa básica” ainda é baixa – felizmente, há muito poucos terroristas – até mesmo um sistema bem projetado corre o risco de enviar um grande número de espiões para perseguições inúteis.

Mesmo os dados existentes podem não ser adequados. Dados de câmeras de drones, de satélites de reconhecimento e de grampos telefônicos, por exemplo, não são atualmente formatados ou rotulados de forma que sejam úteis para o aprendizado de máquina. Consertar isso é uma “tarefa tediosa, demorada e ainda principalmente humana, exacerbada por padrões de rotulagem diferentes entre e até dentro das agências”, observa o relatório do CSIS. Essa pode não ser exatamente a atividade na qual os aspirantes a espião se inscreveram.

Leia mais

• A enorme transformação da era digital e a correlação que conduz o nosso conhecimento sobre a realidade. Entrevista especial com Paolo Benanti
• Especial | Simpósio Internacional IHU Homo Digitalis. A escalada da algoritmização da vida em tempos de pandemia
• A relação entre o ser humano e a técnica é o alicerce para projetar o futuro civilizatório. Entrevista especial com Dora Kaufman
• Política tecnológica: quando a inteligência artificial revela uma mentalidade colonial. Artigo de Paolo Benanti
• Os monopólios digitais e a espiral da vigilância comercializada. Entrevista especial com Jonas Valente
• Inteligência Artificial no Sul Global. Alguns comentários a Jack Qiu
• “Estaremos cercados por fantasmas que administrarão nossas vidas”. Entrevista com Éric Sadin
• A corrida pela inteligência artificial em 2021: o relatório da Information Technology & Innovation Foundation
• Origem e limites do Capitalismo de Vigilância
• O futuro do Google é também seu passado: colonialismo digital e capitalismo de vigilância