07 Agosto 2024
“Para os economistas da inovação, a inteligência artificial constitui uma tecnologia de alcance geral que, assim como a máquina a vapor no início da revolução industrial, a eletricidade no final do século XIX e a computação após a Segunda Guerra Mundial, invade todos os setores da economia e da sociedade. Mas a história nunca se repete da mesma maneira. A IA distingue-se radicalmente de todas as outras tecnologias de alcance geral pelo fato de os seus desenvolvimentos se situarem desde o início a nível internacional e serem, portanto, outros tantos trunfos no jogo de rivalidades econômicas e geopolíticas entre algumas grandes potências”. A reflexão é de Claude Serfati, em artigo publicado originalmente pela revista La Vie de la Recherche Scientifique e reproduzido por Viento Sur, 31-07-2024. A tradução é do Cepat.
Claude Serfati é economista e autor do livro Un monde en guerre, Textuel, 2024.
Este artigo, que trata da penetração da inteligência artificial (IA) no campo militar, é composto de duas partes distintas. A primeira parte descreve os efeitos das mudanças radicais introduzidas pelas tecnologias nos equipamentos militares e nas estratégias de defesa. A segunda parte centra-se na França, uma das principais potências militares do mundo. É de se recear que os planos do governo em matéria de IA acentuem a centralidade da dimensão militar nas políticas públicas francesas.
De maneira muito aproximada, as empresas de consultoria estimam, em 2023, o mercado mundial da IA militar em 8 bilhões de dólares e o mercado mundial do comércio em cerca de 800 bilhões de dólares. Estes números indicam para onde vai a dinâmica econômica, mas não dizem absolutamente nada sobre a grande importância da IA no surgimento de novas formas de conflito. Desde o final da década de 2010 – a China em 2017, os EUA em 2018, a França em 2019 –, os exércitos das grandes potências passaram a levar a IA a sério. Este processo ocorre no contexto do final da década de 2000, marcado por um acirramento da concorrência econômica e uma intensificação das rivalidades geopolíticas. É o que chamo de momento 2008, essa convergência única de temporalidades de uma crise financeira transformada numa longa depressão, da degradação climática acelerada, do declínio dos Estados Unidos e da irrupção dos povos (as Primaveras Árabes).
Não existe uma definição única de inteligência artificial (IA) e a razão pode dever-se tanto à dificuldade de compreensão dos seus contornos disciplinares, como a uma campanha midiática utilizada para justificar todas as suas consequências, incluindo aquelas que são desastrosas para a sociedade (1). Para os economistas da inovação, a IA constitui uma tecnologia de alcance geral que, assim como a máquina a vapor no início da revolução industrial, a eletricidade no final do século XIX e a computação após a Segunda Guerra Mundial, invade todos os setores da economia e da sociedade. Mas a história nunca se repete da mesma maneira. A IA distingue-se radicalmente de todas as outras tecnologias de alcance geral pelo fato de os seus desenvolvimentos se situarem desde o início a nível internacional e serem, portanto, outros tantos trunfos no jogo de rivalidades econômicas e geopolíticas entre algumas grandes potências.
Além disso, ao contrário do que permitiria a sua utilização socialmente controlada para satisfazer as necessidades da humanidade, as tecnologias baseadas na IA transformam simultaneamente os dados numa fonte de acumulação de benefícios, reforçam o poder dos Estados em questões de segurança e introduzem novas formas de guerra graças ao seu uso pelos exércitos. Nos planos de segurança nacional das grandes potências, a IA reduz ainda mais as diferenças entre as dimensões militar e civil nos conflitos. Em suma, oferece a possibilidade de ser utilizada contra pessoas em todas as áreas da sua vida em sociedade, enquanto trabalhadoras, cidadãos e civis ameaçados pelas guerras.
Portanto, este artigo aborda apenas uma única dimensão da onipresença dos poderes da IA. Além disso, deixa de lado os poderosos efeitos da regeneração do “complexo militar-industrial estadunidense” operados pela importância crescente das GAFAM na indústria da defesa, um processo que é hoje amplamente subestimado (2).
A integração da IA nas doutrinas e equipamentos militares marca mais uma etapa na longa história da utilização de tecnologias para fins de destruição. Assim, o surgimento de sistemas de armas autônomas é frequentemente descrito como a terceira revolução militar, depois da invenção da pólvora e da bomba atômica. Na verdade, oferece aos militares inúmeras oportunidades situadas em quatro níveis principais.
Em primeiro lugar, ela melhora a eficácia dos sistemas de armas existentes e torna mais confiáveis determinadas tarefas executadas pelas tropas. As tecnologias de interface cérebro-computador, utilizadas em hospitais para regenerar ou restaurar funções alteradas, já são utilizadas para fins militares ou de segurança nacional, tanto para aumentar as capacidades físicas dos soldados, como para pacificação, interrogatório ou tortura (por indução de dor sensorial sem lesão física) (3). Além disso, graças à IA, muitas funções, tais como atividades de espionagem, vigilância e logística, operações cibernéticas e operações de comando ou controle podem ou serão em breve centralizadas numa única fonte (4) (ver abaixo em itálico).
Ataques cirúrgicos e assassinatos seletivos: a grande mentira
Como disse um oficial militar israelense à revista de pesquisa israelense +972, a utilização da IA possibilita a produção de 100 novos alvos por dia, em comparação com 50 por ano no passado. A suposta informação sugere que, assim como no caso dos ataques cirúrgicos contra o Iraque em 2003, se consegue tal precisão na seleção dos alvos que, segundo os responsáveis, o exército israelense é “o mais humano do mundo”. No entanto, o seu porta-voz afirmou que os bombardeios em Gaza “não são realizados com base na sua precisão, mas na extensão dos danos causados”. Em suma, a “intensificação algorítmica da destruição” é o resultado da combinação de decisões tomadas pelos militares e dos pontos fracos da aprendizagem máquina, uma vez que os militares não conseguem alimentar a grande quantidade de dados que estas máquinas necessitam.
Em segundo lugar, a IA pode ser associada a outras tecnologias emergentes, como a computação quântica, a impressão 3D ou mísseis hipersônicos que voam a mais de 6.000 km por hora e 30.000 metros acima do nível do mar. Os modelos que estão em fase de desenvolvimento são lançados a partir de mísseis balísticos que podem atingir a velocidade de 25 mil km/h. A fase atual, da aliança entre IA e armas nucleares, é objeto de duros debates entre os especialistas, alguns dos quais estão preocupados: “estamos perto de um momento Oppenheimer”. Na verdade, os Estados Unidos têm um bombardeiro (o B-21) que transporta armas nucleares e é capaz de realizar missões não tripuladas, e a Rússia está desenvolvendo um veículo subaquático não tripulado destinado a realizar contra-ataques nucleares de retaliação (5).
Estas realidades superam o compromisso dos países de “manter um ser humano na cadeia” e de exercer um controle político permanente sobre as armas nucleares, conforme exigido pelas Nações Unidas e pela declaração feita em fevereiro de 2023 na cúpula de Haia por 57 países (mas rejeitada pela Rússia e por Israel) a favor do “uso responsável” da IA no campo de batalha. Por seu lado, o governo francês pressionou para que o domínio militar fosse deixado de fora do Regulamento da UE sobre Inteligência Artificial (6).
Finalmente, e este é um dos seus principais objetivos, certos tipos de armas criadas por IA incorporam a tomada de decisão autônoma do sistema de armas (7). Um importante avanço nesse campo é representado pela criação do Sistema de Armas Letais Autônomas (SALA), que atua no solo (os robôs assassinos), no ar (drones) e no mar (por exemplo, um navio caça-minas que detecta e os destrói). São sistemas de armas que, uma vez ativados, selecionam e atacam alvos sem a intervenção de qualquer operador (8). Estas armas, que dispõem de funções alegremente chamadas de disparar e esquecer (fire and forget), possuem diversas características: a capacidade de matar, a capacidade de funcionar sem necessidade de intervenção ou controle humano, a capacidade de aprender através de interações com o ambiente que lhes permitem expandir suas funcionalidades e, finalmente, a impossibilidade de interromper uma operação depois de iniciada.
A IA, graças à aprendizagem de máquina, multiplica o seu potencial devastador, uma vez que os algoritmos que integra produzem resultados parcialmente não dominados, uma forma de imprevisibilidade intrínseca (imprevisibility by design) no que diz respeito à decisão e quando atacar, bem como às consequências resultantes (9). Assim, uma batalha entre sistemas de armas autônomas concorrentes poderia degenerar antes que a intervenção militar pudesse evitar uma catástrofe (10). Principalmente quando o Ministério da Defesa dos EUA é a favor de um sistema descentralizado que aumente a distância entre o objeto (a arma) e o sujeito (o operador) (11).
O risco de perder o controle humano sobre as armas parece assumido: o Pentágono realiza testes para limitar tanto quanto possível a intervenção humana nos procedimentos de decisão de alto nível para armas que utilizam inteligência artificial (12). Deve-se acrescentar que a ampla divulgação da pesquisa em IA em dezenas de países facilita a proliferação de sistemas de armas autônomas e, portanto, agrava os riscos de concatenação descontrolada e da sua utilização preventiva com consequências fatais (13).
Dois documentos definem a estratégia do governo francês no domínio da IA. O relatório apresentado em março de 2018 por Cédric Villani, “Dar sentido à inteligência artificial. Uma estratégia nacional e europeia”, foi elaborado após ouvir 420 especialistas. O seu autor recorda: “Hoje, porém, a esmagadora maioria das transferências circula do mundo civil para o mundo militar, particularmente no domínio da inteligência artificial” (14). O mesmo é confirmado por um responsável da DGA (Direção Geral de Armamento), o braço industrial do Ministério da Defesa, que afirma que a “mudança para a esfera civil do centro de gravidade do desenvolvimento das tecnologias, especialmente digitais, exige a ampliação de uma estratégia destinada a melhorar a sua detecção e captação em benefício de fins de inovação em defesa” (15).
O relatório publicado pelo Ministério da Defesa em 2019, que constitui o outro documento fundamental sobre IA, também confirma que um aspecto comum das estratégias nacionais é que “os tijolos tecnológicos também devem se espalhar […] da esfera civil para a esfera militar” (16).
Estas são as declarações. A realidade, porém, é muito diferente e o predomínio militar na atividade de inovação não cessa. Como se pode ver na Tabela 1, na fase inicial (2018-2022) das medidas governamentais, a Defesa recebeu quase o mesmo montante de financiamento para a IA que para a pesquisa, e mais do que a economia francesa como um todo. Ou seja, a Defesa (que representa cerca de 2% do PIB) recebeu o mesmo valor que todo o resto da indústria e os serviços.
Esta sobre-representação do mundo militar vai aumentar ainda mais. O Plano França 2030 prevê a concessão de 2,2 bilhões de euros ao investimento em IA, a fim de apoiar a formação, promover a difusão de tecnologias de IA e apoiar algumas áreas prioritárias. Agora, este montante é pouco superior ao atribuído pela lei de programação militar 2024-2030 à IA de defesa (2 bilhões de euros). Além disso, o governo criou, em maio de 2024, a Agência Ministerial de Inteligência Artificial da Defesa.
Onde serão utilizados os 2 bilhões de euros militares dedicados à IA? Principalmente no que a DGA chama de “captação de inovação” (17) para adaptar as pesquisas realizadas em laboratórios civis públicos e privados às necessidades operacionais, avançar na autonomia de decisão dos robôs, criação os cockpits de voo do futuro, etc. “Com efeito, o setor da defesa utiliza dados de dispositivos militares específicos de captação (radares, sonares, sistemas optrônicos, equipamentos de guerra eletrônica), aos quais o setor civil mal tem acesso” (18). O mito do papel motor da pesquisa militar desvanece-se um pouco mais.
A defesa não apenas é privilegiada na atribuição de créditos públicos para a IA, como também está melhor organizada. O ministro dos Exércitos (Sébastien Lecornu) anunciou que utiliza como “modelo o que foi feito com o átomo na década de 1960” para pilotar o salto tecnológico representado pela inteligência artificial. Esta hipercentralização exercida pela instituição militar contrasta com a dispersão dos projetos civis financiados com dinheiro público, que transitam por numerosos canais criados pelas instituições de políticas públicas.
Que consequências isso tem? Num relatório publicado em 2023, o Tribunal de Contas observa a “ausência de governança ou de coordenação do conjunto de aplicações da IA e das infraestruturas críticas associadas” que ameaça provocar “diferenças de prioridades, dificuldades na difusão de inovações, bem como uma redução na eficiência dos investimentos que podem ser realizados de forma dispersa” (19). Esta confirmação de um entrelaçamento e desta opacidade de dispendiosos dispositivos públicos criados não é fruto do acaso, mas uma característica estrutural do comportamento da Alta Administração que caracteriza toda a política industrial (20).
O tropismo militar das políticas públicas em IA enfraquece a pesquisa científica pública e a indústria civil. Na verdade, o desempenho científico da França no domínio da IA, medido pelo número de publicações citadas (21), piorou. A França passou do 5º lugar em 2003 para o 8º em 2013 e o 12º em 2023, enquanto na Europa ocupa agora o quinto lugar, atrás do Reino Unido, Alemanha, Itália e Espanha. Está prestes a ser ultrapassado pelo Irã (dados: Scimago). Este é um dos efeitos do empobrecimento da pesquisa científica pública civil promovida há anos e que a excelência da pesquisa em matemática não consegue parar. Além disso, continuando nesta área, a situação vai de mal a pior. A França retrocedeu, passando do 4º lugar mundial em 2013 para o 7º lugar em 2023, e já foi ultrapassada pela Índia, Reino Unido e Itália.
A indústria civil sofre um revés muito mais devastador. É verdade que a qualidade da pesquisa científica pública e o apoio de uma boa soma de dinheiro público colocada na mesa pelo Banco Público de Investimento (BPI) permitiram que algumas pessoas criassem novas start-ups, algumas das quais são líderes mundiais (Mistral AI é a mais citada). Por outro lado, os grandes grupos empresariais, apesar de receberem boa parte do financiamento público em I&D, apresentam resultados lamentáveis. A Thales, que produz armas de alta tecnologia, é a empresa que mais patentes de IA solicita na França, mas, inserida no setor da defesa, não está entre as 20 empresas europeias que mais solicitam patentes de IA (fonte: Questel).
Na verdade, seis décadas de política tecnológica dominada por grandes programas militares e estratégicos marginalizaram vários setores industriais decisivos (eletrônica, computação, máquinas-ferramentas). Os campeões nacionais abundam no cemitério das falências: Alcatel, Alstom Énergie, Areva (renomeada Orano em 2018). O caso mais recente é o da ATOS, para a qual volta a fluir dinheiro público, como aconteceu nas décadas de 1960, 1970 e 1980 a favor da Bull, que a ATOS, aliás, recomprou. Com efeito, é necessário – e custe o que custar – salvar a sua subsidiária, que produz supercomputadores que constituem um elo fundamental na dissuasão nuclear francesa e que são essenciais para a gestão de determinados sistemas de armas.
Assim, ao participar da corrida da militarização da inteligência artificial, o governo francês maltrata a pesquisa científica pública e degrada ainda mais o sistema industrial.
1. Parnas, David Lorge, “The Real Risks of Artificial Intelligence”, Communications of the ACM, Vol. 60, 10, outubro de 2017.
2. Estas importantes mudanças são descritas em Serfati, Claude, Un monde en guerre, Textuel, abril de 2024, no capítulo titulado “L’intelligence artificielle, au cœur de l’ordre militaro-sécuritaire”.
3. Munyon, Charles N., “Neuroethics of Non-primary Brain Computer Interface: Focus on Potential Military Applications”, Frontiers in neurosciences, 2018, 12.
4. Hoadley, Daniel S.; Lucas, Nathan J., “Artificial Intelligence and National Security”, Congressionnal Research Service, 26-04-2018.
5. Depp, Michael; Scharre, Paul, “Artificial Intelligence and Nuclear Stability”, 16-01-2024,
6. Santopinto, Federico, “La UE, la inteligencia artificial militar y las armas letales autónomas”, IRIS, abril de 2024.
7. The Mitre Corporation, “Perspectives on Research in Artificial Intelligence and Artificial General Intelligence Relevant to DOD”, Office of the Assistant Secretary of Defense for Research and Engineering, janeiro de 2017. Ver também The Militarization Artificial Intelligence.
8. Hoadley, Daniel S.; Lucas, Nathan J., op. cit.
9. Boulanin, Vincent; Davison, Neil; Goussac, Netta; Moa, Carisson Peldán, “Limits on Autonomy in Weapon Systems”, SIPRI e ICRC (International Committee of the Red Cross - Comitê Internacional da Cruz Vermelha), junho de 2020, pp. 8 e 13.
10 Boucher, Philip, “Artificial intelligence: How does it work, why does it matter, and what can we do about it?”, European Parliament Research Service (EPRS), junho de 2020, p. 25.
11. Breaking Defense, 9-02-2023.
12. Monomita Chakraborty, 18-05-2021.
13. Michael C. Horowitz, “When speed kills: Lethal autonomous weapon systems, deterrence and stability”, Journal of Strategic Studies, 2019, 42:6.
14. Villani, Cédric, “Les enjeux de l’IA pour la Défense de demain”, Revue de défense nationale, 2019/5 (n.° 820), p. 23.
15. Chiva, Emmanuel, “L’intélligence artificielle: un moteur de l’innovation de défense française”, Revue de défense nationale, 2019/5 (n.° 820), p. 36.
16. Ministério da Defesa, “L’intélligence artificielle au service de la défense”, Rapport de la Task Force IA, setembro de 2019.
17. Documento de referência da orientação da inovação de defesa (DrOID) 2022, p. 33.
18. Documento de referência da orientação da inovação de defesa (DrOID) 2022, p. 15.
19. Tribunal de Contas, “La stratégie nationale de recherche en intélligence artificielle”, abril de 2023, p. 36.
20. Ver Sauviat, Catherine; Serfati, Claude, “Un bilan des politiques industrielles en France – Focus sur deux secteurs, l’industrie pharmaceutique et les télécoms et sur l’industrie 4.0”, Informe de la Agencia de Objetivos CFE-CGC n.° 2021-2022, dezembro de 2023.
21. Não quero aqui entrar no debate sobre as limitações dos indicadores bibliométricos.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
A perigosa aliança da inteligência artificial com a tecnologia militar. Artigo de Claude Serfati - Instituto Humanitas Unisinos - IHU
