“Robôs são e sempre serão extensões técnicas da vontade humana”, afirma o filósofo português
Enquanto o uso da bomba nuclear continua sendo um dos maiores temores da humanidade, tecnologias de ponta, como os drones de guerra com diferentes capacidades letais, estão desencadeando uma nova escalada armamentista. O uso desse tipo de armamento “constitui um novo e aumentado nível de risco global”, alerta Robert Junqueira na entrevista a seguir, concedida por e-mail ao Instituto Humanitas Unisinos – IHU.
A Inteligência Artificial e os drones “multiplicam drasticamente a capacidade da liderança militar obter informações atualizadas sobre as operações em todo o teatro de guerra, o que permite maior celeridade e rigor no acompanhamento e avaliação das forças e posições ocupadas no terreno, com implicações diretas na capacidade para centralizar a tomada de decisões e mobilizar e concentrar meios em áreas decisivas e em tempo útil”, explica ele.
Apesar do alto desenvolvimento tecnológico utilizado nas guerras, “não é a tecnologia que está no epicentro do processo: é o ser humano que reside, em última instância, no coração de tudo isto”, pontua o entrevistado. Para Junqueira, “uma das mais graves implicações” das novas tecnologias de guerra é o “surgimento de um grande ponto de interrogação sobre uma questão tão delicada como a da atribuição de responsabilidades por tragédias decorrentes do uso destas tecnologias”. Sobre este ponto, não são poucas as interrogações que emergem sem respostas claras: De quem é a responsabilidade pela fabricação e pelo uso de tais tecnologias? Quem se responsabiliza pelas vidas ceifadas e cidades destruídas? Qual é a responsabilidade daqueles que apoiam politicamente os países que recorrem ao uso desses artefatos?
Segundo Junqueira, “é intrigante observar que, como registrado na civilização grega, surge atualmente uma tendência para responsabilizar coisas, mas não pessoas. Atribuir responsabilidade a coisas é infinitamente mais disparatado do que responsabilizar um cão por atacar uma pessoa na rua”. E acrescenta: “À humanidade deve caber, debaixo do sol, o monopólio da responsabilidade”.
Robert Junqueira (Foto: Universidade de Coimbra)
Robert Junqueira é pesquisador do Instituto de Estudos Filosóficos da Faculdade de Letras da Universidade de Coimbra e Coordenador Executivo do Gabinete de Investigação e Carreiras Científicas do Centro de Investigação em Justiça e Governação da Escola de Direito da Universidade do Minho. É Editor-Chefe e um dos fundadores da Studia Poinsotiana, além de membro do Comité Científico do Programa Internacional de Investigação e Educação CHAOS (Complex Human Adaptive Organizations and Systems) do Departamento de Filosofia, Ciências Sociais, Humanidades e Educação da Universidade de Perúgia.
IHU – O uso de drones representa um novo paradigma de risco global?
Robert Junqueira – Estamos falando de uma tecnologia disruptiva e versátil com um vasto leque de aplicações. Estas máquinas inovadoras estão tendo um impacto transformador em vários setores e as esferas de defesa e de segurança estão entre eles.
Há uma grande variedade de drones. Entre os que aplicam força letal, há drones reutilizáveis concebidos para multiplicar a sua capacidade destrutiva à medida que são utilizados e há modelos de utilização única, conhecidos como “suicidas”; os maiores podem transportar armamento pesado e são capazes de derrubar alvos de grande resistência e dimensão, ao passo que os modelos mais pequenos estão concebidos para saturar sistemas de defesa ou atacar alvos menos robustos, como corpos humanos ou pequenas estruturas, produzindo um efeito bastante devastador por meio de um impacto altamente preciso; há drones que permitem arrasar uma casa e drones que servem para assassinar os seus habitantes pela janela sem mais danos; em enxame, eles já têm proporcionado o aterrorizante poder de ceifar incontáveis vidas e assolar cidades inteiras.
Em alguns aspetos, o mundo tornou-se mais perigoso com a utilização de drones. A popularização de drones de baixo custo aumenta substancialmente a probabilidade de ocorrerem incidentes muito severos de violência letal, mesmo em contextos civis.
Atualmente, organizações clandestinas, terroristas e até elementos isolados com intenções mais ou menos maliciosas podem perturbar significativamente a nossa convivência harmoniosa, o que suscita um grande temor. Um outro aspecto que me parece ser preocupante é o desencadeamento de uma nova escalada armamentista, seguramente no que diz respeito a toda a classe de meios de confrontação. Esta situação, pelo menos em parte impulsionada pela utilização dos drones como armas, constitui um novo e aumentado nível de risco global, no qual a arma nuclear se mantém como um dos fundamentos tecnológicos da ameaça.
Ainda assim, não é a tecnologia que está no epicentro do processo: é o ser humano que reside, em última instância, no coração de tudo isto. Somos uma fonte de perigo constantemente agravado.
IHU – Como as inovações tecnológicas, como o uso de drones controlados por Inteligência Artificial (IA), têm transformado a índole e a lógica da guerra, mas também a relação entre os países?
Robert Junqueira – Contrária à paz, a guerra é um quadro em que povos ou comunidades recorrem à força para dirimir diferendos, um duelo de grandes proporções fomentado por paixões e interesses humanos como a ganância, o afã de glória, a cupidez, a vontade de viver e outros desígnios próprios deste mundo. Em última análise, no que diz respeito à sua natureza e aos princípios que a regem, a essência da guerra não muda e jamais mudou ou mudará em virtude de quaisquer inovações tecnológicas. Embora assim seja, registram-se mudanças de grande relevância prática.
Um primeiro aspecto a salientar é que a IA e os drones multiplicam drasticamente a capacidade da liderança militar obter informações atualizadas sobre as operações em todo o teatro de guerra, o que permite maior celeridade e rigor no acompanhamento e avaliação das forças e posições ocupadas no terreno – bem como de outros detalhes, como os fatores meteorológicos e até a moral das tropas –, com implicações diretas na capacidade para centralizar a tomada de decisões e mobilizar e concentrar meios em áreas decisivas e em tempo útil.
Outro aspecto prende-se ao fato de o estado, o tipo e a quantidade de meios disponíveis determinarem qual o oponente que tem vantagem ou desvantagem no campo de batalha. Os drones e a IA são dois fatores tecnológicos recentes que estão agitando as águas no cálculo destas relações de forças. Mas a equação indicativa da superioridade no campo de batalha sempre esteve e continuará a estar longe da certeza matemática, pois a guerra é uma aventura traiçoeira. Continua a ser imperativo que se manobre e se aborde o inimigo com vista à vitória, cujo alcance não está garantido unicamente pela superioridade dos meios.
Na atualidade, as relações entre os países refletem a dinâmica padrão observada sempre que eclodem guerras e emergem tecnologias disruptivas, sobretudo na indústria militar, que é um processo de intensificação orientado para o benefício ou para o detrimento. No quadro das alianças, são exploradas mais exaustivamente as formas atuais ou possíveis de colaboração, transferência de tecnologia e partilha de conhecimento e outros recursos. Já no quadro dos antagonismos, em busca de vantagens e da desestabilização das forças adversárias, acentua-se a competição entre elementos e agrupamentos geopolíticos.
IHU – Quais as implicações sociais e políticas do uso deste tipo de dispositivo?
Robert Junqueira – A utilização destes dispositivos acarreta múltiplas implicações sociais e políticas. Algumas constam ou decorrem das respostas anteriores; realçaremos ainda outras, que entendemos ser do maior interesse.
Uma das mais graves implicações foi o surgimento de um grande ponto de interrogação sobre uma questão tão delicada como a da atribuição de responsabilidades por tragédias decorrentes do uso destas tecnologias. É intrigante observar que, como registrado na civilização grega, surge atualmente uma tendência para responsabilizar coisas, mas não pessoas. Atribuir responsabilidade a coisas é infinitamente mais disparatado do que responsabilizar um cão por atacar uma pessoa na rua. Entretanto, rebaixemos por um momento os cães ao nível dos dispositivos em questão e perguntemo-nos se o tratamento que deverá ser dado a estas tecnologias não deverá ser, no mínimo, o que se dá aos cães, obrigando ao equivalente a uma vacinação antirrábica, ao uso de trela e de focinheira na via pública e, se houver uma agressão sem justa causa, imputando a responsabilidade à pessoa proprietária e encaminhando a máquina ou sistema para abate. À humanidade deve caber, debaixo do sol, o monopólio da responsabilidade.
Um outro e velho problema que se agrava neste contexto é a escassez de recursos. Os recursos necessários para desenvolver estes dispositivos, sobretudo os mais avançados, levam a um desvio de fundos que antes eram destinados a outras necessidades sociais de monta, como saúde e educação. Também se entrevê um grande prejuízo para as liberdades, já que estas tecnologias abrirão caminho ao desenho e à implementação de sistemas de vigilância de grande perniciosidade e eficácia. Deve-se ainda enfrentar o desafio de acompanhar as novas realidades através da atualização das estruturas diplomáticas e dos sistemas jurídicos, incluindo o direito internacional, com vista a garantir a regulamentação adequada destas tecnologias.
Convém sublinhar que ainda é cedo para apreciar o real alcance desta situação. Trata-se de um tema que ainda há de fazer correr muita tinta (e outras substâncias).
IHU – As guerras e o emprego de alta tecnologia nos conflitos bélicos estão destruindo a capacidade de desenvolver um pensamento político?
Robert Junqueira – Confesso que não consigo acreditar nisso. A guerra sempre foi e continuará a ser uma expressão da esfera política. Não há guerra sem política, assim como não há política sem pensamento. Mesmo em contextos de guerra, a capacidade de pensar e deliberar é igualmente ou até mais importante que os recursos tecnológicos e a força bruta.
A tecnologia de ponta em contexto de guerra não compromete em nada o desenvolvimento do pensamento político. Na verdade, tem o efeito oposto, pois transforma o contexto da guerra, aumenta a sua complexidade e exige um pensamento político, necessariamente humano, mais evoluído e inteligente. Vivemos tempos que clamam por reinterpretação e renovação do pensamento político herdado. Esta é uma necessidade ineludível para respondermos, de forma ágil e inequívoca, às muitas exigências contemporâneas. Acontece que isto se manifesta de forma muito salutar num sonoro apelo à humanidade para intervir de perto no foro da filosofia.
Já não basta recorrer a ideias soltas e ideologias generalistas, que herdamos de uma mentalidade que não distingue entre complexidade e trevas. Pensar aprofundadamente nunca foi fácil e agora não há outro remédio: daí a impressão de que a atualidade se tornou impensável. Esgotou-se o tempo de Descartes e companhia: a clareza e a distinção possíveis serão conquistadas a custo nas linhas e entrelinhas de prosas prolixas. As ferramentas tecnológicas mais avançadas, que não podem substituir o fator humano, serão muito apreciadas para auxiliar-nos neste esforço. A sua utilidade é manifesta, à semelhança da versatilidade humana na sua utilização, que abrange o bem e o mal.
IHU – Como explicar o fato da humanidade desenvolver-se tanto tecnologicamente e utilizar esse desenvolvimento para a morte e não só para a promoção da vida, como observado em Gaza e na guerra entre Rússia e Ucrânia?
Robert Junqueira – A humanidade é capaz de desviar-se da conduta virtuosa por múltiplos motivos, fato que está para cá e para lá da relação com a técnica.
A instrumentalidade da técnica possibilita tanto o enriquecimento da natureza como a sua degradação, muito consoante à vontade e ao comportamento dos seres humanos. Esta é a explicação mais geral, mas a vontade humana é difícil de observar. O comportamento dá sinais da vontade e é mais fácil de observar, mas continua a ser muito difícil de compreender.
Embora a humanidade pratique o mal, custa crer que este seja praticado sem qualquer outro propósito que, de uma forma ou de outra, possa ser confundido com o bem. Seja como for, neste âmbito, a relação entre a humanidade e a técnica é importante, mas meramente acidental. O que está verdadeiramente em jogo neste âmbito é a presença do mal no mundo.
Permita-nos, por favor, deixar esta questão neste ponto. Não nos encontramos em condições de avançar com uma exploração teológica.
IHU – Tem sido comum o emprego da linguagem “drones autônomos” para referir o uso de drones que utilizam a inteligência artificial para identificar e matar inimigos sem participação humana. Que ressalvas precisam ser feitas em relação a essa prática, uma vez que existe a participação humana no uso dessas tecnologias e que vítimas em massa estão sendo mortas?
Robert Junqueira – À luz das respostas anteriores, constata-se que não acreditamos que as máquinas possam ser responsabilizadas, que não lhes reconhecemos autonomia e que não é realista afirmar que essas armas podem identificar e matar inimigos sem intervenção humana.
Pode ser que alguns usos do adjetivo “autônomos” não passem de uma manobra destinada a semear a dúvida a respeito da atribuição de responsabilidades, sendo também possível que seja o fruto de uma observação errada da realidade. O mais provável, porém, é que a utilização do “autônomos” seja apenas um lapso de quem pretende dizer “automáticos”, no sentido moderno da palavra. De nossa parte, cremos que é mais adequado chamar-lhes dispositivos programados, sistemas ciberfísicos, drones robotizados ou, simplesmente, “robôs”, que apela ao público geral e evita algumas ambiguidades técnicas, morais e jurídicas.
É irrelevante, para que se verifique a existência de um homicídio, que tipo de arma foi utilizada. Robôs deste tipo, como quaisquer robôs, são e sempre serão extensões técnicas da vontade humana, pelo que todo o assassinato decorrente do seu uso resulta em mais sangue em mãos humanas.
IHU – Em que consiste a “ética da morte” em curso através do uso de drones e armas de destruição em massa?
Robert Junqueira – É possível que se pense que a “ética da morte” consubstancia uma atitude de deliberada aproximação da morte, mas não é assim que a entendemos. Embora moralmente reprovável, não se trata de procurar ativamente a morte. Para que haja uma ética da morte nos dias de hoje, basta que se siga um percurso marcado por uma grave insuficiência: uma falha na assunção da plenitude da responsabilidade humana perante fatores de risco existencial elevado, como no caso das tecnologias modernas de guerra. Na atualidade, caminha na contramão da vida qualquer pessoa que desconsidere que a responsabilidade é algo pura e somente humano.