17 Novembro 2023
A guerra é o beneficiário preferido da narrativa épica que acompanha o advento das inteligências artificiais como um halo mágico.
A opinião é de Raul Gabriel, em artigo publicado por Avvenire, 14-11-2023. A tradução é de Luisa Rabolini.
Imagens de altíssima resolução, drones mais humanos que os humanos que os controlam, bombardeios tão precisos que você poderia tranquilamente tomar um café enquanto o hospital na frente do bar está sendo arrasado, seleção cibernética direcionada dos culpados, licença para matar via software, que parece mais de bom-tom, muito mais limpo.
O convencional dos generais nos conta que as IAs são capazes de recalcular o “bias”, o incômodo viés do valor médio.
As sociedades aceitam com prazer a veste cândida dos massacres inteligentes que ninguém, naturalmente, elaborou, prendeu sozinho sobre a ética asséptica das máquinas e que nos autoriza finalmente a observar as coisas com distanciamento. Supondo que seja possível e desejável, a eliminação dos desalinhamentos apresenta aspectos controversos.
O nosso pensamento, a nossa vida, as nossas escolhas ganham vida muitas vezes exatamente quando saem do eixo, especialmente se o eixo for o valor médio dos hábitos.
Tratando-se de guerra, cabe dizer, é diferente, eliminar o erro é fundamental, anular a discricionariedade também. Mata-se quem tem que ser morto, destrói-se o que tem que ser destruído. A perfeição da devastação, cujo tema não é como, mas por quê. Quando se identifica nessa faculdade da IA, a panaceia que garantirá guerras impecáveis, se esquecem alguns problemas essencial, o primeiro dos quais é a subjetividade das diretrizes segundo as quais o bias é calculado. O desalinhamento nada mais é do que um afastamento em relação ao que é considerado, certo ou errado, a linha de conduta principal que não dá nenhuma garantia de justiça. A operação é mais parecida com uma simplificação que abre caminho para uma ética flexível e funcional. As IAs de fato abrem o caminho para usos mais instrumentais, o que há de mais distante da redução efetiva dos bias humanos.
Vejamos um exemplo concreto. Se as técnicas de GPS cruzadas com o reconhecimento de imagens me dizem que há inimigos em tal lugar, este será destruído. O que acontece se junto com os inimigos estiverem mulheres, crianças e doentes? Reduzir o bias significará introduzir a categoria das prioridades, decidir quem sacrificar definindo um padrão completamente estranho à moral e à perfeição.
Poderíamos descobrir que somos mais parecidos com as IAs do que tendemos a pensar. Nós também, quando a situação se complica, adotamos slogans que adequam os juízos ao valor médio da vida tranquila da fácil moral. O que fazemos para sustentar o novo desafio? Imitamos as IAs e a sua aversão pelo imprevisível, pela surpresa, pelas variações. Entender o que comportam as inteligências artificiais não significa banalmente orientar-se no plano do produto, uma novidade aqui, outra ali, inventamos um código ético para isso e aquilo, e pronto. Não é aí que se joga o nosso destino. O desvio virtuoso está no método em que renunciamos voluntariamente para ficar no mercado, mas as IAs fazem esse trabalho muito melhor. ChatGPT, escreva um obituário comovente que mostre a dor sincera e inconsolável daqueles que, infelizmente, assim como eu, não estando sob as bombas inteligentes, se alegram sinceramente pela salvação que vem da dor, dos outros, é claro.
Nada mais do que um prompt, uma sugestão, uma correção do bias.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
IA e guerra: os riscos dos massacres inteligentes - Instituto Humanitas Unisinos - IHU
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
O historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS
