Entre códigos e consciência: desafios da IA. Está no ar nova edição da Revista IHU On-Line

Impactos que vão muito além daqueles especificamente técnicos, como ganho de tempo, acesso instantâneo a informações e conectividade 24 horas por dia. Se em um passado nem tão distante a Inteligência Artificial (IA) aparecia tímida em nosso cotidiano ou em enredos de ficção científica, hoje ela está disseminada e problematiza o mundo do trabalho, as sociabilidades, a política, a economia, a forma como aprendemos e acessamos o conhecimento e até a forma como se faz guerra. Entre tantas mudanças, algo é unívoco: a ética das IAs não pode ser deixada nas mãos das Big Techs, cujo poder hoje é quase ilimitado, operando segundo seus interesses, sem prezar pela democracia. 

Olhando para a crise da democracia liberal sob a influência das redes sociais e seus algoritmos largamente comprometidos com a extrema-direita, Paola Cantarini afirma que “é necessário reimaginar a própria democracia. A era algorítmica nos confronta com o que chamo de ‘autoritarismo algorítmico’, onde sistemas opacos mediam a participação, filtram informações e reforçam desigualdades epistêmicas”.

Para Mark Coeckelbergh, a IA faz parte de nossas vidas, quer desejemos ou não. Mais do que participar de nossa vivência individual, ela tem se tornado progressivamente mais decisiva em nossa existência coletiva, seja no mundo político (a democracia), seja no mundo econômico (o capitalismo) ou social. “A IA é e será usada dentro de um sistema capitalista para se livrar de trabalhadores humanos ou colocar os trabalhadores restantes sob vigilância e manipulação”, observa. A regulamentação da IA é um imperativo para um outro futuro tecnológico.

A questão da criatividade em IA é um tema que ultrapassa a dimensão dos direitos autorais e aponta para um projeto de “civilização” que pode contribuir para o trabalho humano, mas também pode implicar a substituição quase total dos humanos no mundo do trabalho, adverte Ana Maria Di Grado Hessel.

Anderson Röhe esclarece que a IA “ainda” está distante de alcançar um estado de consciência semelhante aos humanos. “A Inteligência Artificial generativa (IAG), por exemplo, tem propósito, mas não tem intencionalidade, uma vez que a intencionalidade depende da existência da consciência e autoconsciência, algo que a IA (ainda) está longe de possuir”, exemplifica. “As IAs não estão programadas para falar a verdade, e sim comprometidas em não deixar os usuários sem uma resposta, por mais equivocada, inusitada, limitada ou distante da realidade que possa parecer”.

As implicações da IA na condição humana são examinadas por Lucia Santaella, para quem certamente não vivemos o ocaso do humano, muito embora o discurso alarmista aponte nesse sentido. Vivemos um salto antropológico de grande envergadura no qual nossa capacidade adaptativa está sendo colocada à prova, argumenta.

Enquanto o uso da bomba nuclear continua sendo um dos maiores temores da humanidade, tecnologias de ponta, como os drones de guerra com diferentes capacidades letais, estão desencadeando uma nova escalada armamentista. O uso desse tipo de armamento “constitui um novo e aumentado nível de risco global”, alerta Robert Junqueira. Em sua análise, “à humanidade deve caber, debaixo do sol, o monopólio da responsabilidade”.

Para Leandro Modolo, Luiz Vianna Sobrinho e Karla Figueiredo ponderam que é plausível que a IA observe regras ou princípios éticos. Entretanto, são os humanos que a projetaram e treinaram os responsáveis por suas decisões, já que a IA não possui consciência e responsabilidade moral.

Pensar a IA eticamente é refletir sobre o tipo de humanidade que queremos construir para o futuro, pondera Steven S. Gouveia, que alerta: a mudança epocal promovida pela Inteligência Artificial e seus usos deve ser balizada por critérios éticos, inseparáveis da filosofia. Contra a captura pela lógica da eficiência, inovação e lucro, a aplicação das tecnologias necessita de responsabilidade moral.

Por sua vez, Rodrigo Petronio destaca o papel do capitalismo e a utilização de inteligências artificiais feitas pela extrema-direita no mundo inteiro. Ao mesmo tempo que há iniciativas inovadoras e renovadoras em diversos campos, a ferramenta também é usada para propagar destruição e desinformação.

As empresas que desenvolvem modelos de IA prometem inovações, facilidades à vida cotidiana e maneiras de tornar o trabalho mais simples, mas nestas discussões há o outro lado: a IA traz consigo diversas contradições em relação aos impactos sociais, ambientais e o mundo do trabalho. Levi Checketts afirmou que os pobres são excluídos das discussões sobre IA.

Alexandre Chiavegatto Filho comenta os efeitos do uso da IA na área da saúde, o que poderá contribuir para melhorar o prognóstico dos pacientes, permitindo “o desenvolvimento da medicina humana, já que o médico que irá se diferenciar dos outros no futuro será aquele que fizer o que os algoritmos não fazem, ou seja, escutar, sentir e orientar os seus pacientes”.

“Chegamos a um ponto em que os sistemas inteligentes tomam decisões de vida e morte”, afirma Márcio Cataia ao referir-se à guerra de Israel contra os palestinos, em Gaza, com seus bombardeios “cirúrgicos”.

Os sistemas tecnológicos contemporâneos são portadores de catástrofes, sentencia Sérgio Amadeu. Por outro lado, pondera que, tal como os povos têm o direito de se alimentar sem o controle das megacorporações, temos o direito à tecnodiversidade e nossa autodeterminação digital.

A todas e todos, o Instituto Humanitas Unisinos – IHU deseja uma excelente semana e uma boa leitura desta edição!