A disseminação dos robôs em contextos industriais, mas também a presença mais invasiva de plataformas e aplicativos que utilizamos todos os dias nos nossos celulares, levanta uma série de problemas que têm relação com a esfera ética. A roboética, portanto, é aquela parte da ética das tecnologias que estuda as implicações advindas da interação homem-robô, que, como explica o Pe. Paolo Benanti, professor de Teologia Moral e Ética das Tecnologias na Pontifícia Universidade Gregoriana, estão ligadas à própria natureza dessa interação.
A reportagem é publicada por Italia 4.0, 01-12-2021. A tradução é de Moisés Sbardelotto.
“Na interação homem-robô, é preciso fazer uma grande distinção preliminar – explica Benanti –, ou seja, enquanto a máquina funciona, o ser humano vive e tem uma experiência da interação com o robô, que não é apenas de natureza racional, mas também emocional. A experiência da interação com a máquina, portanto, pode ser positiva e também negativa: a user experience intervém aqui para estudar, projetar e minimizar os possíveis efeitos negativos que podem derivar da relação com a máquina.”
As implicações éticas, portanto, tornam-se ainda mais importantes quando as máquinas adquirem autonomia própria, e isso graças ao desenvolvimento de algoritmos que lhes permitem elaborar resultados sobre os quais decisões são tomadas, orientando os nossos comportamentos.
“Nesse sentido, os algoritmos se aproximam muito daquela que é a própria definição de lei, como ‘dispositivo feito por uma instituição para orientar o comportamento das pessoas’”, observa Benanti. “Aqui surge uma tensão entre a sociedade dos algoritmos e o Estado de direito em que gostaríamos de viver, cujos pressupostos são que a lei seja conhecível, universal e geral. Entretanto nenhuma das três condições vale para os algoritmos, pois um algoritmo não é conhecível nas modalidades nas quais ele realmente elabora os dados – e aqui é forte a tendência rumo à explainable AI – nem é universal quando faz perfis, nem é geral, pois só obedece aos padrões dos servidores.”
Outro argumento notável está ligado à disseminação das plataformas de software, que hoje adquirem aqueles dados que as pessoas oferecem em troca de serviços pelos quais não pagam. Dados que, tomados individualmente, não têm valor, mas que, agregados a outros, representam uma fonte inconsumível para os algoritmos extraírem valor, levando a uma espécie de capitalismo de dados. Que envolve um problema ético, exigindo uma espécie de “algorética”, além da roboética, quando se torna necessário fazer um equilíbrio entre o respeito aos direitos fundamentais da pessoa e os objetivos de otimização do lucro e da rentabilidade de um processo.
Foto: Pexels
“Um aspecto ético igualmente relevante é o declínio cognitivo que a adoção cada vez mais difundida de robôs e plataformas pode trazer consigo”, explica Benanti. “Pensemos, por exemplo, na inteligência artificial do módulo GPT-3, que, a partir de uma solicitação em linguagem natural, é capaz de desenvolver o código para gerar a aplicação desejada, por exemplo, um certo tipo de site. Trata-se, naturalmente, de um instrumento muito poderoso, mas também uma skill-killer application, pois quem vai querer lidar com desenvolvimento de software se no futuro houver sistemas desse tipo que podem fazer isso automaticamente?”
Para dar um exemplo mais próximo do cotidiano de todos, basta pensar no fato de que, antigamente, a memória das pessoas era treinada para lembrar todos os números de telefone das pessoas mais queridas, enquanto hoje muitas vezes não nos lembramos mais de nenhum deles, já que temos um assistente digital nos nossos telefones que faz isso por nós. E aqui a tecnologia induz a uma espécie de antropomorfismo, um curioso evento em que nós somos a própria causa de uma mutação da espécie.
Por isso, é importante também antecipar e prever os possíveis desenvolvimentos e efeitos a longo prazo das tecnologias, intervindo também do ponto de vista normativo sobre aqueles aspectos que devem ser governados para proteger os direitos fundamentais das pessoas, e talvez até a sua própria natureza.
Intimamente ligado a isso, portanto, está também a questão de como o trabalho está mudando, à luz da entrada dos robôs nas empresas, como explica Marco Bentivogli, coordenador e cofundador da BASE Italia.
“Hoje, precisamos de uma nova narrativa dos robôs, que faça com que as pessoas saibam que entramos na segunda era dos robôs”, afirma Bentivogli. “Os robôs de hoje não são mais os velhos robôs industriais, vistos como algo que tirava o trabalho do ser humano e que ainda hoje são os que normalmente estão envolvidos quando se trata de acidentes de trabalho. Um elemento que deve ser narrado, por sua vez, é acima de tudo que as máquinas de hoje podem coexistir com o ser humano, e que, desse modo, o trabalho se hibridiza com a máquina, segundo um perímetro da operação e da atividade que é decidido pelo próprio ser humano e em sua vantagem.”
Foto: Pexels
Dentro dessa nova narrativa dos robôs atuais, segundo Bentivogli, também devem as formas de pensar os negócios e o trabalho, libertando-se de velhas categorias como as do controle e da exploração. “O relato dessa nova realidade deve ser acompanhado por uma visão positiva – continua Bentivogli –, abandonando ideias como a de que a tecnologia traz catástrofes e anula o trabalho. Por exemplo, um wearable vestido por um funcionário em um depósito, nesse sentido, é um instrumento que o ajuda a completar com segurança o seu trabalho com segurança, sem cometer erros nem ter que repetir operações para remediar. Ele não deve ser visto como algo que torna o trabalhador não mais autônomo, mas heterodirigido. Se, depois, olharmos para as tecnologias digitais hoje na empresa, elas descongelam o espaço e o tempo, tornando muito mais fluida e flexível a disposição dos horários de trabalho e dos dedicados ao tempo livre para as pessoas. Quanto mais cresce a presença de robôs e o IoT na empresa, mais a proximidade física se torna um requisito cada vez menos indispensável, também no smart working industrial.”
Um fato evidente e muito importante de como os conceitos de trabalho e empresa estão mudando nesta segunda era dos robôs é, portanto, o fato de que, para os empresários, o esforço hoje é percebido como um desperdício, enquanto o que se busca é um maior engajamento cognitivo por parte das pessoas, no momento em que os robôs assumem as tarefas mais desgastantes e repetitivas.
“O trabalho deve ser cada vez mais centrado como uma experiência que qualifica e faz as pessoas se realizarem”, conclui Bentivogli. “É claro também que a adoção de robôs e tecnologias digitais envolve um deslocamento, que deixa um vazio que deve ser preenchido desenvolvendo novas competências e capacidades cognitivas.”
Nesse sentido, é fundamental que, no desenvolvimento de robôs cada vez mais inteligentes, se pense também em preservar o trabalho, levando-o a um nível superior que valorize a pessoa, assim como paralelamente, em um nível social mais amplo, aquilo que deve ser protegido é a relação entre as pessoas. Pois a interação com o robô pode trazer enormes vantagens, em termos de segurança, de maior eficiência, mas não poderá e nunca deverá ser substitutiva da dimensão relacional entre as pessoas. Um valor fundamental que coloca o princípio do antropocentrismo no coração do desenvolvimento de robôs avançados e de plataformas inteligentes, para que a tecnologia esteja sempre a serviço do ser humano, e nunca o contrário.