"O que Polanyi dizia do tácito trabalho mental em reunir experiências por categorias ao elaborar conhecimento, agora a máquina o faz em dimensões globais, como num rápido gesto mágico. A robótica na execução de tarefas profissionais vem mostrando crescente superioridade diante da habilidade humana em velocidade, precisão e eficiência. Cresce com isto o fascínio humano em navegar na artificialidade produtiva e usufruir de suas benesses", escreve Márcio Fabri dos Anjos, especialista em Bioética, professor emérito da PUC-SP emembro da RedBioética/UNESCO, ao apresentar o livro Entrando na civilização de algoritmos, de Pierre Giorgini e Thierry Magnin (Editora Santuário, 2022).
Porque o algoritmo pode marcar um processo civilizatório? A resposta aparece na sua vitrine, a inteligência artificial, a fina representação das maiores conquistas tecnológicas de nossa era. Viagens siderais de instrumentos em busca de informações sobre o macrocosmo; mergulhos profundos para esmiuçar ainda mais os segredos recônditos do microcosmo; nada disso se faz sem a inteligência artificial. Mas ela se adentra também no cotidiano de nossas vidas, relações, lazer, trabalho, comunicação, saúde e até no ar que respiramos. Está ali, de modo discreto, indireto e quase imperceptível nos instrumentos que usamos ou nas consequências resultantes do seu uso. Ela representa um inegável serviço, sem cujos instrumentos não teríamos recursos que garantem o bem estar e a produtividade de hoje. É assim provedora de um fascínio tecnológico que caracteriza nossa era, como já notava Baudelaire no século 19. Mas não seria esse fascinante presente como um cavalo de Troia que traz no seu bojo forças dominadoras dirigidas para subjugar?
Esta ambivalência dos instrumentos entre servir e dominar é imemorial, uma vez que sua utilidade pode ser orientada pelo agente que o maneja em vista de suas próprias finalidades. O detalhe sobre o agente que maneja o instrumento, é crucial ao se tratar da inteligência artificial. De fato, o desenvolvimento tecnológico moderno veio acentuar pôr em crise a relação entre o agente humano e seus instrumentos numa acelerada evolução que Michael Polanyi, em 1941, chamou de Grande Transformação. As sucessivas revoluções industriais são um lugar antológico para se perceber a radicalidade com que os agentes humanos se dedicam à produção de instrumentos com maior eficiência de produzir, e isto os afeta profundamente. [1] Vários pensadores, entre os quais Lévinas e Bauman, há tempo alertaram para o fato de o próprio ser humano estar se transformando nesse processo por uma transferência do cerne de sua interioridade para a exterioridade produtiva e eficiente, com a consequente perda de valores éticos para ser e agir.
Polanyi (1881-1976) se soma a estes vários pensadores antecipando questões epistêmicas implicadas nos avanços atuais da inteligência artificial, ao passar de análises sociológicas para os fundamentos filosóficos do próprio processo cognitivo. Suas aulas foram publicadas com o sintomático título: Conhecimento pessoal: rumo a uma filosofia pós-crítica. [2] Ali reforça, entre outras, que o conhecimento é constituído por fragmentos de experiências sensíveis que vão sendo reunidas em categorias e se confirmando ou não em hábitos e tradições; e consequentemente marcam a interpretação que faz das realidades. Entende assim que a dimensão “emotiva” da percepção pessoal é um elemento essencial subjacente a todo conhecimento explícito, reconhecido em sociedade como tal. Em obra subsequente explica esta dimensão tácita como um princípio que domina todo conhecimento pessoal, e é constituído por inúmeras conexões pessoais cuja consciência explícita escapa ao sujeito, de modo que “podemos saber mais do que conseguimos dizer” (p. 136). [3] A passagem do tácito para o explícito se dá através de linguagem que expresse sentimentos, o apelo a outras pessoas, e a verificação fatos, sendo a verificação dos fatos decisiva nesse processo de explicitação do conhecimento. [4]
Com estas abreviadas referências visamos ressaltar que o desfecho do desenvolvimento tecnológico na inteligência artificial é fruto de um processo em que nós seres humanos também nos transformamos em meio às evoluções tecnológicas. E o aceno feito à incursão de Polanyi à epistemologia do conhecimento põe em evidência como a verificação de fatos pode ser determinante para a interpretação das realidades em âmbito individual e social, e na própria fundamentação das ciências, no sentido de hoje. Isto enfatiza a relevância desta obra que de modo perspicaz coloca os algoritmos na encruzilhada de uma civilização.
De fato, o algoritmo é um elemento tácito de toda inteligência artificial. É um método matemático com regras e procedimentos lógicos bem definidos, aplicados em um determinado número de dados, que são conjugados em vista da solução de um problema ou de se atingir um objetivo. Consegue-se por esse meio reunir dados para a construção de máquinas que os coletam por categorias, conforme um viés desejado, e processam em incrível velocidade. Imagine-se isto aplicado às atuações profissionais oferecendo resultados imediatos sobre sucesso/insucesso dos procedimentos. O que Polanyi dizia do tácito trabalho mental em reunir experiências por categorias ao elaborar conhecimento, agora a máquina o faz em dimensões globais, como num rápido gesto mágico. A robótica na execução de tarefas profissionais vem mostrando crescente superioridade diante da habilidade humana em velocidade, precisão e eficiência. Cresce com isto o fascínio humano em navegar na artificialidade produtiva e usufruir de suas benesses.
Freud observou que a arte (techne) tem um poder de incentivar a ilusão que, somada aos desejos, pode gerar efeitos afetivos incidentes na interpretação da realidade. E afirma que “a arte se aproxima da magia, e o artista se compara a um feiticeiro”. [5] Embora ele esteja se referindo à arte cênica, não é mera coincidência que a raiz etimológica do termo tecnologia seja techne, desenhando a fonte desses fascínios como conhecimento. O que esta analogia freudiana ensina é que o efeito da magia fascina enquanto se consomem seus resultados ou produtos, mas muda de figura quando minimamente se desvendam, ou pelo menos se imaginam seus bastidores.
O desenvolvimento do algoritmo está nas bases arquitetônicas das inteligências artificiais, de dois modos principais. Um se realiza na organização seletiva de dados, em “pacotes de categorias”, fornecendo base principal para o conhecimento. Outro se dá na dimensão mais profunda de habilitação do mecanismo algorítmico, quando se reproduz na máquina a base arquitetônica do ser vivo, e de certa forma se “ensina” o mecanismo a proceder como seres vivos. E então se chega ao limiar do maravilhoso que assusta a quem percebe a superioridade das máquinas sobre a potencialidade humana, que sem controle humano podem executar, produzir e reproduzir; podem ditar a “verdade” sem dizer que é apenas um viés da verdade; e de instrumento passam a pilotar os humanos.
Estas anotações visam ressaltar a importância do algoritmo na avaliação ética das inteligências artificiais, pois ali se aninham questões cruciais, anteriores ao seu uso bom ou nefasto. De fato, esta engenharia algorítmica envolve graves questões como o ritmo evolutivo no conjunto dos seres vivos, incidindo no risco de se desprezar a sabedoria que tem sustentado a persistência resiliente da vida. Atropela bases da própria condição humana constituída por relações interativas com assimilação e maturação para se formarem pessoas de identidade própria que exigem tempo, espacialidade circunstanciada e mesmo fragilidades. Estes são espaços essenciais da biodiversidade criativa com que se constroem os seres humanos. No desejo e sonho de potencializar o humano, correr-se o risco de o destruir juntamente com seu ambiente. A obra Entrando na Civilização de Algoritmos aprofunda estas e outras questões, reconhecendo os muitos benefícios dos avanços tecnológicos, mas principalmente colocando às claras as interrogações cruciais que o tecnológico leva a esquecer ou mesmo ocultar.
Capa de Entrando na civilização de algoritmos, de Pierre Giorgini e Thierry Magnin
Editora Santuário, 2022
Toda avaliação ética no fundo apela para perspectivas de ação. Neste sentido a presente obra é profunda e perspicaz. De certa forma retoma o desafio da construção do conhecimento a partir da experiência das realidades, não simplesmente através de pontos isolados, mas numa interpretação do seu conjunto. Ao sondar tais perspectivas na relação ciência e fé, esta obra toca numa raiz fundamental das interpretações das ciências que passam pelo horizonte de onde emanam seus sentidos ou metanarrativas que Lyotard em 1979 [6] já apontava como uma grande perda dos tempos pós-modernos. A atual disputa por narrativas tópicas no ambiente político brasileiro volta, aliás, a reconhecer a necessidade de um horizonte, pequeno que seja, para oferecer confiança diante de posturas e propostas sociopolíticas. Na relação entre ciência e fé, a fé representa o ambiente confiante, horizonte mais amplo, que se deseja e busca, uma relação que Th. Kuhn já reconheceu ao associar a necessidade de as ciências mudarem suas crenças (beliefs) para alcançarem uma revolução científica. [7]
Sem desconhecer a pluralidade religiosa, esta obra escolhe a teologia da criação em uma leitura cristã para desenhar perspectivas e critérios éticos nas práticas tecnológicas em questão. É uma escolha não excludente, mas em grande parte operacional: oferecer bases estruturais capazes de sustentar a vida e dignidade dos seres humanos em seu ambiente socioecológico na era de algoritmos e inteligências artificiais em que vivemos. Desta forma visa especificamente oferecer um horizonte alternativo que possa ser assumido e enriquecido por diferentes confessionalidades e mesmo por não crentes.
Além de explicitar fundamentos da teologia da criação necessários à proposta de perspectivas éticas, os autores argumentam ao mesmo tempo em torno das questões levantadas na primeira parte, que representam riscos de danos ou mesmo destruição de características essenciais do humano e valores que sustentam sua vida com dignidade. E fecham com a proposta de sete bases estruturais éticas que possam guiar a defesa e promoção da vida humana e seu ambiente, com dignidade, sustentabilidade e boa qualidade. É notável que não se atenham à chamada ética aplicada ao uso de inteligências artificiais, mas analisam questões referentes à própria constituição do ser humano.
Os dois autores que assinam a obra somam seus conhecimentos em engenharia genética, física e teologia, sem justaposição, mas ao contrário reconhecendo explicitamente a densidade e riqueza que resultaram do diálogo entre ambos para a elaboração do texto. Uma interessante experiência e um eloquente incentivo aos diálogos inter e transdisciplinares.
Para facilitar a leitura por quem não esteja tão afeito à linguem digital, tomou-se como opção traduzir para o português expressões usuais em inglês na linguagem de informática, como design, designer, big data, data-assisted Science, data-driven Science, deep learning, e outras, mantendo entre parêntesis esses termos usuais.
Nesta obra o leitor encontrará muitas informações preciosas sobre os bastidores da engenharia digital em inteligências artificiais. Mas principalmente poderá tomar consciência de questões de fundo que representam graves desafios éticos referentes inclusive ao nosso próprio momento civilizatório. Vale também um agradecimento aos autores por este raro diálogo entre ciência e fé em um assunto tão relevante a atual.
[1] Cf. ANJOS, M. F. Inteligência artificial, ponte para qual futuro? In: COELHO, MM. et al. (Org.). Cruzar fronteiras: uma urgência para a ética teológica. Aparecida: Santuário, 2022, p. 223-246.
[2] POLANYI, M. Personal Knowledge: Towards a post-critical philosophy. London: Routdedge & Kegan Paul, 1958.
[3] POLANYI, M. The tacit dimension. London: Routdedge & Kegan Paul, 1966, p. 136.
[4] Cf CARDOSO, Leonor; CARDOSO Pedro. Para uma revisão da teoria do conhecimento de Michael Polanyi. Revista Portuguesa de Pedagogia, ano 41 n. 1, 2007.
[5] FREUD S. Totem y tabú. Madrid: Biblioteca Nueva, 1973. p. 1801-1804. (Obras Completas; Tomo III)
[6] LYOTARD, J. F. A condição pós-moderna: um relatório sobre o conhecimento. 9. ed. Trad. Ricardo Corrêa Barbosa. Rio de Janeiro: José Olympio, 2006.
[7] KUHN, T. The Road since Structure. Chicago: Univ. of Chicago Press, 2000, p. 111-116.