Pensar uma algorética significa pensar um desenvolvimento da inovação. Utilizar eticamente a tecnologia hoje significa tentar transformar a inovação em desenvolvimento. Significa dirigir a tecnologia para e pelo desenvolvimento, e não simplesmente buscar um progresso como fim em si mesmo.

A opinião é de Paolo Benanti [1], teólogo e frei franciscano da Terceira Ordem Regular, professor da Pontifícia Universidade Gregoriana, em Roma, e acadêmico da Pontifícia Academia para a Vida.

O artigo foi publicado em L’Osservatore Romano, 27-02-2021. A tradução é de Moisés Sbardelotto.

Eis o artigo.

A discriminação algorítmica e o “trabalho fantasma” não parecem ser problemas que afligem as inteligências artificiais por acaso. Shakir Mohamed, pesquisador sul-africano, com um olhar a partir do Sul global, convida a tentar sair dos nossos paradigmas culturais. Compreender outras perspectivas pode ser um primeiro passo para captar a dimensão política da tecnologia e, talvez, tentar erradicar a longa e preocupante história de algumas injustiças globais.

Em março de 2015, na Universidade da Cidade do Cabo, na África do Sul, eclodiram protestos contra a estátua do colonialista britânico Cecil Rhodes. Rhodes, um magnata da mineração que doara a terra sobre a qual a universidade havia sido construída, cometera um genocídio contra os africanos e lançara as bases para o apartheid.

Sob a bandeira da manifestação “Rhodes Must Fall”, os estudantes exigiram que a estátua fosse removida. Os seus protestos desencadearam um movimento global para erradicar as heranças coloniais que persistem na educação.

Os eventos também levaram Shakir Mohamed, um pesquisador de inteligência artificial sul-africano no DeepMind, a refletir sobre quais heranças coloniais poderiam existir também na sua pesquisa. Em 2018, precisamente quando o campo da IA estava começando a fazer as contas com problemas como a discriminação algorítmica, Mohamed escreveu uma postagem no seu blog com os seus pensamentos iniciais. Nele, ele convidou os pesquisadores a “descolonizar a inteligência artificial”, a reorientar o trabalho do campo para longe de centros ocidentais como o Vale do Silício e a envolver novas vozes, culturas e ideias para guiar o desenvolvimento da tecnologia.

Agora, na esteira dos renovados gritos de “Rhodes Must Fall” no campus da Universidade de Oxford, impulsionados pelo homicídio de George Floyd e pelo movimento antirracista global, Mohamed publicou um novo documento junto com o seu colega William Isaac e com a doutoranda de Oxford Marie-Therese Png.

Nesse novo texto, retomado também pela Technology Review, a revista do MIT, Mohamed complementa as ideias originais com exemplos específicos de como os desafios éticos da IA estariam enraizados no colonialismo e apresenta estratégias para enfrentá-los, começando pelo reconhecimento dessa herança.

O que observar a partir dessa leitura? Pensar uma algorética significa pensar um desenvolvimento da inovação. Utilizar eticamente a tecnologia hoje significa tentar transformar a inovação em desenvolvimento. Significa dirigir a tecnologia para e pelo desenvolvimento, e não simplesmente buscar um progresso como fim em si mesmo. Embora não seja possível pensar e realizar a tecnologia sem formas de racionalidade específicas (o pensamento técnico e científico), pôr o desenvolvimento no centro das atenções significa dizer que o pensamento técnico-científico não basta em si mesmo.

São necessárias diversas abordagens, incluindo a humanística e a contribuição da fé. Para a tecnologia e para o nosso futuro, precisamos de um desenvolvimento que eu já defini como “gentil”. A ética é isso, e as escolhas éticas são aquelas que vão na direção de um desenvolvimento gentil.

Nota do Instituto Humanitas Unisinos - IHU

[1] Paolo Benanti proferiu a conferência "A Algoritmização da vida no contexto da Covid-19. Implicações éticas e teológicas" no dia 26 de fevereiro de 2021. A conferência pode ser vista aqui.

Confira o seu livro publicado em português, "Oráculos: Entre ética e governança dos algoritmos", (Original italiano: Oracoli: Tra algoretica e algocracia), São Leopoldo: Unisinos, 2020

Leia mais

• Simpósio Internacional IHU Homo Digitalis. A escalada da algoritmização da vida em tempos de pandemia 
• Por uma inteligência artificial humanística. Entrevista com Paolo Benanti
• Bem-vindos à era digital. Entrevista com Paolo Benanti
• Cybersec e eleições presidenciais: Drovorub vs FBI e NSA. Artigo de Paolo Benanti
• Inteligência artificial e ética: um estado da arte. Artigo de Paolo Benanti
• Twitter e Trump: uma perspectiva ética. Artigo de Paolo Benanti
• Pós-humano: o desafio de falar do humano e de seu valor. Mudança de época. Artigo de Paolo Benanti
• Pós-humano demasiado pós-humano. Artigo de Paolo Benanti
• Política tecnológica: quando a inteligência artificial revela uma mentalidade colonial. Artigo de Paolo Benanti
• Remover estátuas não é apagar a história. Pelo contrário: é escrevê-la
• Universidade de Oxford decide derrubar estátua de colonizador e supremacista branco
• Inteligência artificial aprendeu a imitar o "GPS" do cérebro
• Como lutar contra o racismo da inteligência artificial