14 Junho 2025
“A governança da IA não pode ser dissociada da democratização do poder, dos dados e da tomada de decisão. Diante de uma era de racionalidade algorítmica e opacidade epistêmica, a democracia deve tornar-se estruturalmente reflexiva e eticamente expansiva. O futuro da democracia depende da nossa capacidade de recuperar o político por meio do pluralismo tecnológico e da cogovernança, restaurando a autonomia pública e a imaginação coletiva”, escreve Paola Cantarini, pesquisadora do C4AI – Centro de Inteligência Artificial da USP, em artigo publicado por Jornal da USP, 11-06-2025.
Trata-se de pensar em uma nova proposta de governança de IA para o Brasil como país do Sul global, tema objeto de minhas análises e estudos em sede de quatro pós-doutorados na PUC-TIDD, na Universidade Reggio Calábria (Itália), na USP, na Cátedra Oscar Sala, sob supervisão de Virgilio Almeida, e na Faculdade de Direito da USP de Ribeirão Preto, sob supervisão de Nuno Coelho.
Durante a Cátedra tive a oportunidade de coordenar a equipe de governança de dados e de IA, e durante as demais oportunidades citadas na USP participei da coordenação do Ceadin – novo centro de inovação e direito. Ainda tal temática é objeto de diversos artigos e de três livros, compondo uma trilogia formada pelos livros AcordAI (no prelo), Filosofia da IA – com base nos valores construcionista do “homo poieticus”, e Governança da IA – uma abordagem decolonial e inclusiva. Outrossim, cumpre o registro e agradecimento de poder participar do projeto UAI – Understanding AI, do IEA-USP coordenando a equipe de governança em IA.
Para uma melhor compreensão da proposta é importante o conceito contido nas palavras “AcordAI” e “PoeticAI”, no sentido de construção de uma nova governança tecno-poética da IA. Por uma governança fundada em diversidade, equidade, justiça, sustentabilidade ambiental, indo do “human centered AI”, importante, mas insuficiente e antropocêntrico, para o “planet centered AI”.
AcordAI é um neologismo performático conjugando acordai, acordo, corda, resistência, ligação e o próprio acrônimo da IA. Um chamado poético à consciência crítica, à insurgência estética e à ação coletiva sobre as tecnologias. Insurgências quânticas evoca a articulação entre a física contemporânea e o campo social, entre as humanidades e as ciências duras, técnica, imaginação, corpo e máquina, remetendo à indeterminação, à superposição e à ruptura do determinismo clássico. Aqui os sujeitos insurgem-se, como partículas livres num campo de opressões algorítmicas, rompendo com as previsibilidades dos sistemas fechados, além de propostas técnico-solucionais para a governança da IA.
Aqui a poética encontra a política, a física quântica encontra a ficção crítica, o código encontra o corpo, partindo da premissa de que o imaginar e o imaginal fazem parte do governar. E que somente é possível reconfigurar as tecnologias se reencartarmos as narrativas que as sustentam. Porque o pensamento não se encerra em sistemas, ele escapa, transborda, performa. Um chamado à nova comuna digital, por meio da participação de parcelas vulneráveis da população em diversas etapas do desenvolvimento da IA à governança da IA. É a poesia de uma IA porvir, um futuro aberto de possibilidades, como expõe Gilles Deleuze com a expressão “devir”, como invenção radical do novo. O porvir, nesse sentido, não é algo que se espera, mas algo que se cria, como um movimento de diferenciação, de saída dos modos normativos de subjetivação. O porvir se vincula à linha de fuga, ao que ainda não é, mas pode ser inventado. Não se trata de uma promessa utópica, mas de uma potência imanente no presente: algo que emerge nas brechas do agora, ligado à força afirmativa, ao eterno retorno do diferente, e não à repetição do mesmo. O porvir, nesse registro, é inseparável da produção de novos modos de vida.
AcordAI! O futuro é agora.
No sentido de uma nova aliança entre a máquina e os sonhos, entre os humanos e a técnica – para além da governança técnico-algorítmica.
A IA tal como se apresenta hoje em algumas aplicações com a problemática do “bias” e pelo perfilamento até mesmo de grupos é um espelho sem profundidade, por trás da promessa de neutralidade e imparcialidade se esconde uma ontologia da perversidade, premeditividade, homogeneização, onde não há lugar para o diferente. Uma lógica que resume o mundo a padrões históricos, estáticas acumuladas e predições automatizadas. A IA traz a reprodução de um passado histórico, com inequalidades, distância entre Sul e Norte global, com racismos estruturais, discriminações e colonialismos. Mas e se imaginássemos novas possibilidade com base na poiesis, na imaginação e no mundo imaginal, com inspiração em Yuk Hui com a proposta de tecnodiversidade? Imaginar novas possibilidades com base em autores que proclamam o papel da poesia, da imaginação e do mundo imaginal?
Tal pergunta inaugura uma nova filosofia da técnica, da IA, conjugando marcos teóricos como Paul Virilio em A Velocidade e a Política como a expressão dromologia, a velocidade do crescimento exponencial do tempo como dominação e Baudrilhard que via na hiperrealidade o colapso da representação em Simulacros e simulação. Como romper o automatismo algorítmico? Como instaurar uma nova estética da resistência para uma nova proposta de governança de IA que democratize os benefícios e mitigue os riscos? Com base em autores como Kate Crawford, Laurie Parsons, Max Fisher que comentam sobre o novo colonialismo de carbono, poluição digital, estratégias de greenwashing corporativo, casos de genocídios de populações vulneráveis em países do Sul Global como Índia e Myanmar em razão de fake news e discursos de ódio, com inspiração em autores como Nick Couldry, Ulises Mejías, Ruha Benjamin, e com foco no conceito de data justice (justiça de dados) em especial, destacando-se os trabalhos de Linnet Taylor, Gargi Sharma, Aaron Martin e Shazade Jameson.
Esses episódios evidenciam de forma contundente como as tecnologias digitais e as infraestruturas algorítmicas, sob a retórica da inovação, têm sido utilizadas para reproduzir e intensificar formas históricas de dominação, colonialismo e exclusão sociotécnica, revelando a urgência de repensar os marcos regulatórios e éticos da inteligência artificial, com vistas à construção de modelos de governança que priorizem justiça social, responsabilidade planetária, direitos humanos/fundamentais e democracia.
A inteligência artificial não é uma abstração imaterial. Como mostra Crawford em Atlas of AI, sua existência depende de processos materiais intensamente extrativistas: desde a mineração de terras raras até o consumo massivo de energia por data centers. O capítulo 1 do livro, intitulado “Earth”, destaca a centralidade da infraestrutura geopolítica e geológica da IA: “Cada instância de IA se apoia sobre camadas de extração, de recursos e de corpos”.
A IA também está ancorada em um regime de captura de dados que se assemelha a uma forma contemporânea de colonialismo. Ulises Mejías e Nick Couldry denominaram esse fenômeno de “colonialismo de dados”. Laurie Parsons, em Carbon Colonialism, amplia esse argumento ao mostrar como os sistemas digitais se apoiam em cadeias produtivas globais baseadas na exploração dos recursos humanos e naturais do Sul Global. A colonialidade é assim reconfigurada sob uma lógica tecnoeconômica. Um dos efeitos centrais da IA aplicada ao controle social é a constituição de regimes de vigilância preditiva, que transformam a vida cotidiana em um conjunto de sinais para inferência, classificação e antecipação de comportamentos. Essa lógica, conforme analisa Crawford, torna-se estruturante da governamentalidade algorítmica, baseada na previsibilidade e na eficiência técnica em detrimento da deliberação pública e do controle social, como também expõem Antoinette Rouvroy e Thomas Berns.
Plataformas como Facebook, TikTok e YouTube não apenas distribuem conteúdo, mas moldam percepções, afeições e preferências políticas com base em algoritmos opacos. Esse cenário tem implicado a erosão da esfera pública, a ampliação de discursos de ódio e a manipulação emocional em escala massiva, como ilustrado pelo escândalo da Cambridge Analytica.
Nesse contexto, observa-se o fortalecimento de tecnocracias e da centralização do poder em atores privados e estatais que operam com baixa transparência e sem controle democrático. Como destaca Parsons, o colonialismo digital se manifesta tanto no plano econômico quanto na produção de conhecimento, com narrativas e epistemologias hegemônicas invisibilizando os saberes locais e suas formas de resistência. Os discursos de sustentabilidade digital são frequentemente cooptados por grandes corporações, transformando o discurso ambiental em ferramenta de greenwashing.
É fundamental, portanto, que a regulação de IA não se limite à transparência técnica, mas envolva accountability política e participação cidadã efetiva. Trata-se de uma resposta crítica e de uma abordagem mais ampla, que abrangem temáticas como a redistribuição de poder, o reconhecimento das desigualdades estruturais e o fortalecimento das vozes historicamente marginalizadas. A justiça de dados parte da premissa de que os sistemas algorítmicos e plataformas digitais são estruturas de poder e, como tais, devem ser analisadas sob as lentes da justiça distributiva, em uma chave intersecional com as demais justiças – de dados, epistêmica e ambiental. Isso implica examinar quem tem acesso aos dados, quem os controla e quem se beneficia de sua monetização. O modelo dominante de coleta e exploração de dados é altamente assimétrico, com grandes corporações e governos centralizando capacidades analíticas e computacionais, enquanto as comunidades afetadas têm pouca ou nenhuma participação nesse processo. A coleta e o processamento de dados ocorrem em condições de extrema assimetria de poder, especialmente em contextos de baixa regulação como no Sul Global.
A imaginação e a poética possuem um campo importante situando-se também na linha do chamado reino imaginal, conceito trabalhado principalmente por Henry Corbin, especialmente em Mundus Imaginalis ou l’Imaginaire et l’Imaginal, significando um espaço intermediário entre o mundo puramente físico e o mundo do intelecto puro, um conceito explorado por filósofos e místicos ao longo da história. A poética desempenha um papel crucial como uma forma de acesso e interpretação desse reino imaginal, tal como aponta Heidegger, diante da capacidade única de revelar aspectos do ser que são obscurecidos pelo pensamento instrumental e pela linguagem cotidiana.
Com base em tais premissas, propomos uma teoria democrática para a era algorítmica com base na justiça como cocriação. A governança legítima surge da deliberação iterativa, inclusiva e plural com base nos seguintes pontos:
• Epistemologias plurais: sistemas algorítmicos devem ser projetados para refletir e integrar visões de mundo e sistemas de conhecimento diversos.
• Reengenharia institucional: as instituições digitais devem assegurar transparência algorítmica, supervisão humana e direitos à contestação e à revisão humana.
• Responsabilidade planetária: a teoria democrática deve incorporar justiça ecológica e abordar os custos ambientais das infraestruturas de dados.
A governança da IA não pode ser dissociada da democratização do poder, dos dados e da tomada de decisão. Diante de uma era de racionalidade algorítmica e opacidade epistêmica, a democracia deve tornar-se estruturalmente reflexiva e eticamente expansiva. O futuro da democracia depende da nossa capacidade de recuperar o político por meio do pluralismo tecnológico e da cogovernança, restaurando a autonomia pública e a imaginação coletiva.
Apenas uma democracia radical e disruptiva, de alta intensidade, será capaz de enfrentar a lógica algorítmica que busca substituir a deliberação pela predição, e a representação pelo controle. Para sobreviver ao século 21, a democracia não pode mais ser uma promessa adiada, mas deve tornar-se uma prática geradora de justiça, pluralidade e emancipação.
