19 Dezembro 2023
"É preciso reverter com urgência a política colonialista adotada por Bolsonaro numa área do conhecimento que será crucial. Possível inspiração: examinar como os EUA protegem seus dados e infraestrutura, diante dos riscos da nova tecnologia".
A opinião é de Sérgio Amadeu da Silveira, professor da UFABC (Universidade Federal do ABC), pesquisador de Redes Digitais, ex-conselheiro do Comitê Gestor da Internet - CGI.br, em artigo publicado por Outras Palavras, 15-12-2023.
Uma das doutrinas mais repetidas pelos consultores e vendedores das Big Techs é a de que as tecnologias são meios e não fins. Essa intuitiva sentença não poderia ser mais falsa a depender do contexto. As tecnologias podem ser somente meios para quem as utiliza e fins para quem as desenvolve. Criar e liderar as tecnologias são finalidades econômicas decisivas no capitalismo tardio. Dominar aparatos tecnológicos dão primazia política, econômica e cultural para nações, grupos sociais e empresas. Isso não significa que as tecnologias determinam os rumos da sociedade. São os grupos sociais, em especial as classes economicamente dominantes que organizam as tendências pelas quais as tecnologias irão trilhar, mas isso ocorre em um contexto de disputas e luta com os demais grupos sociais, entre adesões e apoios. Bruno Latour chamou esse processo de controvérsias. Langdon Winner nos alertou que nem sempre a tecnologia programada será consolidada como o planejado, seus inventores e a própria sociedade pode perder o controle de seus rumos e efeitos. Os economistas nomeiam esses resultados de externalidades positivas e negativas.
O Estado tem uma papel decisivo quando se fala em desenvolvimento tecnocientífico. Não somente pelo seu grande poder de compra, mas também pela capacidade de realizar arranjos e processos que podem inibir ou incentivar soluções e tendências tecnológicas. A China é um exemplo do inegável papel do Estado para mudar os rumos tecnológicos de um país. Os Estados Unidos é outro exemplo. Aqui vou iniciar uma argumentação que buscará mostrar o absurdo caminho trilhado pelo governo Bolsonaro em um momento em que o Brasil precisava ter dado um salto em direção á construção de infraestruturas decisivas para o desenvolvimento de tecnologias críticas, seja do ponto de vista econômico, seja geopolítico. Além de adeptos da doutrina neoliberal e da submissão aos interesses norte-americanos, os gestores de Bolsonaro buscaram se consolidar como compradores e usuários de soluções tecnologicamente avançadas. Não foram imitadores, apenas mero compradores de produtos e serviços.
Um dos caminhos para a invenção e desenvolvimento tecnológico é a imitação, como demonstrou o historiador Nathan Rosenberg ao estudar os Estados Unidos do século XIX. De certo modo, a China trilhou esse caminho, a Coreia também. Mas, nem um dos dois países deixaram de apostar na invenção, em buscar a fronteira de determinadas áreas da tecnociência. Entretanto, ser apenas um comprador dos “melhores serviços e produtos para mantermos a qualidade do serviço público”, nos dizeres de gestores Bolsonaristas, não parece levar a um estágio mais avançado. Além disso, deixa de apostar na tecnodiversidade, ou seja, na absorção e aplicação de nossa perspectiva cultural e de nosso modo de vida nos projeção das tecnologias da informação e comunicação. A condição de usuário e comprador é insuficiente para obter o mínimo de autonomia e soberania tecnológica.
O governo norte-americano publicou em 2021 um documento contendo orientações estratégicas para a segurança nacional. A estratégia traz a relação das Tecnologias Críticas Emergentes, definidas com base na segurança do país e na sua relevância para a economia. Foram destacadas 19 tecnologias críticas, entre elas: Energia Nuclear; Inteligência Artificial; Sistemas Autônomos e Robótica; Biotecnologias; Tecnologias de Comunicação e Redes; Tecnologias de Informação Quântica; Geração e Armazenamento de Energia Renovável; Semicondutores. O Estado norte-americano organizou um planejamento para cada uma dessas tecnologias.
Como tecnologia crítica transversal e cada vez mais utilizada por diversos segmentos tecnoeconômicos, a Inteligência Artificial, nos últimos anos, obteve do governo norte-americano duas Ordens Executivas presidenciais, em fevereiro de 2019, na gestão Trump, e, em outubro de 2023, na gestão Biden. Uma “Executive Order” é um instrumento utilizado pelo presidente dos Estados Unidos para gerenciar as operações do governo federal, para definir políticas públicas e destacar a missão de cada órgão, entre outras finalidades. A Ordem Executiva lançada por Trump recebeu o título Maintaining American Leadership in Artificial Intelligence (A manutenção da liderança americana em inteligência artificial). Já a de Biden foi nomeada Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence (Ordem Executiva sobre o Desenvolvimento e Uso Seguro, Protegido e Confiável de Inteligência Artificial).
A proposta de Trump concentrava-se na promoção da liderança norte-americana em inovação e na condução mundial da IA, já a de Biden concentra-se mais no desenvolvimento e uso da IA segura e confiável com regulação contra riscos notórios e previsíveis. Ambas, em graus diferentes, deixam evidentes que os Estados Unidos devem ser a vanguarda da IA planetária. O texto de Biden busca amenizar algumas afirmações pela liderança americana em um contexto de dificuldades para manter a extração de dados pessoais da Europa para os Estados Unidos. Dados em abundância são o insumo fundamental para a extração de padrões necessário para o chamado “treinamento dos modelos de aprendizado de máquina” e suas inúmeras variações.
Na Ordem Executiva, de fevereiro de 2019, o quinto objetivo estratégico geral não deixava dúvidas de como as agências do governo norte-americano deveriam agir. A redação é cristalina: “Os Estados Unidos devem promover um ambiente internacional que apoie a pesquisa e a inovação americanas em IA e abra mercados para as indústrias de IA americanas, ao mesmo tempo em que protege nossa vantagem tecnológica em IA e nossas tecnologias críticas de IA da aquisição por competidores estratégicos e nações adversárias.” O grifo é apenas para ressaltar que abrir mercados e proteger sua vantagem é o que faz as Big Techs com apoio de um conjunto de organizações governamentais dos Estados Unidos.
Um pouco mais de quatro anos após a publicação do texto da gestão Trump, Biden na redação da sua Ordem Executiva, logo após reafirmar que quer “promover uma abordagem coordenada em todo o Governo Federal”, indica que “a IA reflete os princípios das pessoas que a constroem, das pessoas que a utilizam e dos dados sobre os quais ela é construída”. Essa passagem da Ordem Executiva chocaria uma parte dos consultores e dos gestores brasileiros que se esforçam para defender uma abordagem enaltecedora da neutralidade e objetividade dos dispositivos tecnológicos. Entretanto, a passagem aqui destacada expressa a visão de inúmeros pesquisadores e pensadores da tecnociência, como Cathy O’ Neil, ao declarar que “nossos próprios valores e desejos influenciam nossas escolhas, dos dados que optamos por coletar às perguntas que fazemos. Modelos são opiniões embutidas em matemática.”
As duas Ordens Executivas estão repletas de definições valorativas e objetivos nacionais que reafirmam elementos político e ideológicos que organizam o American way of life. Neste sentido, é importante observar os seguintes extratos dos oito princípios orientadores do texto proposto por Biden:
“O desenvolvimento e utilização responsáveis da IA exigem um compromisso de apoiar os trabalhadores americanos.” (…)
“Os interesses dos americanos que usam, interagem ou compram cada vez mais produtos habilitados para IA em suas vidas diárias devem ser protegidos.” (…)
“A privacidade e as liberdades civis dos americanos devem ser protegidas à medida que a IA continua a avançar. A Inteligência Artificial está tornando mais fácil extrair, reidentificar, vincular, inferir e agir com base em informações confidenciais sobre identidades, localizações, hábitos e desejos das pessoas.” (…)
“É importante gerir os riscos decorrentes da utilização da IA pelo próprio Governo Federal e aumentar a sua capacidade interna para regular, governar e apoiar a utilização responsável da IA para proporcionar melhores resultados aos americanos.” (…)
“O Governo Federal deve liderar o caminho para o progresso social, econômico e tecnológico global, tal como os Estados Unidos fizeram em eras anteriores de inovação e mudança disruptivas.”
A redação de princípios é genérica, mas indica finalidades diante de situações, tendências e riscos hipotéticos ou previsíveis. Primeiro, Biden coloca inequivocamente o problema do trabalho e dos trabalhadores diante do avanço da IA. Ultrapassando generalidades, no detalhamento de ações, a Ordem dá 180 dias para que se apresentem uma série de ações, entre elas: um relatório que o presidente do Council of Economic Advisers sobre os efeitos da IA no mercado de trabalho, até um conjunto de proposições que o secretário do Trabalho apresentará ao presidente sobre as capacidades das agências para apoiar os trabalhadores deslocados pela adoção da IA.
A Ordem Executiva do atual presidente não esconde que existem implicações negativas do uso da IA na análise, coleta e utilização de dados realizadas pelas empresas sobre os trabalhadores. Por isso, indica a necessidade de transparência dos processos envolvendo esses dados, bem como a participação de sindicatos em seu acompanhamento. Seria possível alegar que Biden inseriu elementos para obter apoio eleitoral das associações de trabalhadores na disputa que ocorrerá em 2024 contra a extrema direita norte-americana. Todavia, o fato é que o tema da destruição e precarização de empregos promovida pela IA é relevante para os líderes dos trabalhadores norte-americanos e para boa parte da opinião pública dos Estados Unidos.
O segundo ponto a destacar pode ser lido como um importante alerta. O texto assinado por Biden reafirma e deixa evidente que existe um uso irresponsável da IA para os “americanos” e por isso indica a necessidade de “aumentar a sua capacidade interna para regular” e governar essa tecnologia. Ao realçar o “uso responsável”, o texto denuncia os perigos da irresponsabilidade e reforça as preocupações com a proteção de dados e a privacidade, principalmente, diante da facilidade da IA “reidentificar, vincular e inferir” a partir dos dados para localizar, identificar e agir sobre “hábitos e desejos”. Chama a atenção, ainda, que os documentos especificam claramente que a proteção não é das pessoas em geral, mas dos cidadãos “americanos”.
Terceiro, a Ordem Executiva traz o inequívoco mantra norte-americano de que o governo dos Estados Unidos deve “liderar o caminho para o progresso social, econômico e tecnológico global’, o que é apresentado como sinônimo do sucesso da liderança econômica e política norte-americana das tecnologias de IA. Diversas medidas são inseridas por Biden que visam criar um impacto concreto na administração pública norte-americana com o objetivo de consolidar a primazia como desenvolvedores e usuários massivos de produtos e serviços de IA. Sem nenhuma surpresa, observamos que o Conselho de Inteligência Artificial da Casa Branca, criado pela Ordem Executiva de Biden, envolvem o Director of National Intelligence e o Secretary of Defense. Sua concepção mostra o espectro que sua gestão pretende dar para a condução da IA, incluindo no Conselho o Administrator of the United States Agency for International Development, a Assistant to the President and Director of the Gender Policy Council, o Secretary of Veterans Affairs e o Secretário da Educação, entre outras secretarias da área econômica e científica.
Biden deu um prazo de 365 dias na linha de manter a liderança mundial de IA para que o Secretário de Estado e o Administrador da Agência dos Estados Unidos para o Desenvolvimento Internacional, em coordenação com o Secretário de Comércio, agindo através do diretor do NIST, publiquem um Manual de IA no Desenvolvimento Global que incorpore os princípios da Estrutura de Gestão de Risco de IA , diretrizes e melhores práticas nas condições sociais, técnicas, econômicas, de governança, direitos humanos e segurança de contextos além das fronteiras dos Estados Unidos.
Liderar tecnologias implica também em liderar suas métricas e definir modo aceitáveis e não recomendáveis de fazê-las e mantê-las. Em 1901, os Estados Unidos criou o National Institute of Standards and Technology (NIST), como uma agência do Departamento de Comércio dos Estados Unidos. Foi criado como um laboratório que visava superar um grande desafio à competitividade industrial dos EUA na época, ou seja, constituir uma infraestrutura de medidas e padrões que ultrapassasse as capacidades do Reino Unido, Alemanha e outros rivais econômicos. O velho NIST nunca foi tão novo e tão importante, pois agora se debruça sobre definições importantes da IA. Na Ordem Executiva 14.110, Biden dá 270 dias para que se estabeleça “um plano para o envolvimento global na promoção e desenvolvimento de padrões de IA” que incluam a nomenclatura e a terminologia a ser utilizada, o que deve ser considerado “melhores práticas relativas à captura, processamento, proteção, privacidade, confidencialidade, tratamento e análise de dados”, o que deve ser considerado confiável e verificável nos sistemas de IA e como deve ser sua gestão de riscos.
Na disputa pelo controle do desenvolvimento mundial da IA além de interiorizar, ampliar e comandar as infraestruturas críticas, a Ordem Executiva da Presidência dos EUA dá 180 dias para o Secretário de Defesa e para o Assistente Presidencial para Assuntos de Segurança Nacional elaborar um relatório que contenha recomendações para definir como contratar não cidadãos norte-americanos para trabalhar em laboratórios estratégicos de IA e demais tecnologias críticas, bem como propor como deve ser o alistamento de não cidadãos especialistas em IA e demais tecnologias críticas emergentes pelo Departamento de Defesa e outras instituições de segurança nacional.
Joe Biden havia publicado a Ordem Executiva 14.034, em 9 de junho de 2021, que se intitulava “Protegendo os dados confidenciais dos americanos contra adversários estrangeiros”. Nela, Biden considera fundamental “elaborar medidas para enfrentar a emergência nacional no que diz respeito à cadeia de fornecimento de tecnologia e serviços de informação e comunicação”. Por quê? O texto explicita “especificamente, o aumento do uso nos Estados Unidos de certos aplicativos de software conectados projetados, desenvolvidos, fabricados ou fornecidos por pessoas pertencentes ou controladas por, ou sujeitos à jurisdição ou direção de, um adversário estrangeiro” colocam em risco a segurança e a economia norte-americanas. Isso se dá pelo fato que tais dispositivos digitais “podem acessar e capturar grandes quantidades de informações dos usuários, incluindo informações pessoais e informações comerciais proprietárias de pessoas dos Estados Unidos. Esta recolha de dados ameaça fornecer aos adversários estrangeiros acesso a essas informações. O acesso de adversários estrangeiros a grandes repositórios de dados de pessoas dos Estados Unidos também apresenta um risco significativo”.
E o Brasil? Como vê a IA? Como constrói suas infraestruturas para a IA? Como protege os dados de suas pesquisas e dos laboratórios de suas universidades? Infelizmente, até nosso Poder Judiciário está entregando dados de seus processos judiciais e de suas comunicações internas para infraestruturas digitais das Big Techs que os hospedam fora da nossa jurisdição. Grande parte dos gestores brasileiros se esmeram em construir argumentos para entregar os dados do governo, das universidades e da população para as empresas norte-americanas, mas poucos se empenham em propor políticas públicas soberanas. Aprisionados pela dependência real, teórica e imaginada, estamos com poucas iniciativas para avançarmos não apenas no uso de IA, mas também em seu desenvolvimento. Para tal, será necessário a construção de infraestruturas e frameworks de IA que estejam sob a nossa jurisdição, governança, controle.
Nas primeira página da introdução do livro As Veias Abertas da América Latina, Eduardo Galeano escreveu “a divisão internacional do trabalho significa que alguns países se especializam em ganhar e outros em perder”. Parece que o neocolonialismo se manifesta economicamente mais forte no cenário digital. Nessa divisão internacional do trabalho, caberia ao Brasil dois papéis. O primeiro, é converter-se em um grande fornecedor de dados de sua população para treinar os sistemas algoritmos das Big Techs. O segundo é tornar-se um fazedor de aplicativos que alimentem o ecossistema e as infraestruturas de IA das Big Techs. Mas, existe outras alternativas. Elas passam por organizar uma estratégia de soberania digital. Esta passa pela constituição de infraestruturas soberanas de dados e de IA. Essa deveria ser a prioridade tecnológica do Estado brasileiro.
CASSINO, João Francisco; SOUZA, Joyce; SILVEIRA, Sérgio Amadeu (Ed.). Colonialismo de dados: como opera a trincheira algorítmica na guerra liberal. Autonomia Literária, 2021.
ESTADOS UNIDOS DA AMÉRICA. Presidência da República. Executive Order 14034 of June 9, 2021. Protecting Americans’ Sensitive Data From Foreign Adversaries. Disponível no link.
ESTADOS UNIDOS DA AMÉRICA. Presidência da República. Executive Order 13859 of February 11, 2019. Maintaining American Leadership in Artificial Intelligence. Disponível no link.
ESTADOS UNIDOS DA AMÉRICA. Presidência da República. Executive Order 14110 of October 30, 2023. Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence. Disponível no link.
LATOUR, Bruno. Reagregando o social: uma introdução à teoria do ator-rede Salvador/Bauru: Edufba/Edusc, 2012.
ROSENBERG, Nathan. Exploring the black box: Technology, economics, and history. Cambridge University Press, 1994.
WINNER, Langdon. Autonomous technology: Technics-out-of-control as a theme in political thought. Mit Press, 1978.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Inteligência Artificial: o Brasil optará por ser vassalo? - Instituto Humanitas Unisinos - IHU
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
O historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS
