09 Dezembro 2024
“Ver a tecnologia como mera ferramenta, ou como obstáculo, como se fora algo externo ao humano, reforça a ideia de separação entre natureza e cultura e não consegue explicar os fenômenos das transformações e responder aos desafios éticos e bioéticos do mundo atual”, escreve Elen Nas, pós-doutoranda da Cátedra Oscar Sala do Instituto de Estudos Avançados da Universidade de São Paulo, em artigo publicado por Jornal da USP, 02-12-2024.
A constituição do sujeito moderno foi marcada por tensões e resistências a novos modos de vida conduzidos por um modelo de racionalidade que calcula (ratio), classifica, separa, organiza e reduz.
Em uma sequência de ações multicamadas, as tecnologias do mundo moderno chegaram refletindo as disputas e guerras advindas da constituição dos Estados nacionais como forças imperialistas que suprimiram culturas regionais, seja pelo massacre violento, seja pela imposição de uma única linguagem.
Michel Foucault argumenta em História da Sexualidade I (A vontade de saber) que a distinção entre o espaço público e privado da vida moderna gerou novos protocolos como uma burocratização dos afetos. Este foi um período em que a moral precisou também de uma atualização da racionalidade, transferida para a esfera social, através de normas de comportamento que não eram apenas regradas pela Igreja ou pela Lei. As “regras de etiqueta” foram novos dispositivos criados de modo que a ética formal transbordasse ao mundo sensorial regido pela estética: um processo bem demonstrado no estudo de Terry Eagleton chamado A ideologia da estética. Sendo, a ideologia, um conjunto de ideias projetadas para estabelecer o controle social através de valores classificados em escalas de maior a menor “razoabilidade”.
Tais mudanças advindas do produto de ideias iluministas representaram uma construção intelectual em que a razão – como força masculina – deveria se sobrepor à emoção – como característica feminina; a ética como “produto” da razão e a estética como representação do mundo sensorial. A razão como atributo da mente e a emoção como expressão do corpo.
Assim, o impacto do mundo moderno nas subjetividades inicia-se no controle das ideias sobre o corpo, avançando para outros condicionamentos impostos nas relações com novos dispositivos técnicos, como o relógio.
A relação com o tempo e o espaço mudou à medida que a máquina se tornava soberana e a protagonista de um projeto de mundo, liderado por uma classe que emerge através do comércio, exploração do trabalho e acumulação de riquezas.
A indústria moderna foi alavancada com o suporte da violência colonial, na apropriação de territórios e suas riquezas. Nada de muito novo, não fosse a ideia do corpo como uma máquina e da máquina antropomorfizada pela ideia de compor um conjunto orgânico destinado a cumprir funções e finalidades como as entendidas no sentido biológico.
O conceito de homem-máquina, que é hoje a simbiose do humano pós-orgânico e que tem sua vida sintetizada através de informações, migrou do dualismo cartesiano para perspectivas monistas materialistas como a apresentada na fase jovem do Iluminismo pelo médico e filósofo Julien Offrey de La Mettrie. Ele defendeu a tese de que a consciência não estava distante em algum território metafísico, mas que do contrário, ela se processava no corpo através dos fluidos que continham informações.
Ele dizia que alguns homens tinham a consciência alojada no estômago, e esta não era uma crítica exclusiva àqueles que por força das circunstâncias estavam famintos, mas em especial àqueles que mesmo possuindo tudo eram guiados por instintos mais avarentos, como o de mover-se pelo estômago.
Sua obra Man, a Machine, escrita no século 18, pode ser considerada a gênese das ideias behavioristas. Pois assim como a máquina é constituída de peças com funções, a ideia de funcionalidade para os seres, dar-lhes um sentido de utilidade em sua integração com a máquina, marcou a constituição do sujeito moderno de tal forma que determinou seu processo de individuação. Desde que, por submeter-se e deixar-se manipular em mecanismos de punição e recompensa, o humano é também passível de atender a uma previsibilidade orquestrada pela engenharia, seja ela mecânica ou computacional.
Entretanto, o processo de adaptação dos humanos a novas formas de convívio com as máquinas e ideias maquínicas não se deu sem resistências, guerras e lutas.
Se na relação do ser-no-mundo o tempo poderia ser medido pelo cozimento de um ovo ou o deslocamento de um ponto a outro, as horas do dia pela posição do Sol, da Lua, das estrelas, as semanas pelas fases distintas da Lua, o que significou ter o tempo medido pelos movimentos mecânicos do relógio?
O tempo passava a se ajustar à presença imperativa da máquina industrial que, por sua potência alienante, tornou-se soberana. O artesão que antes possuía visão da totalidade de sua criação, perdeu autonomia para a automação da máquina industrial. Não saber mais o que faz, apenas “apertar botões”, porcas, parafusos, por fim, tornar-se – o próprio humano – uma ferramenta. Contra tal aniquilamento das subjetividades os luditas se levantaram como movimento de trabalhadores em oposição ao uso das máquinas industriais que precarizavam suas atividades, ameaçando tornar os trabalhadores obsoletos, destituídos de sua condição de sujeito autônomo e consciente de suas atividades.
Quebrar algumas máquinas não resultou em quebrar a ideia que sustentava a máquina, o projeto racional, as utopias renascentistas e a promessa de um novo mundo cheio de inovação e criatividade. Assim, a complexidade da máquina não se reduzia a ser um instrumento da burguesia industrial para o seu enriquecimento, ganho de poder e controle. Ela veio amparada pela promessa de um mundo novo, sem guerras e sem fome. Se o teocentrismo “cedeu” lugar para o antropocentrismo, houve uma aposta no homem, este homem que deveria representar todos os homens: o burguês, branco, industrial, europeu moderno. O Iluminismo apresentou o arcabouço de conhecimento deste mundo, a ética para a esfera pública, a estética (incluindo normativas comportamentais organizadas através de “etiquetas”) para a esfera privada e relacional.
Se a máquina, como disse Marx, promoveu a alienação do trabalhador sobre o seu trabalho, havia aí uma nova possibilidade de vigor para a dialética: o movimento, o conflito, a possibilidade de resolução.
Com a ideia, porém, de disputas de poder, forças em oposição, Marx acreditou na vitória da maioria, a potência presente na organização dos trabalhadores contra a exploração e opressão que lhes roubava tempo e qualidade de vida. Mais tarde, buscando entender a falha da lógica marxista, a teoria crítica investigou como os conceitos de “maioria” se compunham e decompunham nos territórios sutis dos signos e seus impactos nas subjetividades. Porque essas subjetividades foram moldadas pelas capturas de seus desejos, como a possibilidade da igualdade e de, um dia, poder tornar-se um burguês, ou seja, alcançar uma “vida boa” como recompensa da dedicação ao trabalho.
Como um influente pensador do Iluminismo, Jean Jacques Rousseau propôs e defendeu a necessidade de um conjunto de normas sociocomportamentais para o controle do povo, em especial quando a Igreja deixava de exercer a influência soberana nos assuntos morais e ficou transferido para a comunidade, por meio das leis e outros “acordos implícitos”, o poder de agenciar os julgamentos morais.
Outro elemento gerador de conflito e opressão nas subjetividades pelo colonialismo euromoderno foram as categorias para o que deveria ser entendido como “principal” e “universal”, transferidas pelo conhecimento culto e científico. Se dentro dos territórios europeus as imposições de uma cultura centralizada pela língua, religião e estruturas de poder e governo, encontraram, como ainda encontram, resistências (territórios catalães, países bascos, etc.), seus impactos nos territórios colonizados foram – e são – ainda mais opressivos e violentos.
Para o filósofo afro-judeu, jamaicano e estadunidense Lewis Gordon, “indígenas/nativos”, “escravizados” e “negros” sofrem uma forma especial de melancolia, que é uma espécie de luto pela perda e/ou separação de um mundo e cultura que lhes são próprios, para ser expectador de um mundo que lhes rejeita por princípio e que categoriza sua existência e necessidades como “problemas”. Tal característica resulta em um sentimento de não lugar (homelessness) que transborda para além do espaço geográfico. Não se trata apenas da quebra do sentimento de fazer parte de um território. Trata-se de uma lacuna que transcende o territorial e temporal. Sobre como o corpo se percebe no tempo e no espaço, e como ele pode ganhar voz e agência em defesa de si e dos seus direitos quando tem uma identidade decepada.
Não por acaso, o crescente estudo e contato dos europeus com os povos nativos dos territórios colonizados abriu novos espaços de proliferação de ideias capazes de impulsionar uma nova “renascença”, durante o período inicial e de consolidação do desenvolvimento industrial, até que do século 18 ao 19 acentuam-se as críticas aos desvios humanos e estruturais que feriam as proposições do contrato social, em consideração a direitos humanos universais. A exploração dos trabalhadores nas fábricas, mulheres e crianças desafiavam a moralidade do homem como pai, provedor e detentor de todos os direitos sobre a família. A destruição de um modelo de família patriarcal abala-se quando a mulher precisava trabalhar e exigir sua cidadania, isto é, o pleno acesso aos direitos fundamentais. Do mesmo modo, não há patriarcado (refletido no monoteísmo de um Deus que é pai) que se sustente, quando a exploração do tempo se tornara tão severa, que também as crianças precisavam arriscar-se em ambientes perigosos e insalubres para evitar a fome. Assim, o mundo moderno encontrou transformações e resistências que inauguraram a fase contemporânea com muitas rebeliões nas fábricas, nas ruas, e mesmo envolvendo soldados e exércitos, como o caso da Revolução Russa.
Este foi um momento histórico fascinante desde que acontecia em simultaneidade com um ambiente científico em ebulição, com novas descobertas na Física, Ciências Biológicas, Química, Psicologia e Ciências Sociais.
Embora seja difícil entrar aqui nos fatos disruptivos como a “descoberta da eletricidade” e a identificação de adoecimentos coletivos em novos estudos que inauguraram as disciplinas de Psicologia e Sociologia, escrevo este texto revisitando a história para rememorar elementos que me parecem relevantes ao contexto atual por alguns motivos. Um é que já há cerca de dez anos venho percebendo um movimento de narrativas conservadoras em plataformas como o YouTube, onde grupos cristãos estadunidenses culpam a “teoria crítica” por “acabar com a família”. Uma visão parcial e desinformada, já que o fato de mulheres e crianças trabalharem nas fábricas por mais de 12 horas diariamente foi o que inviabilizou a continuidade de um modelo que foi amplamente criticado por muitos pensadores dos séculos 19 e 20, em muitos aspectos, não sendo exclusividade do grupo classificado como pertencentes à “teoria crítica”. Parece muito óbvio notar que, uma vez que a mulher passava a fazer parte da economia da família, não apenas com o trabalho cotidiano não pago – como o de cuidar da casa, dos filhos, do marido –, mas como parte importante do orçamento familiar, fazia sentido que esta mulher obtivesse os mesmos direitos de cidadania dos homens.
Como consequência, o movimento das sufragistas uniu mulheres operárias e burguesas pelo direito de voto, demanda que encontrou resistências por muitas décadas, sendo ainda intrigante pensar que um país rico e desenvolvido como a Suíça tenha referendado o direito ao voto para as mulheres apenas em 1971, décadas depois do Brasil, Estados Unidos e muitos outros.
O outro motivo em que me parece relevante rever os detalhes deste período histórico é que países de industrialização tardia, como a China, não viveram as ondas de pressão social e conflitos que foram capazes de estabelecer limitações legais na exploração do trabalho. Assim, novos modos de exploração do tempo, uso e exaustão dos corpos, como submissão a um sistema de autoridade gerido pelas máquinas, estão em curso em um momento em que elementos tais como organização social e sindical estão mais diluídos pela perda de significados dos valores “sólidos” que faziam parte do entendimento de um mundo constituído por elementos “sólidos”.
Esse mundo “quebrou” como um vaso que cai de uma prateleira. No lugar dele, um outro mundo digitalizado e globalizado começou a formar-se em “nuvens” compostas de “dados” traduzidos para linguagens algorítmicas de zeros e uns. Resultante de operações matemáticas como estatísticas e aprendizado de máquina. Quando as narrativas conservadoras, sejam elas progressistas ou retrógadas, querem discutir valores morais, elas tentam desviar o olhar do tempo em que estamos: o século 21 da computação ubíqua e pervasiva anunciada há cerca de meio século atrás por cientistas da computação que realizam pesquisas em favor do capital e do mercado, no Vale do Silício.
São elementos resultantes da globalização, da desterritorialização, da digitalização de todas as esferas da vida e sua redução a códigos binários.
A solidez que busca uma “tábua de salvação” como entre sobreviventes de um naufrágio, procura se resolver dentro de princípios de autoridade. Assim, pouco importa que permaneça a contradição entre teoria e prática, sempre presente na lógica da racionalidade – desde o idealismo platônico ao dualismo cartesiano.
Porém, enquanto a “democracia para alguns”, entre os gregos da Antiguidade, não tinha uma pretensão universalizante, ela se amparava na distinção entre humanos, através de conceitos tais como “bios”, que representava a “vida boa”, a vida que merece ser vivida, a vida do cidadão, e “zoe”, a vida nua, a vida de todos os seres que não contavam como cidadãos, sejam eles humanos ou não.
Tais ideias estiveram conosco todo o tempo, embarcadas na epistemologia: em todo conhecimento ocidental que tomamos contato desde o primeiro ano na escola primária até a universidade.
Gosto sempre de lembrar a passagem de Gilbert Simondon sobre o princípio hilemórfico aristotélico (a distinção entre forma e matéria), quando a “forma” é o que determina como as coisas devem ser, e a “matéria” é o conteúdo que preenche, que dá corpo à forma. Porque desse modo ele exemplifica como este conceito faz todo sentido em uma sociedade que possui escravos, onde corpos destituídos de soberania servem a propósitos que lhes são impostos.
Com tais elementos podemos perceber que o pensamento moderno revisita o que havia sido esquecido ou suprimido do pensamento e conhecimento antigos no período medieval, dentro de um novo projeto de poder, com amparo tecno-científico que forçou o colonialismo epistêmico: um mundo constituído e desenhado sobre ideias sistemáticas de dependência teórica como reafirmação da colonialidade.
Os movimentos sociais do século 20, entremeados por guerras e ditaduras, encontraram na Guerra Fria as disputas de narrativas entre a idolatria sobre o que seria o melhor (mais justo) sistema político, capitalismo, socialismo ou comunismo, e a iconoclastia capaz de transformar tudo em “marca”, dentro da cultura pop de massa: a “calça jeans”, a “blusa do Che Guevara”, ou seja, a comercialização de todos os símbolos como produtos de consumo. “Objetos do desejo” como afirmadores de identidades, geradores de sentimentos de pertencimento a este ou aquele grupo, ou senão, ao menos a possibilidade de pertencer ao grande mercado consumidor: ter as suas vontades e necessidades consideradas na economia do consumo, ver-se representado na propaganda e no marketing como alguém que pode gerar lucro, fazer parte do “circo performativo” dos “vencedores” da sociedade de consumo, e não ser apenas retratado como parte dos grupos carentes e despossuídos de tudo.
Donna Haraway em seu manifesto ciborgue procurou desenhar uma contranarrativa aos projetos dos seus conterrâneos – homens brancos californianos – conclamando a uma apropriação das tecnologias, de modo a reinventar o humano-máquina. Ela argumentou que, na impossibilidade de desfazer o processo ontológico da reificação do humano, dentro da simbiose com as tecnologias, a identidade “ciborgue” poderia substituir os rótulos tais como “mulher”, “negra” ou “negro” como um ser-no-mundo que interage e se funde com as máquinas. Uma noção de agenciamento criativo que difere da absorção acrítica das tecnologias na vida. Obviamente uma visão que desconhece as limitações de completa exclusão aos recursos tecnológicos e os conhecimentos requeridos para transformar os mesmos, muito comum nos grupos sacrificados pela violência colonial: afrodescendentes e indígenas.
Ainda assim, Haraway inspirou de maneira lúdica projetos afrofuturistas. Mas estes, sem ilusões, perceberam as correlações entre opressão e usos de humanos por humanos, nos ideais sobre a automação e a robótica. Uma nota especial para Louis Chude-Sokei em The Sound of Culture Diaspora and Black Technopoetics: ter o robô (ou a IA) como servo tranquiliza os oprimidos. Ou melhor, para o escravo, ter a máquina como escrava torna-se uma possibilidade de experimentar alguma autoridade e agenciamento.
A peça teatral que deu origem à palavra robô, do escritor tcheco Karel Capek, chamava-se Rossum Universal Robots, sendo ‘robot’ ou ‘robota’ a palavra equivalente à escravidão/servidão em tcheco. Os “escravos universais da razão” eram robôs que compunham o imaginário futurista do início do século 20, como representantes de um passado (uma analogia a trabalhadores explorados nas fábricas, tratados e entendidos como máquinas) e de um futuro (máquinas antropomorfizadas capazes de desempenhar os papéis dos humanos). Em ambos os casos, sendo humano ou sendo máquina, seu único destino é rebelar-se para que sua existência automatizada ganhe autonomia.
A felicidade como conquista da autossoberania seria desejável até mesmo para as máquinas. Por isso Chude-Sokei argumentou que o fetiche com as máquinas acompanha o fetiche com a servidão, de modo que o fetiche da mercadoria se confunde com as necessidades libidinais.
Estas são questões para refletirmos o momento atual dentro de um novo processo disruptivo provocado pela IA (inteligência artificial).
Para lembrar os processos iniciados na era moderna os modos de ser e estar no mundo passam a ser mediados por máquinas que se diferenciam das ferramentas antigas, capazes de potencializar ações individuais e pontuais, para um outro tipo de tecnologia que condensa sistemas econômicos, políticos e sociais, transbordam na esfera íntima e se sobrepõem às necessidades consideradas essenciais aos humanos, como o direito ao lazer e ao ócio. Direito este que nem mesmo as crianças, no passado e em alguns casos no presente, podem gozar.
O impacto nas subjetividades, o sofrimento psíquico que as interações com estes sistemas desencadeiam de maneira recorrente e em grandes escalas, por alguns séculos não “entravam para a conta” das responsabilidades sobre os trabalhadores e sociedade. Assim como também não entram para a conta na atual Revolução Industrial 4.0.
Zigmunt Bauman, em Globalização: as consequências humanas, lembra que o advento da internet é marcado pela transferência das operações comerciais para “a nuvem”. O sistema financeiro torna-se “absoluto” e passa a operar descolado do que as empresas representam na vida das pessoas, o que impacta nas vidas e territórios. O que passa a importar, nos códigos binários em milhões de números flutuantes, são os investidores.
Somado a isto, novas táticas administrativas passaram a sugerir a contratação de times anuais, onde ao final de cada período apenas alguns serão efetivados. Para Bauman, esta estratégia quebrou as antigas práticas de organização sindical, pois estimulou uma competitividade e suspeita permanente entre as pessoas, colocando-as em policiamentos e julgamentos contínuos dentro do que Michel Foucault já havia identificado como a “microfísica do poder”.
Essas políticas administrativas são um exemplo de como ideias estruturadas em forma de produtos/projetos resultam em biopolíticas que exercem biopoderes capazes de controlar e influenciar mentes e corpos.
Por esses motivos, a filosofia da tecnologia representada por Marcuse e Feenberg atenta que o marxismo não chegou a criticar com a atenção necessária a maneira impactante das tecnologias nos modos de vida e na consciência, entendendo claramente que não há neutralidade nos modos de projetar a máquina. Os países do campo “socialista” importaram o sistema industrial sem questionar ou mesmo entender seus impactos nas subjetividades, até mesmo como possibilidade da sociedade responder a desafios econômicos e socioambientais de maneira que seja coerente com o que se espera de uma crítica ao capitalismo.
Finalmente, para adensar os elementos de reflexão sobre os impactos das tecnologias na vida, cito a perspectiva pós-fenomenológica de Peter-Paul Verbeek, que argumenta que a tecnologia não apenas modifica o humano como algo externo a ele. Ela é um processo de hibridização contínua que não se explica pela dialética tradicional onde a ideia de oposição, e não de fusão, é predominante.
Ver a tecnologia como mera ferramenta, ou como obstáculo, como se fora algo externo ao humano, reforça a ideia de separação entre natureza e cultura e não consegue explicar os fenômenos das transformações e responder aos desafios éticos e bioéticos do mundo atual.
Ademais, trabalhamos ainda com um sistema de conhecimento que se sente ameaçado com as informações que estão fora do alcance dos cinco sentidos humanos reconhecidos cientificamente.
Com estas notas em que revisito elementos da história, conectando-os ao presente, procuro estabelecer uma ponte para jogar luz às reflexões sobre os maiores desafios para compreender a IA.
Acredito que as considerações bioéticas, que vêm a requerer ter uma visão sobre os possíveis impactos futuros da IA, não se encontram no campo político, educacional, econômico ou social. Eles são de ordem epistemológica e metodológica. Este novo mundo com mediação algorítmica permanente requer investimentos em ações que somente poderão ser capazes de surtir efeito em médio e longo prazo, como estímulos a diálogos interdisciplinares e multisetoriais que são lentos, e investimentos em “produtos” com foco em letramento digital com metodologias criativas que, em um primeiro momento, poderão demonstrar não ter nenhuma “utilidade” para “soluções práticas”.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Desafios da IA: as tecnologias do mundo industrial moderno, transformações na subjetividade e resistências - Instituto Humanitas Unisinos - IHU
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
O historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS
