"Acabamos dependendo dos algoritmos para extrair sentido do Big Data. Precisamos transformar a Biblioteca de Babel: de uma ameaça para uma promessa de encontrar o que nos é relevante", adverte o pesquisador
A cultura digital na qual estamos imersos coloca inúmeros desafios à sociedade contemporânea e, mais especificamente, a cada indivíduo. Um deles consiste em "extrair um sentido", uma compreensão mútua do mundo, da cultura, "a partir da vastidão da infosfera caótica" que nos cerca todos os dias através de inúmeros conteúdos compartilhados na internet. "A primeira tarefa com que nos confrontamos neste espaço é a de escolher em que prestar atenção", diz Felix Stalder, professor de Cultura Digital e Teorias das redes da Zurich University (Suíça), em sua conferência ministrada no “Simpósio Internacional IHU Homo Digitalis. A escalada da algoritmização da vida em tempos de pandemia”. "Olhar para algo, seja um jornal, um artigo, um vídeo de gatos, significa não olhar para as milhões de outras coisas que estão igualmente disponíveis. Tais coisas ficam disponíveis apenas quando decidimos olhá-las ou, talvez, interagir com elas. Até aqui, são somente entradas insignificantes em um banco de dados. É a interação humana, a atenção humana que cria significado dentro deste universo infinito", afirma.
Atualmente, explica, existem dois princípios de produção de sentido na cultura digital: "um deles centra-se na cognição humana, na comunicação humana e nas trocas horizontais. E o outro centra-se no ordenamento maquínico e em torno de fluxos altamente hierárquicos de dados, criando uma relação de centro e periferia, com os algoritmos estando no centro e os usuários na periferia". Esses dois princípios, ressalta, não são excludentes e cada vez mais os seres humanos necessitam dos algoritmos "para lidar com a grande quantidade de informação disponível". Nesse ambiente, destaca, "a questão política que enfrentamos hoje é: Como estas diferentes lógicas dependem umas das outras? Qual é a predominante e qual se subordina às demandas do dominante?"
Essa e outras questões sobre os efeitos da relação entre o ser humano e os algoritmos para a política e, mais amplamente, para a cultura e a democracia, são respondidas a seguir, na conferência de Stalder, que publicamos no formato de entrevista.
Felix Stalder (Foto: Univerisdade de Zurique)
Felix Stalder é professor de Cultura Digital e Teorias das redes em Zurique. Também é membro do conselho do World Information Institute em Viena. Suas pesquisas se voltam para temas que inter-relacionam sociedade, cultura e tecnologia. Interessa-se pelos estudos sobre cultura na rede, direitos autorais, bens comuns, privacidade, sociedade de controle e subjetividade. É autor de diversos livros, dos quais destacamos: Digital Solidarity (2013), Der Autor am Ende der Gutenberg Galaxis (2014) e Kulturder Digitalität (Suhrkamp, 2016).
IHU On-Line – O que o senhor entende por “transformação cultural”, tema de suas pesquisas?
Felix Stalder - Aqui adoto uma definição bastante ampla de cultura. Eu a entendo como a soma de todos os processos que definem coletivamente como vivemos as nossas vidas. Sempre que superamos o reino da pura necessidade, chegando a uma região onde diferentes possibilidades existem, adentramos o reino da cultura porque precisamos de um marco para decidir quais dessas possibilidades queremos tentar concretizar. Isso cria uma situação normativa. Precisamos descobrir quais possibilidades podemos detectar como as melhores.
Imaginemos como sendo uma bifurcação na estrada, onde precisamos decidir se vamos para a direita ou a esquerda, ou em linha reta ou talvez criar caminhos completamente novos. Precisamos de um critério, precisamos ter ideia do que queremos fazer. Precisamos ter uma ideia do que é melhor e do que é pior, para tomar esse tipo de decisão. Não se trata de uma questão somente individual, que temos de decidir por nós mesmos, mas precisamos concordar com outras pessoas sobre tais critérios. Temos que negociar sobre qual caminho seguir, porque não podemos simplesmente decidir sozinhos.
A cultura é sempre coletiva, mesmo se a exercemos individualmente. Nem estes acordos de que precisamos para negociar, nem o coletivo que está tentando negociá-los são, realmente, estáveis. Há um processo constante de negociação sobre o que concordar, e sempre também a respeito de quem ouvir, no momento de acordarmos sobre o que fazer, seja ir para a esquerda ou direita, seja para ir em linha reta. Isso é algo que fazemos diariamente e na prática especializada. Fazemos diariamente na forma como conduzimos nossas vidas, mas há também muitos que têm enfocado exatamente nestas negociações em suas práticas profissionais.
É a cultura que nos permite distinguir o bem do mal, o belo do feio, o desejável do repulsivo. Em resumo, a cultura nos diz como viver. Nesse sentido, cultura é a soma destes processos, com alguns aspectos que evoluem mais lentamente do que outros, e com alguns acordos sendo compartilhados de modo mais amplo com os demais. Este processo sempre contém tensão e desacordo, pois há relações de poder e os seus resultados, temporários e contestados que são, invariavelmente beneficiarão uns mais e outros menos. Essa visão de cultura não é específica da cultura digital, mas da cultura em geral. O específico do digital é como estes processos estão organizados, o que é bem diferente de como costumavam ser na modernidade ocidental naquilo que o teórico Marshall McLuhan chamou de a Galáxia de Gutenberg, ainda nos anos 1960.
Com essa expressão, McLuhan queria dizer uma cultura caracterizada e modelada pela imprensa, o que significa, num sentido mais básico, que o espaço onde as negociações ocorrem é limitado, fixo e organizado de um modo linear. Tais são os aspectos fundamentais de uma cultura criada com base em material impresso.
Essa organização limitada, fixa e linear se faz mais visível nos jornais impressos, os quais têm um número fixo de páginas: 32 ou 64, por exemplo, e são divididos em seções estáveis. Digamos que temos uma seção de política, uma seção de economia, uma seção de esportes e cada artigo pertence a uma única dessas seções. Portanto, escrevemos ou sobre esportes ou sobre política, e há jornalistas diferentes que usam um vocabulário diferente, escrevendo para seções diferentes do jornal.
Além disso, o espaço dentro do jornal é limitado e sua produção é cara. Alguém precisa decidir o que é digno de ser impresso. Portanto, temos funções especializadas (os editores, neste caso), que tomam estas decisões. Eles usam qualquer critério que venham ter para decidir o que é e o que não é relevante o suficiente para merecer inclusão neste espaço limitado.
Lembremos que, por muitos anos, o jornal The New York Times adotou o lema “All the News That’s Fit to Print” (todas as notícias cabíveis). Naturalmente, existem jornais bons e ruins, mas todos compartilham deste processo em que decisões editoriais são tomadas, o que tem a ver com as condições materiais de produção. Como dito, o espaço é limitado, e é caro produzir um jornal.
Esta prática criou uma certa ordem, uma certa forma de ver o mundo. Por exemplo, através destas seções que privilegiam, obviamente, certos pontos de vista em detrimento de outros. De novo, não faço aqui uma avaliação qualitativa. É simplesmente a estrutura de como a produção de significado ocorria dentro do contexto de um meio impresso.
Atualmente, as mídias digitais operam de maneira muito diferente. O espaço para aquelas negociações não é limitado, nem fixo, tampouco linear. Pelo contrário, podemos dizer que o espaço das mídias digitais é infinito, o que significa que não podemos ter uma visão geral, não sabemos o seu tamanho real, só vemos um aspecto limitado seu. Este espaço é dinâmico, muda constantemente e não é linear; isto é, não há uma sequência fixa, predeterminada das coisas. Tudo pode ser organizado ao lado de qualquer outra coisa. Em outras palavras, esse espaço, onde não temos uma visão geral, que muda constantemente, que não possui uma ordem inerente, é caótico e confuso.
Consequentemente, as pessoas precisam criar os seus próprios significados, porque inexiste uma estrutura pré-organizada como no jornal. As pessoas precisam decidir por elas mesmas sobre o que é bom e ruim e sobre como querem viver. Algumas pessoas convivem com isso encarando como uma oportunidade, outras como uma ameaça.
O processo de produção de sentido nestas condições, confusas e caóticas que são, é estruturado por três padrões fundamentais, os quais chamo de referencialidade, comunalidade e algoritmicidade.
IHU On-Line – Em que consiste cada um?
Felix Stalder - Referencialidade refere-se ao fato de que estamos cercados, não por um ambiente informacional bem organizado, como faziam os jornais, mas por um ambiente caótico no qual somos bombardeados por uma miríade de coisas diversas que competem por nossa atenção, e mesmo coisas que se não nos bombardeiam, tiram a nossa atenção, coisas que estão potencialmente a um clique de nós.
Lembremos: os espaços de todas essas referências são infinitos. Agora existe uma necessidade técnica inerente para que haja uma seleção prévia. De fato, a regra neste ambiente é primeiro publique, e depois selecione. Se esta forma deve permanecer assim, se devemos estabelecer critérios inerentes de escolha neste ambiente, eis o grande embate político do momento.
Em todo caso, a primeira tarefa com que nos confrontamos neste espaço é a de escolher em que prestar atenção. Essa questão não se reduz a uma decisão necessariamente consciente, mas é uma decisão mesmo assim. Olhar para algo, seja um jornal, um artigo, um vídeo de gatos, significa não olhar para as milhões de outras coisas que estão igualmente disponíveis. Tais coisas ficam disponíveis apenas quando decidimos olhá-las ou, talvez, interagir com elas. Até aqui, são somente entradas insignificantes em um banco de dados. É a interação humana, a atenção humana que cria significado dentro deste universo infinito.
Fazemos isso diariamente, o tempo todo. Com o passar do tempo, na medida em que continuamos selecionando e fazendo as nossas próprias listas de preferências, coisas que olhamos, coisas que ignoramos, emerge uma visão de mundo.
As coisas que vemos modelam a forma como pensamos e como agimos. Escolher, a partir dessa miríade de possibilidades, algo em que prestamos atenção, torna-se a primeira forma de produção de sentido. Criamos significado por meio da seleção. Mas também há outras formas de produção cultural ao expandirmos o referencial delas, isto é, pegar as coisas que já existem e combiná-las em algo novo.
Como técnica cultural, isso não é necessariamente uma prática inteiramente nova, especialmente no Brasil, com a sua história de “digestão” de culturas estrangeiras. Mas essa técnica é predominante e explícita, além de ser supercarregada digitalmente. Cultura nunca é uma questão individual e as pessoas fazem esse tipo de escolha e produções não isoladamente, mas coletivamente, em comunidades. É por isso que a comunalidade é a segunda grande característica deste tipo de produção de sentido.
De fato, a segunda característica fundamental das mídias sociais não é apenas que ela permite criarmos os nossos próprios filtros e escolhermos a partir de uma quantidade infinita de referências possíveis, mas que eles (os filtros) nos permitem compartilhar as nossas escolhas com os outros e receber feedback sobre o valor das nossas próprias escolhas. Sempre que damos um “gostar” (curtir) em uma foto, sinalizamos para a pessoa: “Olá, eu gostei da sua escolha”. Assim, validamos a postagem e a visão de mundo que ela afirma implicitamente ou explicitamente, dizendo que a imagem é mais importante do que qualquer outra coisa, mesmo que somente por aqueles segundos em que a observamos. Da mesma forma, todos os “likes” que recebemos são uma validação da nossa cosmovisão e, por extensão, de nós mesmos, porque fomos nós que criamos essa visão de mundo. O mesmo ocorre quando compartilhamos ou encaminhamos uma postagem. Dizemos aos outros que deveriam olhar o que publicamos porque achamos importante.
Portanto essas comunidades não estão apenas validando uns aos outros para chegar a uma forma de entendimento comum do que é, ou não, importante. Elas também ampliam as escolhas e seleções umas das outras, ao disponibilizar à comunidade a escolha dos outros. A visão de mundo que uma comunidade pode produzir é mais extensa, mais profunda que a visão de mundo que uma pessoa individualmente pode produzir. É somente na comunidade que a pessoa pode saber que sua seleção tem algum valor.
Portanto aqui vemos o surgimento de uma nova relação entre o indivíduo e a comunidade. É a comunidade que valida a individualidade, e o indivíduo que precisa da comunidade para tornar significativa a sua seleção. Com o tempo, nestas comunidades algo como uma cosmovisão compartilhada emerge dentro do grupo, e um consenso cultural de como interpretar e agir no mundo se estabiliza. Tais grupos podem ser bem pequenos, ou podem ser muito grandes. E podem durar mais, ou menos, mas é dentro dessas comunidades que ocorrem processos de negociação. É nelas que emerge uma compreensão mútua de mundo, isto é, uma cultura. Mas mesmo em grupos coordenados e que usam tecnologias poderosas de mídias sociais, as capacidades cognitivas das pessoas não são capazes de extrair um sentido a partir da vastidão da infosfera caótica que há no mundo contemporâneo.
Desse modo, temos a terceira característica estrutural envolvida na produção contemporânea de sentido na cultura. Essa característica tem uma dimensão algorítmica. Cada vez mais, algoritmos poderosos organizam o fluxo de informações antes de chegarem até nós. Eles filtram um mundo infinitamente grande, pondo em formatos e tamanhos acessíveis para a cognição humana.
Peguemos, por exemplo, o que o Google faz. O Google organiza um ambiente informacional caótico, que muda rapidamente de um modo tal que o reduz a dez itens possíveis que recebemos como repostas a uma pesquisa. E só então, depois que o Google, ou qualquer outro mecanismo de busca, reduziu a dez itens aquela quantidade infinita de informação é que a cognição humana pode começar a avaliar e dizer: “Acho que o item número dois é melhor que o um” e, em seguida, clicar no link número dois para ir aonde quer.
Ou pensemos no news feed do Facebook. Pensemos em quantos amigos temos. Se temos algumas centenas de amigos e cada um produz algumas publicações no Facebook, imediatamente acabaríamos sobrecarregados apenas com as postagens dos nossos amigos. Assim, o Facebook tem um algoritmo que seleciona algumas das postagens e as coloca em uma ordem que fica fácil de ler, que não nos sobrecarrega com torrentes de postagens surgindo, mas sim organizadas de um modo que sejam acessíveis a um leitor humano. Claro que o site também se organiza de modo que possa exibir anúncios.
Mas o que quero salientar é que precisamos desses algoritmos, desses mecanismos de seleção para que possamos gerenciar um ambiente muito complexo, dinâmico e grande de informações. Estes algoritmos são muito importantes, altamente fundamentais. Sem eles, ficaríamos cegos diante de tanta informação. Seríamos como os habitantes da famosa biblioteca de (Jorge Luis) Borges “A Biblioteca de Babel”, perdidos num mar caótico de informação, cheio de livros sem sentido, sempre em busca daquele livro que contém o significado da biblioteca inteira e que jamais será encontrado.
Assim, acabamos dependendo deles para extrair sentido do Big Data. Precisamos transformar a Biblioteca de Babel: de uma ameaça para uma promessa de encontrar o que nos é relevante. Mas, obviamente, isso vem com um preço e o preço é que nos tornamos dependentes de apenas concebermos o mundo como os algoritmos o organizam para nós. Visto que não há uma visão geral, visto que não posso ver o todo, fica difícil saber o que os algoritmos não nos mostram. E isso faz extremamente poderosos aqueles que definem os sistemas algorítmicos. Efetivamente, eles definem o mundo como o percebemos.
Embora nunca vemos o mundo objetivamente, pois ele sempre é filtrado pela cultura, linguagem, hábito e experiência, hoje este processo de filtragem se tornou explícito. Alguém precisa escrever os algoritmos, e nesse processo tomam-se muitas decisões. A filtragem não só ficou explícita. Tornou-se também extremamente centralizada.
Pensemos em quantas pessoas organizam o seu dia com base nas informações do Google, ou quantas pessoas se baseiam no news feed do Facebook ou Twitter, Instagram, ou de alguma empresa chinesa de redes sociais. É muito pequeno o número de entidades que tomam essas decisões, que afetam milhões, bilhões de pessoas.
IHU On-Line – Que relações estabelece entre a cultura digital e o campo político?
Felix Stalder - Aqui podemos ver que existem dois princípios de produção de sentido incorporados na condição digital. Um deles centra-se na cognição humana, na comunicação humana e nas trocas horizontais. E o outro centra-se no ordenamento maquínico e em torno de fluxos altamente hierárquicos de dados, criando uma relação de centro e periferia, com os algoritmos estando no centro e os usuários na periferia.
Estes dois princípios não se excluem mutuamente. Não é um ou outro, mas um se baseia no outro. Como disse, as comunidades humanas precisam dos algoritmos para lidar com a grande quantidade de informação disponível. E também os sistemas mais altamente complexos são feitos por pessoas que atuam dentro de instituições, com pautas e vieses próprios, e contam com as ações das pessoas, do passado e do presente, como dados para que os sistemas aprendam e se adaptem.
A questão política que enfrentamos hoje é: Como estas diferentes lógicas dependem umas das outras? Qual é a predominante e qual se subordina às demandas do dominante?
Se os algoritmos predominam, e facilmente vemos que sim, que predominam hoje, como veremos na palestra de Nick Couldry sobre as consequências desta dominação, então vivemos num mundo que fica, cada vez mais, desigual, onde o poder se concentra cada vez mais.
A cultura humana, na forma como produzimos significados dialogando, encontrando-nos no mundo e trabalhando nele, reduz-se a uma simples entrada de dados nestes sistemas mecanizados que são construídos não para servir as pessoas, mas para promover interesses estreitos de seus donos. Atualmente, nos países ocidentais, estes interesses são principalmente comerciais, mas, na China, podemos ver que eles facilmente podem ser políticos.
Digo que estes interesses são estreitos porque mesmo quando eles são unicamente comerciais, são tão estreitamente comerciais que não se interessam pelas consequências que produzem para a democracia, nas esferas política, social, da cultura humana, desde que não interfiram nos seus interesses comerciais estreitos. Nestes sistemas algorítmicos, há uma concentração extrema de conhecimento, de riqueza e de poder nas mãos de poucas instituições. E isso conduz a sistemas cada vez mais autoritários, porque poucas pessoas têm o conhecimento e as possibilidades de agir e a tendência delas é simplesmente impor ordem no mundo.
Vemos claramente isso no Facebook, que é o sistema mais ditatorial imaginável: sua estrutura corporativa está organizada de um modo que, no fim, todo o processo de decisão se centra nas mãos de uma única pessoa, Mark Zuckerberg, obviamente.
Mas também vemos do lado de fora da estrutura corporativa, com a ascensão de sistemas autoritários que alegam ser capazes de organizar o mundo caótico se nós simplesmente e unicamente nos submetermos a eles. Vemos isso até mesmo em democracias antigas, o exemplo mais óbvio sendo os EUA atualmente, mas também o vemos em democracias mais frágeis que estão à beira de um colapso ou já colapsaram, e que voltaram a sistemas profundamente autoritários que impõem uma ordem bastante violenta ao povo.
Na maioria das vezes, vemos isso acontecer nos níveis nacional e internacional. Mas não é tudo. Podemos também usar as ferramentas maquínicas para servir uma lógica humana e desenvolver sistemas mais complexos de relação e interação com os outros, ampliando a democracia além daquelas formas vazias da democracia representativa, desenvolvidas nos séculos XIX e XX.
O termo genérico para esta outra trajetória é “o comum”, ou seja, uma área além do Estado e do mercado que segue uma lógica colaborativa, e não competitiva, de valor de uso, e não de valor de troca, de participação voluntária, não de comandos hierárquicos. O comum, ou os recursos compartilhados de forma mais geral, existiu sob diferentes nomes e sob diferentes enquadramentos institucionais em todas as culturas. Mas, por muito tempo, foi empurrado às margens, seja para estar sob o controle estatal ou através da privatização dos recursos, relegando-o à lógica de mercado.
Mas, agora, a ideia e a prática dos recursos compartilhados está sendo revivida por meio da tecnologia digital. Primeiro on-line, no caso das comunidades de software livre: Wikipédia, projetos como o Open Street Map, e milhares de recursos colaborativos compartilhados. As tecnologias digitais, e é por isso que elas estão sendo revividas, permitem que estes processos de tomadas de decisão compartilhadas de cooperação voluntária e colaboração se complexifiquem, o que permite ultrapassar o local e rural, alcançando o translocal e, cada vez mais, de volta ao urbano.
Porto Alegre, não preciso lembrá-los, desempenhou um papel pioneiro aqui. Mas vemos em cidades ao redor do mundo que novas formas de auto-organização e participação estão sendo desenvolvidas, fazendo uso das tecnologias digitais para melhorar a organização. Gostaria de encerrar a minha fala com estes dois princípios: um baseado numa lógica maquínica e conduzindo a sistemas políticos autoritários, predominantes hoje; e o outro, uma ordem emergente, baseada na colaboração humana realçada por máquinas, que vem surgindo e que, a meu ver, é bastante útil.