28 Agosto 2018
O boletim que a rede social oferece aos seus usuários é a mais recente invenção com consequências não calculáveis. Acima de tudo em nossa esfera privada. Mas uma alternativa existe.
A reportagem é de Evgeny Morozov, publicada por La Repubblica, 22-08-2018. A tradução é de Luisa Rabolini.
O Vale do Silício não demorou muito para responder às acusações de Donald Trump - recentemente comunicadas no Twitter, obviamente – segundo as quais toda a atividade de mídia social foi manipulada ideologicamente, bem como as vozes dos conservadores seriam sistematicamente destratadas e censuradas pela Big Tech, e tudo isso em nome de politicamente correto e politicamente civilizado. Como chegou alguns dias depois que as plataformas tecnológicas tinham obscurecido a presença on-line de Alex Jones, um dos defensores mais fervorosos, mas também mais conspiradores do presidente dos Estados Unidos, de fato o irado tuíte de Trump confirmou que o Vale do Silício tornou-se o novo terreno para as batalhas culturais americanas.
O Facebook conduziu o contra-ataque, revelando ao Washington Post que por mais de um ano aprimorou um sistema que classifica a confiabilidade de seus usuários em uma escala de zero a um. Com base em como os usuários interagem uns com os outros e em relação aos conteúdos que acessam na plataforma, o Facebook atribui-lhes uma pontuação, que, por sua vez, determina o quanto os seus posts e suas ações on-line podem ser influentes e de quanta visibilidade podem desfrutar.
A batalha entre Trump e as Big Tech é o microcosmo de um conflito social bem mais amplo relacionado à distribuição de poder na sociedade digital. Em um canto do ringue está a pesquisa uber-modernista do Vale do Silício para sistematizar e racionalizar todas as coisas, de nossas interações sociais até a credibilidade das nossas fontes de informação. No canto oposto está a suspeita pós-modernista em constante crescimento de que por trás das operações aparentemente universalistas e hiperracionais do Facebook e de seus pares, se esconde uma agenda secreta.
O Facebook e as empresas de Big Tech dispõem de um enorme arsenal de armas fantásticas ao alcance da ponta dos dedos, que porém não parecem funcionar a contento. Algoritmos, Big Data, blockchain: na tentativa do Vale do Silício de restaurar a confiança na infraestrutura social - indispensável não só para nossas comunicações diárias, mas também para os próprios modelos de negócios de empresas de tecnologia - não se poupa certamente nas ferramentas digitais. Essa infraestrutura social - agora firmemente nas mãos dos "magnatas dos dados”, e não mais sujeita ao controle exclusivo dos tecnocratas, do establishment cultural e dos diferentes meios de comunicação pública - na verdade suscita mais suspeitas do que antes.
As empresas de Big Tech, no seu papel de boas capitalistas, não têm grandes ambições de engenharia social e têm uma imaginação política bastante medíocre. O lucro, por outro lado, é uma motivação suficiente para explicar boa parte do que elas fazem. Em qualquer caso, não têm os meios adequados para vigiar suas plataformas de modo a agradar a todos.
E assim, aqueles que acabam deixados de fora - seja Alex Jones, que é de direita, ou a Telesur, o canal televisivo latino-americano de esquerda que recentemente viu negado seu acesso ao Facebook – sem duvida suspeitarão que o Vale do Silício nada mais é que a extensão natural do Deep State como pensa Alex Jones (uma espécie de estado-sombra, portanto), ou do imperialismo norte-americano como pensa a Telesur.
A aposta do Facebook, que atribui uma pontuação social para seus usuários, sugere implicitamente a estratégia implementada em todo o campo do Vale do Silício nessa batalha cultural: envolvida em acusações de nutrir preconceitos políticos, a Big Tech vai dobrar seu modernismo, aperfeiçoando um número ainda maior de armadilhas algorítmicas para restaurar a neutralidade de suas plataformas. É como se os partidários da Telesur ou de Alex Jones pudessem se sentir muito melhores sabendo que os seus posts favoritos foram censurados por terem recebido uma pontuação muito baixa baseada em alguma fórmula sofisticada que quantifica a "harmonia social".
O paradoxo em tudo isso é que os modernizadores positivistas - que pregam as virtudes da transparência absoluta - são os primeiros a ser, ao contrário, obscuros e incompreensíveis. Na verdade, ninguém sabe de que forma os algoritmos do Facebook funcionam, em quais critérios sejam baseados e quais ações levam a uma pontuação em vez de outra. Por outro lado, os pós-modernistas hermenêuticos - com suas acusações ao Deep State, ao imperialismo e à "caça às bruxas" - são claros e coerentes ao máximo: na cacofonia atual de histórias divisivas e abstrusas, a sua visão das coisas, marcadas por conspirações e traições, destaca-se solidamente e desprovida de ambiguidade, apesar das suas implicações pós-modernistas.
Independentemente de como irão acabar os bate-bocas entre Trump, FBI e CIA, é evidente que o Vale do Silício é um candidato para substituir o Deep State e se tornar o alvo favorito tanto da extrema direita como da extrema esquerda, no mínimo porque as suas operações são muito mais visíveis e consequentemente expostas a uma supervisão ininterrupta por parte da opinião pública.
As coisas só poderão piorar quando as implicações da pontuação social do Facebook se tornarem óbvias. Afinal, a empresa não é mais um playground trivial para estudantes universitários. Suas ambições empreendedoras se estendem por toda parte. Apenas algumas semanas atrás, o Wall Street Journal informou que o Facebook está tentando integrar informações dos clientes de vários bancos para facilitar a seus próprios usuários as operações bancárias que poderiam ser executadas diretamente a partir dos serviços oferecidos pela plataforma. Existe alguém que gostaria que as informações sobre sua situação financeira fossem integradas à pontuação social produzida pelo Facebook? E de que forma isso poderia incidir, por exemplo, sobre as probabilidades de um indivíduo obter outro empréstimo ou outra hipoteca?
Basta considerar, por outro lado, os muitos serviços on-line, incluindo o Airbnb, que dependem das contas do Facebook para verificar a autenticidade de seus usuários. Será que alguém realmente gostaria que a pontuação atribuída pelo Facebook - um mistério algorítmico - incida sobre a probabilidade de que o seu pedido para reservar um determinado apartamento seja aceito ou negado? Com a suspeita sobre a influência exercida às escondidas pelas Big Tech que aumenta dia a dia, é bastante difícil imaginar que um sistema de atribuição de pontuação social que molda as interações entre os usuários e entre eles e outras instituições possa mitigar os temores daqueles que consideram o Vale do Silício como uma enorme conspiração. Quanto maiores forem os temores, mais provável que a Big Tech seja esvaziada ou regulamentada, pelo menos enquanto Donald Trump ocupar a Casa Branca.
Em circunstâncias normais, a solução mais razoável teria sido de desenvolver uma boa pontuação universal válida em todas as plataformas, elaborada por métodos democráticos, em total transparência e sob o controle da opinião pública, com total clareza sobre os critérios pelos quais são julgados os usuários. Isso, no entanto, para a Big Tech significaria ceder a entes externos de revisão e controle toda a montanha de dados que acumulou e revelar os seus mistérios algorítmicos.
A China, com seu Social Credit System (sistema de crédito social), já hoje interpreta a versão absolutista dessa perspectiva: seu sistema de classificação está solidamente nas mãos do governo, e as empresas de tecnologia privadas no país são obrigadas a seguir diretrizes que vêm de cima. Claro, essa pontuação é usada para fins duvidosos - por exemplo, impedir que os cidadãos com uma pontuação baixa embarquem em um voo - mas poderiam também existir usos mais positivos. É plausível que tal sistema possa ser desenvolvido em um contexto democrático, sob controle e sob estrita vigilância? Claro, e de fato já foi adotado em muitos outros âmbitos (por exemplo, a pontuação de crédito com a finalidade de liberar um empréstimo bancário).
Passar para um sistema público desse tipo não seria um golpe letal para o Vale do Silício que, aliás, sairia com uma melhor proteção contra as acusações de estar em conluio com o Deep State ou com o imperialismo dos EUA. Mas os gênios de Palo Alto, infelizmente, são muito míopes para perceber isso. São racionalistas convictos, a ponto de parecer acreditar que quanto mais algoritmos usarem, mais protegidos serão das acusações de preconceito político. Em última análise, essa arrogância modernista será a sua ruína: já agora a raiva desencadeada por todos aqueles que são excluídas das suas plataformas é muito grande para ser controlada por uma sequência de números aparentemente objetivos.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Se o Facebook nos der pontos - Instituto Humanitas Unisinos - IHU