Cada um de nós se depara com uma arquitetura global de vigilância, ubíqua e sempre alerta, que observa e direciona o nosso próprio comportamento para servir aos interesses de muito poucos – aqueles que, com a compra e venda dos nossos dados pessoais e das previsões sobre os comportamentos futuros, obtêm riquezas enormes e um poder ilimitado.

A opinião é de Paolo Benanti, teólogo e frei franciscano da Terceira Ordem Regular, professor da Pontifícia Universidade Gregoriana, em Roma, e acadêmico da Pontifícia Academia para a Vida.

O artigo foi publicado em Avvenire, 25-11-2021. A tradução é de Anne Ledur Machado.

Eis o texto.

Na semana passada, eu viajei por motivos acadêmicos. Para concluir o procedimento de pré-check-in online com a Lufthansa, experimentei aquilo que Shoshana Zuboff chama de “capitalismo de vigilância”.

Depois da verificação algorítmica específica, para obter o meu cartão de embarque, tive que dar o meu consentimento explícito ao fato de que os meus documentos de vacinação fossem usados para treinar um algoritmo automático de controle de documentos, sem maiores explicações de como e de quanto essa habilidade cognitiva dos sistemas computadorizados da companhia aérea irá automatizar os processos posteriores.

No seu livro, Zuboff observa que a era que estamos vivendo se caracteriza por um desenvolvimento sem precedentes da tecnologia. Na análise da autora estadunidense, isso traz consigo uma grave ameaça à dignidade da vida humana.

De fato, cada um de nós se depara com uma arquitetura global de vigilância, ubíqua e sempre alerta, que observa e direciona o nosso próprio comportamento para servir aos interesses de muito poucos – aqueles que, com a compra e venda dos nossos dados pessoais e das previsões sobre os comportamentos futuros, obtêm riquezas enormes e um poder ilimitado.

Esse é o “capitalismo de vigilância”, o cenário que está na base da nova ordem econômica, que explora a experiência humana sob a forma de dados como matéria-prima para práticas comerciais secretas e o movimento de poder que impõe seu próprio domínio sobre a sociedade desafiando a democracia e pondo em risco a nossa própria liberdade.

Parece-nos interessante nos referir a esse texto de Shoshana Zuboff, fruto de anos de pesquisa, porque, de fato, a dignidade da vida não está mais confiada à proteção de códigos jurídicos, mas é elaborada por códigos informáticos muitas vezes obscuros, por estarem protegidos por direitos autorais, e apanágio de poucos sujeitos globais.

A proteção da vida só o será, na era digital, se começarmos a tomar consciência da pervasividade e da periculosidade desse sistema, conscientizando os nossos contemporâneos de como – muitas vezes sem nos darmos conta – estamos realmente pagando para sermos dominados.

O capitalismo de vigilância obviamente não é um destino, mas um cenário provável se não reagirmos a esses sistemas de controle de massa. Pode ser um pesadelo no qual é necessário mergulhar para encontrar a estrada que nos leve a um futuro mais justo – uma estrada difícil, complexa, em parte ainda desconhecida.

Tudo isso parece ainda mais exacerbado hoje para o usuário individual, porque algumas empresas exploram uma condição de necessidade (a viagem e a pandemia) para obrigá-lo a treinar algoritmos.

Leia mais

• Quando a pandemia expõe o capitalismo de vigilância
• Origem e limites do Capitalismo de Vigilância
• Capitalismo de vigilância. Artigo de Antônio Sales Rios Neto
• O futuro do Google é também seu passado: colonialismo digital e capitalismo de vigilância
• A necessidade de se resistir ao avanço do capitalismo de vigilância
• Haverá proteção contra o capitalismo de vigilância?
• Algoritmização da vida: a tríade entre o humano, a tecnologia e o poder
• Metaverso: entre a possibilidade de uma existência estendida e a escravidão algorítmica. Entrevista especial com Rafael Zanatta
• Ainda seremos capazes de dominar a selva dos algoritmos? Entrevista com Aurélie Jean
• “Atenção, os algoritmos começam a nos controlar”. Entrevista com Andrés Moya