No dia 3 de junho, Paolo Benanti, teólogo, frei franciscano da Terceira Ordem Regular, participou de um seminário da Agência de Pesquisa e Legilação (Arel, na sigla em italiano), intitulado “Contact tracing: a oportunidade para construir um novo pacto social?”, com Enrico Letta, Marianna Madia e Roberto Viola. O texto que segue é uma síntese da sua fala no evento.

Benanti também é professor da Pontifícia Universidade Gregoriana, em Roma, e acadêmico da Pontifícia Academia para a Vida. O artigo foi publicado em seu blog, 12-06-2020. A tradução é de Moisés Sbardelotto.

Eis o texto.

Sinto-me honrado por este convite. Fui convidado a ampliar as perguntas. Para um eticista, viver as perguntas é um pouco como fazer a sua profissão. Nisso se reitera aquilo que dizia Rilke em “Cartas a um jovem poeta”: “Viva agora as perguntas para encontrar amanhã as respostas”.

Se aquilo sobre o que nos interrogamos é o cruzamento da nossa vida com um evento muito veloz como foi a Covid-19, que entrou sem bater, temos por trás disso toda uma discussão sobre digitalização e inovação tecnológica. Então, como podemos viver as perguntas dentro de tudo isso?

Vou fazer outra premissa, referindo-me à “Vida de Galileu”, de Brecht, naquele momento teatral em que Galileu, com o seu telescópio no centro do palco, é ladeado pelas autoridades da época, um filósofo, um matemático e um príncipe. Diante das objeções que encontra diante da invenção do telescópio, onde a lente convexa muda a percepção do universo e da pessoa, Galileu só tem uma coisa a dizer: “Por favor, olhem!”.

Então, a perspectiva com a qual gostaria de desenvolver o meu discurso é precisamente a de nos convidar a olhar através desse novo instrumento que podemos ver como uma nova lente convexa. Mas, se o computador que trabalha com os dados equivale à lente, talvez aquilo que temos pela frente não é apenas um estágio da inovação, porque a invenção de Galileu mudou a cosmologia, dizendo-nos que não somos mais o centro do universo. Ele criou aquela que Sigmund Freud chamava de ferida no nosso narcisismo, colocando-nos como uma parte lateral de todo o cosmos. Ele mudou a antropologia, descobrimo-nos não como uma coisa inteira, mas como feitos de pequenas partes que chamamos de células.

O computador com os dados está produzindo algo análogo, mas tentemos trazer isso para a situação atual com a Covid-19 e a possibilidade de um novo pacto social com uma metáfora. Todo o tema da inovação pode ser resumido em três imagens: o flight deck (a cabine de pilotagem) da primeira nave, a Apollo 11, que foi para o espaço em julho de 1969; o Endeavour, o último ônibus espacial projetado e construído em 1992 e que foi abandonado em 2011; e, por fim, a Crew Dragon, a nova espaçonave recém-atracada na estação espacial na semana passada.

Por que essas três imagens podem ser tão metafóricas daquilo que vemos? Porque corremos o risco de confundir o dedo com a Lua, porque corremos o risco de falar da inovação tecnológica (ou seja, como vamos para o espaço) sem deixar emergir algumas perguntas de fundo.

O projeto de ir para o espaço em 1969 continha o conflito tecnológico entre duas potências, a URSS e os Estados Unidos. O que permitiu que a Apollo 11 fosse para a Lua foi uma peça de inovação tecnológica chamada Apollo Guidance Computer, uma das primeiras calculadoras, feitas especialmente para aquela missão. Durante a aterrissagem na Lua, acendeu-se no display o sinal de erro 1202, ou seja, uma sobrecarga de cálculo do computador, mas os astronautas tiveram que enfrentar o problema sozinhos, porque a resposta ao seu pedido de ajuda chegou oito minutos depois. Isto é, assiste-se a uma profunda inovação tecnológica nascida de um plano político, que vê o homem no comando na relação homem-máquina.

Passando para o Endeavour, encontramo-nos diante de um contexto profundamente modificado, porque leva ao espaço astronautas estadunidenses e russos para construir a estação espacial internacional. Aquela máquina específica que era o computador da Apollo 11 se tornou um General Purpose Computer, ou seja, o processo de digitalização não serve mais para uma coisa, mas está mudando o modo como se fazem todas as coisas. Está se inserindo no modo como são decididos todos os processos a bordo. Não só os processos decisórios daqueles que tinham o controle de toda a operação, mas também os processos de direção e pilotagem.

Se, na Apollo, a característica principal era a centralidade do homem, no Endeavor são as placas de proteção térmica que constituem o Apollo – das quais o piloto é inconsciente e que fazem parte do design da estrutura geral – que garantem ou não a resistência do sistema na aterrissagem. O que garante o bom fim do projeto não é mais o homem.

Chegamos à Crew Dragon. Aquele mundo que nascia em 1969 do conflito entre as superpotências máximas é agora o reino de uma parceria comercial em que o Space X, um sujeito privado com características e grandezas políticas, de repente se torna o ator desse processo de inovação. O Estado, portanto, deve se aliar com algum sujeito privado que lhe permite fazer coisas que antes não eram permitidas.

Tudo isso se realiza com a dinâmica COTS (Commercial Off-The-Shelf), isto é, toda a inovação trazida por Elon Musk não ocorre com um hardware preciso especificamente projetado, mas utilizando tudo o que a infraestrutura informática de vendas oferece, multiplicando-o três vezes, tendo custos de desenvolvimento muito baixos e garantindo, no entanto, sucessos tecnológicos antes impensáveis. Se anteriormente o computador havia se tornado geral, mudando o modo de fazer todas as coisas, agora a infraestrutura informática comercial é capaz de assumir funções de outro tipo, além das de inovação.

Dito de maneira simples e um pouco banal, o conjunto de telefones celulares que habitam dentro dos nossos bolsos são capazes, com a dinâmica COTS, de se tornar um poder capaz de gerir uma inovação como a que nos leva ao espaço. Isso ocorre graças a um novo estrato que se interpõe entre as instituições e os indivíduos, que se torna uma infraestrutura em que essas cadeias lógicas de julgamentos mediados por cálculos numéricos, que Musk chama de “middleware”, tornam-nos uma infraestrutura transparente, mas não sem resultados, dentro dos processos de gestão da inovação e dos processos executivos.

Três coordenadas

O resultado de tudo isso é que o poder dos astronautas dentro da espaçonave talvez seja o de decidir interromper a missão quando algo dá errado. Isso é demonstrado pelo fato de que a conexão com a estação espacial internacional ocorreu por obra do “estrato do meio” gerido por Musk. Esse é o motivo pelo qual essa metáfora se presta tão bem para definir o que ocorre dentro da nossa sociedade: a inovação tecnológica que está habitando a nossa transformação social e que desafia o nosso pacto social pode ser um ponto em um espaço tridimensional determinado por três coordenadas em que nenhuma delas é desprovida de valor para entender o que está acontecendo. Os três eixos desse espaço são o político, o dos “players” (atores) e o da plataforma.

Sempre houve uma dimensão política dentro da tecnologia. Basta pensar na utilização de algumas formas de tecnologias biométricas implementadas para realizar um controle social por parte de alguns países. Devemos nos perguntar qual é a dimensão política que queremos que habite o nosso contexto europeu. A inovação tecnológica deve então nos fazer falar de uma mão “visível” do mercado, que orienta, como o middleware de Musk, não só as opiniões das pessoas, mas também a própria sociedade. Hoje, falando de pacto social, falamos de um pacto algorítmico, um primeiro ponto é o da visão e do horizonte necessários na inovação tecnológica.

A segunda coordenada é a dos “players”. Se os primeiros modelos de inovação viam os Estados e os exércitos como grandes atores, hoje aparecem novos sujeitos que, embora sejam comerciais, não podem ser definidos apenas como tais, a ponto de terem escritórios específicos para todas as relações com o público. Hoje, os grandes “players” da TI, de fato, oferecem serviços que antes eram oferecidos pelo Estado: a identidade também pode ser dada por um “social login”; a moeda pode ser dada através de sistemas oferecidos por esses “jogadores”; a educação, em que cada vez mais são realizados cursos para se ter aquelas figuras que lhes sirvam no seu amanhã.

A terceira coordenada é a plataforma, dada por essa nova concepção do middleware. A Space X, no seu acesso ao middleware, à plataforma no lançamento espacial, produz um custo por cada lançamento de um décimo em comparação com o da Nasa. Portanto, com o orçamento de antes, realizam-se 10 lançamentos. Tudo isso tem um custo, porque todos os dados produzidos são capturados pelo middleware e podem ser transformados várias vezes em uma série de informações que nem sempre favorecem os outros atores envolvidos no processo. Se essas são as coordenadas que emergem da nossa análise da inovação digital, podemos nos perguntar o que significa vivê-las em relação ao tema específico do contact tracing e da utilização da tecnologia dentro de uma emergência como a da Covid-19.

O coronavírus não trouxe um salto de qualidade, mas foi apenas o acelerador de uma série de processos, cujos fundamentos já habitavam no nosso contexto social. Do ponto de vista político, ter dois grandes atores que colocaram produtos COTS nos bolsos de todos nós, sem considerar aqueles que não têm acesso ao smartphone, abriga em seu interior uma visão política que poderíamos chamar de neoliberal. São duas sociedades que nascem em um contexto muito particular, como a visão da vida e de algumas relações. E a filosofia das tecnologias nos demonstra que ela não nasce espontaneamente, mas se trata de uma resposta a uma demanda da realidade.

Sempre que eu pego nas mãos um artefato tecnológico, ele também é uma mediação da realidade, que nos convida a olhá-la através dos critérios que estão na base do seu desenvolvimento. Olhar o mundo através de um fuzil de precisão me convida a dividir o mundo entre amigos e inimigos.

A primeira grande pergunta, tendo duas estruturas que nos propõem uma plataforma que permite o acesso a essas estruturas a baixo custo, é qual visão política implícita existe e quanto dela é compatível e adequada ou deve ser discutida no contrato. Além disso, o caso do acesso ao contact tracing – e estou me referindo sobretudo às soluções levadas em consideração pela França e pelo Reino Unido, que querem uma solução mais centralizada – viu se sentarem à mesa precisamente a Apple e o Google em relação ao seu sistema proposto. Como se fossem – como de fato são – sujeitos políticos, e não empresas. É como se nos dissessem que existe uma soberania na emergência do digital, e que ela é exercida por quem cria a plataforma, e não por quem anteriormente geria a soberania por ser delegado pelos cidadãos.

Portanto, as três coordenadas – a política, a dos “players” e a da plataforma – servem para nos interrogar sobre esse tipo de solução, que em um instante se infiltrou nos nossos smartphones, se interpõe, adquire know-how e também, de algum modo, produz uma mudança hermenêutica da realidade causada pela utilização desse artefato.

Falando de política, é significativo o caso em que a plataforma utilizada para fazer uma campanha direcionada pelo atual presidente dos Estados Unidos viu um enorme conflito quando os algoritmos da plataforma marcaram uma mensagem do próprio Trump como incitação ao ódio, criando um precedente que criou uma tensão muito alta, minimizada apenas pelo agravamento da situação nos Estados Unidos. Mas Trump emitiu uma ordem executiva que retirou do Twitter a imunidade em relação à liberdade de expressão. Essa nova dinâmica de plataforma, que permite um acesso de baixo custo, revela o seu poder e uma eficiência política própria.

Leia mais

• “Não se deve ter medo da tecnologia, mas conhecer seus limites”. Entrevista com Marta García Aller
• Tendências tecnológicas pré e pós pandemia
• Covid-19 e avanço tecnológico. Nasce um outro mundo do trabalho. Entrevistas especiais com Ruy Braga Neto e Rafael Grohmann
• Prudência tecnológica em tempos de coronavírus. Artigo de Luca Peyron
• “Os algoritmos vão dizer a sua dieta, horas de sol, exercício, meditação”. Entrevista com Joe Barkai
• “Atenção, os algoritmos começam a nos controlar”. Entrevista com Andrés Moya
• O coronavírus, entre o império da técnica e a vida nos escombros. Artigo de Henrique Costa
• Técnica e finitude do ser em tempos de pandemia
• SpaceX, a mão bem visível do Estado 
• “Faremos as primeiras viagens interplanetárias no ano que vem”, diz Elon Musk