06 Março 2020
José María Lassalle (Santander, 1966) participou do ciclo Pensarmos do Conselho da Cultura, e refletiu sobre a necessidade de um humanismo tecnológico, como postula em seu livro Ciberleviatán.
A entrevista é de Tamara Montero, publicada por La Voz de Galicia, 28-02-2020. A tradução é do Cepat.
A revolução digital está demolindo a democracia. Seria uma boa manchete?
Sim, a verdade é que sim. Está modificando seu eixo de legitimidade política ao impulsionar uma forma de autoritarismo tecnológico que serve para um novo modelo de populismo que reivindicará abertamente a ditadura como uma forma de democracia por adesão.
Uma ditadura na nuvem.
Carl Schmitt, um dos grandes teóricos do pensamento fascista, argumentava nos anos 1920 que as democracias viáveis em um mundo marcado pela complexidade e pelo conflito eram democracias por adesão em torno da liderança. Isso estimulou os fascismos, mas fracassaram porque o fascismo não foi capaz de militarizar completamente as sociedades e erradicar a oposição que toda ditadura é capaz de provocar.
Hoje, a tecnologia está desenvolvendo mecanismos de controle social, de repressão inconsistente e de vigilância que permitem identificar onde estão as margens potencialmente opositoras, que no Período Entreguerras não haviam. Isso faz com que nesse momento estejamos diante de um marco em que a tecnologia pode se converter em um aliado da distopia tirânica, que é de alguma forma o que proponho ao refletir sobre o ciberleviatã.
Outra proposta como manchete: os algoritmos destroem a Revolução Francesa e a Revolução Industrial.
Sim. Sim, porque a conquista que a cidadania conjecturou com a Revolução Francesa e toda a sua geração de direitos, começando pelos democráticos, estão sendo modificados na medida em que estamos em um mundo em que nossa identidade está marcada por alguns algoritmos que não contam com a nossa capacidade de tomar decisões, mas que nos ditam como sermos mais eficientes.
Em segundo lugar, porque nossos direitos trabalhistas, nascidos de um século de conquistas políticas, de lutas sindicais, operárias, sociais, de conscientização, estão sendo questionados pelo surgimento de um modelo de economia de plataformas que não precisa do trabalho humano e por alguns algoritmos que permitem geração de valor econômico, a partir da inteligência artificial e da robótica, que também não têm direitos porque são máquinas. Que não possuem, portanto, a dimensão política que o ser humano ainda possui.
Utiliza conceitos como liberdade assistida.
Estamos reprimindo nossa liberdade na medida em que aceitamos, por exemplo, um algoritmo que prevê o que queremos consumir quando abrimos um aplicativo que possui conteúdos audiovisuais e que nos sugere o que provavelmente gostamos de acordo com nossa pegada digital. E acontecerá no marco do uso de um carro autônomo que já não iremos dirigir, mas que operará em função da prescritibilidade, não da previsibilidade, de nossa conduta, conjeturado em função de nossas necessidades de trabalho, de nossa agenda diária. E se sairmos dessas margens, provocaremos um cenário imprevisto que será resolvido pela primazia da decisão da máquina sobre nós.
Mas isso é um pesadelo.
Mas já começa a se entrever quando Amazon ou Netflix nos dizem o que devemos consumir em função de nossos gostos e, portanto, impede a liberdade de escolha baseada no erro, na falibilidade, em experimentarmos a nós mesmos a partir da sondagem do que gostamos.
Vem para falar de humanismo tecnológico e estamos falando de praticamente o fim da humanidade.
Por isso, é importante um novo humanismo tecnológico que permita colocar a tecnologia a serviço da pessoa. Ou seja, não converter o ser humano, como dizia Kant, em um instrumento, mas recuperar o ser humano como um fim em si mesmo. Isso implica que os vieses algorítmicos, que o esboço das máquinas, que a maneira como os robôs precisam colaborar com as pessoas, salvaguardem o protagonismo e a centralidade humana nas decisões que tenhamos que adotar em torno dessas questões.
Proibiram um algoritmo que previa a criminalidade, igualzinho ao filme “Minority Report”. É o cenário para o qual caminhamos?
Caminhamos, não, estamos nele, porque a concessão de um cartão de crédito está subordinada a um algoritmo que decide em função da pegada digital de consumo e de nossos recursos econômicos. E nos Estados Unidos, por exemplo, não ter um cartão de crédito é não existir. Com isso, você pode estar condenado por toda a vida, porque, além disso, não se reconhece o direito ao esquecido...
Portanto, a pegada digital se torna uma espécie de pecado original que vai nos acompanhando durante toda a nossa vida e diante da qual não cabe, de acordo com a teologia católica, a possibilidade de nos libertar da culpa nos confessando pecadores, mas, ao contrário, como pensa o calvinismo, a culpa sempre nos acompanha. Temos que seguir nos libertando dela com base em batidas no peito e aceitando o que o deus tecnológico quer de cada um de nós.
Disse que tudo o que é gratuito começarão a cobrar de nós.
Já estão cobrando, porque nada é de graça. Quando algo é gratuito na Internet é porque nós somos o preço. Por exemplo, o famoso aplicativo do ritmo biométrico que interpretava como você seria dentro de 40 anos, o que buscava é o valor agregado do adicionamento da expressão facial que nosso rosto projeta e esse é um valor econômico fundamental.
Mas é um beco sem saída. Sem esses serviços, você deixa de estar no mundo e, se os utiliza... Não há condições para a decisão.
Por isso, é necessário que a democracia tome consciência de que não pode continuar permitindo que todas essas coisas aconteçam sem regulamentação. E por isso é imprescindível que a democracia dote os cidadãos com uma série de direitos digitais que os permitam se empoderar como sujeitos frente às grandes corporações tecnológicas.
É necessário que a lei regulamente como os algoritmos são executados, ou que se introduza uma função social acerca dos mesmos, que os desaproprie do controle das corporações, passados alguns anos, ou que nos empodere sobre como administrar nossa pegada digital e decidir com quem e a que preço nossos dados são usados. Ou seja, criar um marco regulatório que atualmente não existe e é incrível que não exista, quando há uma regulamentação para determinar como deve ser um iogurte e, no entanto, não há uma regulamentação que determine como deve ser o algoritmo que define se posso ter um cartão de crédito ou não.
E somente a Europa pode regularizar isso.
Sim, porque tem por trás uma preocupação com a relação do homem com a técnica que é milenar, que vem acompanhando o pensamento filosófico e a nossa cultura. E, em segundo lugar, porque existe uma cultura humanística com diferentes camadas históricas, com sedimentos que podem ser reutilizados para buscar ‘vestir’ a maneira como envolvemos a relação do homem com a técnica no século XXI.
Mas por que os Estados Unidos ou os gigantes asiáticos não podem fazer esse trabalho?
Porque a Europa tem uma cultura regulatória muito mais assentada, tem mais identificada uma preocupação com a justiça e a ética e uma trajetória humanística milenar, ao passo que os Estados Unidos têm um modelo de desenvolvimento tecnológico muito localizado na eficiência de suas utilidades econômicas e em como maximizar a monetização dos aplicativos e o desenvolvimento de conteúdos.
E a China também, mas, além disso, tem uma cultura em que a pessoa é irrelevante e onde o único interesse que a pessoa tem é em ser transformada em um sujeito submetido ao poder, sem nenhum tipo de intermediação.
As novas tecnologias destroem a verdade? Porque os algoritmos só mostram o que as pessoas querem ver.
Sim. [Pensa] Acredito que o jornalismo é vítima da desintermediação, que faz com que as pessoas creiam que têm o direito de se informar em qualquer frente, sem contrastabilidade. Nesse momento, vale o mesmo o que um lunático possa postar em seu blog defendendo que a Terra é plana e o que diz um editorial do New York Times acerca do problema da mudança climática. A acessibilidade e inclusive a visibilidade acerca das duas informações são praticamente as mesmas.
Uma parte muito importante do alarmismo que o coronavírus está provocando é consequência da crise que o modelo de negócio da imprensa experimenta e que faz com que precise ter milhões de pessoas conectadas em tempo real à informação que colocam em suas páginas. Essa situação nos faz valorizar cada vez mais o que circula pelas redes, sem ter a capacidade de identificar corretamente a veracidade ou não que acompanha essa informação e as próprias bases da transmissão do conhecimento.
Não é apenas a imprensa, é que a credibilidade das instituições também foi quebrada.
Porque estamos nesse cenário que a revolução digital potencializou de desintermediação, onde não há necessidade de instâncias de mediação institucionais, por meio das quais as pessoas refiltrem a maneira de se aproximar da realidade. Consumimos a realidade em todas as suas dimensões, sem intermediação, e nos aproximamos de todas as explicações que circulam pelo mundo.
Construímos uma civilização que se baseava na intermediação, com todos os seus problemas de equidade, de justiça, mas onde a intermediação era necessária e tinha alguns efeitos em parte positivos. Agora, temos todos os efeitos negativos da desintermediação e nenhum dos efeitos positivos, com o qual estamos absolutamente expostos a uma fome de informação sem capacidade de gestão. Todo esse tsunami de dados que está alterando nossa própria estabilidade emocional nos leva à paranoia, aos populismos e meu medo é que nos leve ao fascismo.
Há quem opine que falar em fascismo talvez seja exagerado.
Mas caminhamos para um fascismo diferente. O que vem não significa que reproduzirá o militarismo. A ditadura já não vai mais querer organizar a sociedade como se fosse um exército universal, onde todos nós vamos estar uniformizados. Agora, vestir o uniforme não é atraente, nos anos 1920, sim. Agora, o que é atraente é estar normalizado e uniformizado conforme os padrões que marcam, por exemplo, as redes sociais e que identificam uma correção política que não existia antes.
E com base nesses padrões de correção política, estamos fundamentando uma normalização que marginaliza a heterodoxia. E sempre que há heterodoxos que são perseguidos, existe por trás uma mente de vigilância que apoia uma concentração do poder e um questionamento da diversidade. Esse é o risco que temos.
O Instituto Humanitas Unisinos – IHU promove o XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida, a ser realizado nos dias 19 a 21 de outubro de 2020, no Campus Unisinos Porto Alegre.
XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
“A pegada digital se torna uma espécie de pecado original que nos acompanha por toda a vida”. Entrevista com José María Lassalle - Instituto Humanitas Unisinos - IHU
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
Quando o ativista austríaco pró-privacidade Max Schrems solicitou seus próprios dados pessoais armazenados pelos servidores do [...]
LER MAIS
