Estamos cada vez mais imersos na Rede, e aquilo que nos espera é metade Paraíso, metade Inferno. Um Paraferno.

O comentário é do teólogo italiano Paolo Benanti e do filósofo italiano Sebastiano Maffettone.

Benanti é franciscano da Terceira Ordem Regular, além de professor da Pontifícia Universidade Gregoriana, em Roma, e acadêmico da Pontifícia Academia para a Vida. Em português, é autor de “Oráculos: Entre ética e governança dos algoritmos” (Ed. Unisinos, 2020).

Maffettone é professor de Filosofia Política na Universidade LUISS Guido Carli, em Roma, onde dirige o Center for Ethics and Global Politics e é presidente da Escola de Jornalismo Massimo Baldini.

O artigo foi publicado por Corriere della Sera, 18-02-2022. A tradução é de Moisés Sbardelotto.

Eis o texto.

Antes era ficção científica, agora é realidade. Antes era a vida vivida, agora está na Rede. A cada dia, o crescimento exponencial das tecnologias digitais nos coloca diante de (potenciais) situações como essas.

Não se trata nem de um sonho feliz nem de um pesadelo distópico. O que nos espera nas próximas décadas é metade Paraíso e metade Inferno. Se você gosta de brincar com as palavras, pode chamá-lo de Paraferno. Tal resultado, porém, não é muito estranho.

A tecnologia digital – como, aliás, todas as tecnologias – é substancialmente neutra. Isso significaria dizer nem boa nem má. Bom ou mau é o uso consciente que fazemos delas. É a nossa capacidade em ética digital que nos tornará capazes de tornar a inovação tecnológica útil ou prejudicial para os seres humanos. Com um evidente problema a montante: o crescimento das tecnologias digitais tem um ritmo exponencial, enquanto a nossa capacidade ética é humanamente lenta e ligada à tradição.

Podemos supor que a nossa próxima vida futura ocorrerá cada vez mais na nuvem – se você preferir, nas nuvens. Estaremos hiperconectados, e isso transformará a nossa existência social assim como a individual. Do ponto de vista, mudará o trabalho e as suas consequências sobre as nossas vidas. Podemos imaginar sem muito esforço um momento em que todos os trabalhos rotineiros – tanto os dos operários quanto os intelectuais – não serão mais feitos por humanos como era normal antes.

As máquinas pensantes, ou seja, os computadores mais sofisticados, terão aprendido a compreender não só linguagem e imagens, mas também emoções e crenças. Para a máquina, é muito mais fácil emular funções mentais superiores: é muito mais fácil construir uma calculadora científica do que um braço robótico. Isso significa, como muitos think tanks já previram, que as máquinas nos substituirão, a começar pelos empregos mais bem pagos do terceiro setor: contadores, banqueiros, gerentes de RH etc. Mais do que o paraíso dos operários, temos pela frente o inferno da classe média.

Afinal, já falamos – em um artigo anterior neste jornal – de uma máquina científica que talvez merecesse o Nobel. Cada vez menos humanos poderão desenvolver trabalhos que sirvam à sociedade.

A primeira consequência política será a separação entre salário e trabalho realizado. Um salário mínimo garantido será dado a todos, aproveitando os resultados da eficiência econômica de que as máquinas que nos substituem são capazes.

Por outro lado, se tudo estiver normal, os custos dos principais serviços como habitação e transporte devem – pela mesma razão – diminuir. Isso nos permitirá evitar uma pobreza generalizada. Como consequência, teremos muito tempo livre e poderemos fazer mais ou menos o que Marx desejava para o ser humano após o advento do Socialismo (como ir pescar e ler livros). Até aqui, talvez com muitas dúvidas, porém, ainda estamos na parte do futuro que pode se parecer mais com o Paraíso.

Mas as coisas mudam quando pensamos que fim terá a nossa autonomia decisória e o nosso livre arbítrio. Já hoje, os algoritmos que movem as grandes plataformas sabem efetuar operações de microengenharia social, orientando os nossos comportamentos como consumidores.

Com toda a probabilidade, em um mundo hiperconectado e totalmente automatizado, não poderemos sequer escolher a cor do nosso carro e o que comer no almoço. A dieta será fornecida por máquinas-médicos, e a obesidade, proibida, sem falar no tabaco e no álcool. Assim, viveremos em uma sociedade supercontrolada, tanto na rede quanto in vitro.

Algo semelhante talvez ocorra na vida privada. Pode ser que comecemos a namorar com um programa, como no filme “Ela”, ou que o nosso cachorro ou o nosso melhor amigo seja um robô inteligente e sensível. Gradualmente, nós mesmos tenderemos a nos tornar peças de tecnologia. Seres mistos ou ciborgues, como se costuma dizer hoje.

Talvez seremos heterodirigidos pela tecnologia. De fato, não é nada impossível que as máquinas pensantes se tornem mais poderosas. A ponto de nos expulsar dos centros de decisão mais importantes. Essa é a parte que se parece mais com o Inferno...

Leia mais

• “Não olhe para cima”: a banalidade do mal (digital). Artigo de Paolo Benanti
• A necessidade de uma algorética para enfrentar o desafio da inteligência artificial. Artigo de Paolo Benanti
• ‘Robôs assassinos’. É preciso acabar com as armas autônomas. Artigo de Paolo Benanti
• Ética, pós-humanismo e participação política na sociedade da inteligência artificial. Debate com Sebastiano Maffettone
• Os caminhos do Senhor também passam pelas redes sociais. Artigo de Paolo Benanti e Sebastiano Maffettone
• Algoritmos e novos instrumentos de participação política. Artigo de Paolo Benanti e Sebastiano Maffettone