Luciano Floridi, professor universitário em Oxford, onde dirige o Digital Ethics Lab, e em Bolonha, onde lidera o comitê científico do Ifab, a Fundação sobre Inteligência Artificial e Big Data, é um dos maiores especialistas em cultura digital e inteligência artificial.
A reportagem é de Francesco Provinciali, publicada por Start Magazine, 08-10-2022. A tradução é de Moisés Sbardelotto.
A difusão das tecnologias e a perspectiva da digitalização introduziram procedimentos de valor utilitarista e simplificador, mas também levantaram questões éticas que dizem respeito à antropologia do nosso tempo. Atacada pela pandemia, em conflito com a natureza, condicionada pela hipérbole demográfica, a humanidade está em busca de uma nova dimensão de sustentabilidade.
Até que ponto o pensamento computacional e o advento das máquinas e dos algoritmos como fatores reguladores e orientadores in progress estão modificando a nossa vida?
Rever e atualizar a dimensão ontológica envolve, talvez, a necessidade de reescrever o próprio conceito de identidade? Algumas problemáticas éticas estão ligadas às questões da comunicação, da informação e das relações humanas: por exemplo, a questão das “fontes” do conhecimento e da sua confiabilidade, a utilidade ou a necessidade de um controle interno e externo dessas dinâmicas. Pensemos no trânsito em rede de uma quantidade incomensurável de dados, notícias, eventos.
Max Weber havia levantado a questão do conhecimento como processo de desencantamento progressivo do mundo, uma espécie de racionalização que procede mediante a especialização, para a qual não é necessário conhecer todo o conhecível, mas sim selecionar o que aprendemos segundo o critério de confiabilidade das fontes. Essa Weltanschauung reforçava o conceito de domínio da inteligência humana em relação à realidade: ciência e política – em duas de suas famosas conferências – eram suscetíveis de se tornar profissões quando exercidas como “vocação”.
Tratava-se, essencialmente, de um processo de interiorização do saber: essa sistematização resumia e explicava séculos de história, o trânsito do exterior ao interior, a metabolização dos conhecimentos tornava-se saber e saber-fazer. Hoje, são exigidas competências cada vez mais sofisticadas para profissões novas, enquanto a transição digital e a inteligência artificial podem fundamentar uma nova ideia de racionalização, que parece seguir o caminho inverso: do interior para o exterior, para construir máquinas, instrumentos e aparatos que substituam o trabalho humano, facilitem-no e o tornem mais eficaz e programado.
Sobre esses temas é que se baseia a entrevista com o professor Luciano Floridi, um dos estudiosos internacionais de maior autoridade em matéria de digitalização e inteligência artificial, professor universitário em Oxford, onde dirige o Digital Ethics Lab, e em Bolonha, onde lidera o comitê científico da Ifab, a Fundação sobre Inteligência Artificial e Big Data, que rege o poder de cálculo do Tecnopolo bolonhês, cujos megacomputadores movimentam nada menos do que 80% da capacidade de cálculo europeia.
Professor Floridi, cada publicação é uma aposta. Acho a sua muito especial: o título – “In poche battute” [Em poucas palavras] – resume seus artigos e ensaios escritos entre 2011 e 2021. O subtítulo “Breves reflexões sobre cultura e digital” enquadra e oferece ao leitor uma ampla série de temáticas atuais, que poderia ser definida como uma “suma” sobre a contemporaneidade, um olhar sobre as evidências do nosso tempo. O que é o digital hoje?
É uma mudança na natureza das coisas, uma revolução ontológica, para usar o léxico da filosofia. O mundo assumiu uma dimensão a mais do que a analógica. É a dimensão digital. Às vezes, tal dimensão superou e substituiu a física.
Um exemplo? A música, antigamente, era um sulco gravado em um suporte – o disco – que podia ser arranhado. A agulha que corria sobre o vinil reproduzia o som. Essa era a música que a minha geração conheceu. Depois, vieram as fitas cassete, suporte magnético regravável, pelo menos até certo ponto, por meio de operações de desmagnetização e remagnetização, ao contrário do disco. Hoje, o suporte da música digital é totalmente regravável, manipulável até o infinito, pois está livre da dimensão analógica. A música é gerada a partir de um código binário, composto de zeros e uns.
Vemos que o modo de ser das coisas mudou, tornando-se imaterial e ao mesmo tempo abrindo um universo de possibilidades. Há o tema da liberdade: o vinil não era transformável, a fita cassete era pouco transformável, o suporte digital é transformável ao infinito. Se pegássemos as playlists dos aplicativos de música de todos os smartphones do mundo, não encontraríamos uma igual à outra. Cada um pode escolher – e mudar continuamente – a ordem da sequência e as próprias músicas. A ausência de vínculos escancara as fronteiras da personalização. É o efeito que eu defino como “cut and paste” do digital: a capacidade de recombinação da realidade.
Você leciona em Oxford, onde dirige o Digital Ethics Lab. No parágrafo dedicado à inteligência artificial, você enfatiza a necessidade de adotar um novo “código ontológico”. A difusão das tecnologias e a perspectiva da digitalização introduziram questões éticas que dizem respeito à antropologia do nosso tempo. Até que ponto o pensamento computacional e o advento das máquinas e dos algoritmos como fatores reguladores estão modificando a nossa vida? Isso talvez implique a necessidade de reescrever o próprio conceito de identidade?
A nossa identidade encontra uma capacidade expressiva muito mais ampla por meio do digital, mas com a condição de que o digital esteja a serviço da pessoa e não vice-versa. Pensemos na quantidade de projeções pessoais que são possíveis, dependendo se a pessoa se projeta no LinkedIn, em um site de namoro ou no metaverso.
A multiplicação dos registros linguísticos, das comunidades de referência, dos modos de representar a si mesmo se expande enormemente. De fato, a projeção virtual rompe os vínculos de fisicidade, os limites territoriais, liberta o indivíduo deles. Durante a pandemia, houve shows com milhões de participantes no metaverso, quando a presença física em um lugar era impedida pelas regras de contenção do contágio.
É diferente quando o digital é usado por outros sobre o indivíduo. Aqui, o resultado muda. Corre-se o risco de uma erosão da autonomia pessoal, o comprometimento da liberdade. Pensemos nos sistemas de recomendação, que muitas vezes não se limitam a nos assinalar o que poderia nos agradar, mas também acabam manipulando a nossa capacidade de escolha, induzindo necessidades, criando preferências.
O resultado é a massificação: todos tendemos para os mesmos produtos, os mesmos estilos de vida, as escolhas se tornam menos livres. Poderíamos dizer, portanto, que o que importa é quem conduz o jogo: se é a pessoa que age pelo meio digital, a realidade se amplia, gera-se liberdade, a experiência se personaliza. Por outro lado, se a pessoa é apenas o peão de um jogo jogado por outros, as margens de liberdade se reduzem, as escolhas se despersonalizam, e a sociedade tende à massificação. Vemos como a personalização e a massificação da experiência são os dois lados da moeda, as duas implicações extremas. Parece contraditório, mas estamos nos movendo em ambas as direções. O digital determina ambos os movimentos e reescreve as nossas identidades dessa maneira.
O que isso significa em nível social, comunitário?
A dimensão mesossocial, aquela que se realiza entre a massa e o indivíduo, passa a se comprimir – senão a se anular –, a mediação entre massa e indivíduo tende a desaparecer, e isso é grave porque desaparecem os laços de comunidade. Os reflexos em termos cívicos – para não dizer políticos! – são mais do que evidentes. Corremos o risco de uma cultura individualista de massa.
A cultura – entendida como traditio e ratio, estabilidade e transformação, raízes e inovação – está evoluindo, como você bem sublinhou, para uma cultura proxy. Como lidar com um tema tão complexo “em poucas palavras”? E aonde esse processo leva?
A cultura do século passado, a dos meios de comunicação de massa, trabalhou muito os aspectos clássicos da semiótica, tão caros a Umberto Eco. Os semiólogos estudaram extensivamente aquilo que “está para” outra coisa, desde a marca da bebida enlatada nos cartazes publicitários até o ícone de perigo nas placas próximas a subestações elétricas. Trata-se de sinais que “estão para”, que representam, que remetem.
O proxy adiciona um elemento, o da operatividade. Um site proxy não é apenas um site que “está para” outro site, mas é também o instrumento por meio do qual eu posso agir como se estivesse em outro site. Há uma relação de substituição. O proxy é um produto da cultura digital que não se limita a dar representação a algo, mas substitui esse algo e age em seu lugar. O proxy “está para” e “trabalhar no lugar de”.
O ícone do disquete em um arquivo não serve apenas para representar a possibilidade de salvar o que eu escrevi, mas faz o salvamento, realiza-o. Do ponto de vista cultural, o proxy nos leva a superar o nível meramente cognitivo, acrescentando a dimensão da operatividade. Até agora, a semiótica lidou com uma leitura cognitivo-representativa. Agora, estamos nos deslocando para um mundo que é também e sobretudo operacional.
Hoje, o ícone não é apenas uma forma de representar a realidade, mas também o instrumento para agir sobre ela. Até agora, a ideia era que havia o mundo de um lado, a sua representação do outro, e as duas coisas não se comunicavam a não ser em nível cognitivo, por meio de referências, conexões ou associações. Hoje, porém, o mundo opera por meio de proxies, que são representações às quais se acrescenta a dimensão da operatividade. Aqui está o salto cultural.
A semiótica não se ocupou da práxis, mas hoje todo o mundo digital usa os proxies para agir no mundo, no ambiente ao redor. Hoje, agindo por meio do digital, também podemos agir no mundo físico. Não é uma transição de pouca importância.
Pensemos no dinheiro. Aqui a transformação é evidente. O dinheiro é algo que “está para” outra coisa – uma medida do poder aquisitivo –, então não importa que seja digital. O pedaço de papel não serve mais, a nota de dinheiro está superada, como mera representação.
Sempre me perguntei sobre o problema do trânsito geracional: quem não é nativo digital, as pessoas idosas, aquelas que se baseiam mais em hábitos tranquilizadores do que em códigos alfanuméricos não correm o risco, talvez, de serem excluídos, durante uma parte significativa de sua vida, da evolução imposta pelos processos de digitalização?
A brecha entre nativos digitais e gerações anteriores é enorme. A distância de idade determina uma diferença na forma mentis. No meio disso, produziu-se o divisor de águas da revolução digital, muito rápida, penetrante e com efeitos indubitáveis sobre o modo de pensar e de ver das pessoas.
Receio que nem toda a brecha seja “recuperável”. Aqueles que ficaram para trás – falo sobretudo das gerações menos jovens – terão muita dificuldade em integrar um olhar radicalmente renovado sobre as coisas, que se resume no termo onlife. O que devemos fazer? Certamente, não podemos parar os processos de desenvolvimento digital por meio das reticências das gerações mais velhas. E eu falo como um deles. Devemos imaginar um mundo de duas velocidades, por meio de políticas que levem em conta as lacunas e reproduzam fórmulas mais analógicas para alguns, continuando a gerar oportunidades digitais para os outros.
Em uma interessante intervenção, relatada em seu livro, você relaciona os processos de digitalização do conhecimento e dos saberes com a transição ecológica, evidenciando, por exemplo, quanta economia a desmaterialização produz, no setor público e no privado. Por isso, portanto, digitalização, green economy, economia de energia e energias renováveis, share economy devem caminhar lado a lado. Segundo a ONU, estamos às vésperas da sexta extinção da vida no planeta, a primeira pelas mãos do ser humano. A conferência Glasgow COP-26 lançou ultimatos claros: o ambiente está se transformando de modo irreversível, do aumento das temperaturas ao derretimento das geleiras e dos polos, passando pelo aumento dos mares. Até as estações são caracterizadas por eventos climáticos catastróficos. Que caminho é possível tomar para tornar verossímil a esperança em um futuro sustentável, verde e azul, como você escreve, para o nosso planeta?
Não podemos salvar tudo, infelizmente temos que ser realistas. No ponto em que estamos, temos a possibilidade de limitar os danos. Sabemos que uma parte da biodiversidade já foi perdida e que outra parte irremediavelmente será perdida. O mesmo vale para o aumento das temperaturas, que continuará nos próximos anos. O objetivo é evitar que ultrapasse limites além dos quais os efeitos seriam muito difíceis de sustentar. Já seria um resultado satisfatório.
Começamos tarde, e agora se trata de conter as consequências negativas. Portanto, deixando de lado as expectativas salvíficas, o papel das tecnologias digitais certamente é central. A expressão que você lembra – “verde e azul” – é a expressão que eu cunhei há muitos anos para dar uma representação da conexão profunda entre o ambiente (o verde de todos os ecossistemas em que passamos a nossa vida, dos naturais aos urbanos, dos sociais aos econômicos) e as tecnologias digitais (o azul elétrico das tecnologias digitais presentes e futuras).
A estrutura de fundo desse binômio diz respeito à melhor gestão de recursos, à identificação de tecnologias de baixo impacto, à disseminação da informação e à consequente determinação do consenso político: o digital e suas tecnologias já estão realizando tudo isso. As potencialidades para reverter as tendências que até agora prejudicaram o ecossistema existem. Poderíamos até dar origem a estruturas – cidades, por exemplo – que, em vez de produzirem emissões de carbono, conseguem absorvê-las.
O objetivo estabelecido pela Europa é net zero: saldo carbono zero. Algumas cidades se candidataram para alcançar esse objetivo ainda em 2030. Trata-se de uma meta muito ambiciosa. A próxima será o saldo de carbono negativo. É preciso coragem política e a governança correta, e nos próximos anos poderemos inverter a rota.
A revista Time informa que “a Comissão de Valores Mobiliários dos Estados Unidos relata que, nos primeiros seis meses de 2022, a palavra metaverso apareceu mais de 1.100 vezes nos documentos normativos. No ano anterior, ela registrou 260 menções. Nas duas décadas anteriores? Menos de uma dezena no total”. Isso nos ajuda a entender em que consiste esse mundo virtual que está se preparando para um desembarque na nossa vida e que permitirá a interação humana em uma espécie de universo paralelo ao mundo real?
Ao contrário do que se diz, não acho que o metaverso represente uma mudança de paradigma. Trata-se de um arquipélago de sites por meio dos quais poderemos viver experiências imersivas. Já agora, como mencionava, existem pessoas que usam o metaverso para acompanhar eventos (shows, conferências etc.). Será uma nova possibilidade de realização da pessoa, se bem usado, e de mais uma possibilidade de massificação, se mal usado, assim como as outras tecnologias digitais. Não acredito na retórica do universo paralelo, embora muito em voga. Em vez disso, penso que a experiência do metaverso se inserirá no paradigma do onlife, como mais um ponto de fusão entre o mundo físico e o virtual, na qual já estamos imersos hoje.
No artigo “Como gerir os riscos da inteligência artificial”, você identifica alguns instrumentos dos quais as empresas e as instituições deveriam se munir: “seguros, prevenção, legislação e auditoria: esse é o futuro próximo da gestão dos riscos inerentes à inteligência artificial”. Eu me deteria no conceito de prevenção: por meio de quais meios é possível antecipar a utilização imprópria da inteligência artificial? Estamos falando de altíssima tecnologia...
Até agora, tivemos uma relação distorcida com os riscos da inteligência artificial. Isso se deveu a uma falta de conhecimento da tecnologia, que acabou por encobri-la com sombras assustadoras, mas muito pouco realistas. Pensemos no temor da revolta das máquinas. Hoje, temos uma abordagem mais ponderada da tecnologia e somos capazes de identificar as verdadeiras dimensões de risco.
Na ótica da prevenção, que sem dúvida é a mais correta, é importante, acima de tudo, afirmar uma consciência generalizada sobre quais são os riscos verdadeiros (pensemos na privacidade, na utilização não autorizada dos dados para fins manipulatórios, a cibersegurança etc.). Em seguida, é preciso procurar o quadro legislativo e regulamentar que permita conter os fenômenos de deterioração. Em nível europeu, finalmente estamos vendo os problemas certos serem levantados.
Terminemos com uma avaliação sua da relação entre o sistema escolar e formativo da Itália (também em nível de especialização universitária, mestrados, doutorados), no que diz respeito às competências ao término do curso de estudos e aos know-how exigidos pelo mercado de trabalho em nível internacional.
Por um lado, se temos a geração dos nativos digitais, que naturalmente está predisposta à compreensão a tecnologia, dos riscos e das oportunidades que ela gera, por outro ainda temos um sistema escolar e formativo do século XX, decididamente analógico e muitas vezes pouco consciente. Isso faz com que a revolução digital acabe ficando alheia às estruturas que educam, formam, constroem competência. Depois, isso repercute no trabalho, nos serviços, no modo como as coisas funcionam.
Permita-me um exemplo pessoal: quando comecei a lecionar também em Bolonha, eu queria abrir uma conta corrente em euros e libras, e não encontrei na Itália um banco que me permitisse abrir uma conta online desse tipo. Encontrei-o na Inglaterra, sem custo, inteiramente online e apenas digital, gerenciável com um aplicativo simples que funciona muito bem.
O que acontece, então? A revolução digital parece interessar a poucos técnicos muito qualificados, mas acaba moldando com um grande atraso o funcionamento da sociedade. Produz-se um descolamento que eu acredito que pesará muito também do ponto de vista geracional. A atualização do sistema formativo e das competências é fundamentar para preencher essa lacuna.