A revolução digital acontece apenas uma vez. Para que tudo corra bem, a hora de começar é agora. As gerações futuras nunca conhecerão uma realidade apenas analógica, offline e pré-digital. Somos a última geração a experimentá-la. Precisamente pelo fato de a revolução digital estar apenas começando, podemos moldá-la de formas positivas que beneficiem a humanidade e também o nosso planeta.
A opinião é de Luciano Floridi, filósofo italiano e professor de Ética da Informação na Universidade de Oxford, no Reino Unido. O artigo foi publicado em American Scientist, de julho-agosto de 2021. A tradução é de Moisés Sbardelotto.
Em 1964, ano em que eu nasci, a Paramount Pictures distribuiu “Robinson Crusoé em Marte”. O filme descreve as aventuras do comandante Christopher “Kit” Draper (Paul Mantee), um astronauta dos Estados Unidos que naufragou em Marte.
Ao assisti-lo no YouTube recentemente, lembrei-me de como o mundo mudou radicalmente em apenas algumas décadas. O computador no início do filme parece um motor vitoriano, com alavancas, engrenagens e botões – uma peça de arqueologia que o Dr. Frankenstein pode ter usado. O único elemento verdadeiramente presciente de tecnofuturismo surge no fim da história, quando o personagem Friday (Victor Lundin) é rastreado por uma espaçonave alienígena por meio dos seus braceletes.
“Robinson Crusoé em Marte” pertence a uma época diferente, que era tecnológica e culturalmente mais próxima do século anterior do que do nosso. O filme descreve uma realidade moderna, mas não contemporânea, baseada em hardwares e não em softwares.
Laptops, internet, serviços em rede, telas sensíveis ao toque, smartphones, relógios inteligentes, mídias sociais, comércio online, streaming de vídeos e músicas, carros autônomos, cortadores de grama robóticos e assistentes virtuais ainda estavam por vir. A inteligência artificial era principalmente um projeto, não uma realidade.
O filme mostra uma tecnologia feita de porcas e parafusos, e mecanismos que seguem as desajeitadas leis da física newtoniana. Até mesmo o icônico “Star Trek”, que estreou dois anos depois, ainda imaginava um futuro dependente de computadores mainframe desajeitados, de trabalho manual e de interações sociais face a face.
As pessoas nascidas após o início dos anos 1980 habitaram uma realidade totalmente diferente. Para elas, um mundo sem tecnologias digitais é como um mundo sem carros para mim: um conceito abstrato que eu só tinha ouvido ser descrito pela minha avó. Os impactos sociais e éticos da tecnologia digital estão agora tão profundamente enraizados que podem ser difíceis de perceber, muito menos de compreender.
O smartphone de hoje possui muito mais capacidade de processamento em poucos centímetros, e a um custo quase insignificante, do que a Nasa podia reunir quando Armstrong pousou na Lua cinco anos depois de “Robinson Crusoé em Marte”.
O Apollo Guidance Computer a bordo da Apollo 11 tinha 32.768 bits de memória de acesso aleatório (RAM) e 589.824 bits (72 KB) de memória somente leitura (ROM): você não poderia armazenar esta edição do American Scientist nele. Cinquenta anos depois, um telefone comum vem com 4 GB de RAM e 512 GB de ROM. Isso é cerca de um milhão de vezes mais RAM e sete milhões de vezes mais ROM.
Quanto ao processador, o Apollo Guidance Computer rodava a 0,043 megahertz. Um processador de iPhone médio roda a 2.490 megahertz, cerca de 58.000 vezes mais rápido. Para se ter uma ideia melhor da aceleração, uma pessoa caminha em média a cinco quilômetros por hora, mas um jato hipersônico viaja um pouco mais de mil vezes mais rápido, a 6.100 quilômetros por hora, pouco mais de cinco vezes a velocidade do som. Apenas as espaçonaves mais radicais, como a nova Parker Solar Probe, podem bater a velocidade de caminhada de uma pessoa por um fator de 58.000.
No entanto, o mundo de hoje não parece 58.000 vezes mais rápido do que quando eu era jovem. Para onde foi toda essa velocidade e poder computacionais? A resposta é dupla: viabilidade e usabilidade. Podemos fazer cada vez mais em termos de aplicativos e podemos fazer isso de maneiras cada vez mais fáceis, não apenas em termos de programação, mas principalmente em termos de experiência do usuário.
Vídeos e softwares de sistemas operacionais são muito exigentes em termos de computação. As formas comuns de inteligência artificial hoje – como os programas usados para recomendar vídeos no YouTube, definir o preço de uma corrida de Uber ou selecionar os anúncios que você vê online – são possíveis porque temos o poder computacional necessário para executar o software delas.
Hoje, graças a esse crescimento alucinante nas capacidades de armazenamento e processamento, a custos cada vez mais acessíveis, bilhões de pessoas estão conectadas e passam muitas horas online diariamente. Os estadunidenses, por exemplo, passam em média 6,31 horas na internet diariamente, um pouco menos do que a média global de 6h41min. A pandemia certamente elevou esses números ainda mais. A inteligência artificial é possível hoje também porque nós, humanos, passamos cada vez mais tempo em contextos digitais que são amigáveis a ela.
Mais memória, mais velocidade e mais ambientes e interações digitais geraram imensas quantidades de dados. Todos nós já vimos diagramas com curvas exponenciais, indicando quantidades que nem sabemos como imaginar. De acordo com a empresa de inteligência de mercado IDC, em 2018 nós alcançamos 18 zetabytes de dados criados, capturados ou replicados – ou seja, 18 × 1021 bytes.
Esse crescimento surpreendente de dados não mostra sinais de desaceleração: de acordo com as projeções da IDC, o consumo total de dados aumentará para 175 zetabytes em 2025. Esse número é difícil de captar, tanto em termos de quantidade quanto de importância.
Duas consequências merecem um momento de reflexão. A velocidade e a memória das nossas tecnologias digitais não estão crescendo no mesmo ritmo que o universo de dados, por isso estamos mudando rapidamente de uma cultura da gravação para uma cultura da exclusão.
A questão não é mais o que salvar, mas sim o que deletar a fim de abrir espaço para novos dados, transformando a ideia de arquivamento do passado. E a maioria dos dados disponíveis foi criada a partir dos anos 1990, mesmo se incluirmos cada palavra proferida, escrita ou impressa na história humana e cada biblioteca ou arquivo que já existiu.
Basta olhar para qualquer diagrama que ilustra a explosão de dados: não é apenas o lado direito, onde o crescimento dispara, mas também o canto esquerdo, com tão poucos dados apenas alguns anos atrás. Como quase todos os nossos dados foram criados pela geração atual, eles também estão envelhecendo juntos, em termos de suporte e de tecnologias obsoletas, de modo que a sua curadoria será uma questão cada vez mais premente. Os disquetes dos anos 1980 são agora raridades curiosas e obscuras; os CDs do início dos anos 2000 os estão seguindo rapidamente.
Mais poder computacional e mais dados possibilitaram a mudança da lógica (se A, então B) para a estatística (A está relacionado a B). Os algoritmos evoluíram das pesquisas em bibliotecas que podiam encontrar uma fonte por meio de uma palavra-chave até as ferramentas da Amazon que podem analisar seus hábitos de compra e recomendar novos livros para você.
As redes neurais que eram interessantes apenas teoricamente tornaram-se instrumentos comuns no aprendizado de máquina e são usadas diariamente em diagnósticos médicos, para conceder empréstimos e cartões de crédito, e em verificações de segurança. Elas não pretendem realmente nos ajudar a compreender a cognição; são apenas ferramentas que fazem classificações.
As primeiras versões da inteligência artificial eram simbólicas em sua maioria e podiam ser interpretadas como um ramo da lógica matemática, mas, em suas iterações atuais, a inteligência artificial é principalmente conexionista, buscando padrões complexos nos conjuntos de dados, e poderia ser interpretada como um ramo da estatística. O principal cavalo de batalha da inteligência artificial não é mais a dedução lógica, mas sim a inferência e a correlação estatísticas.
Poder e velocidade computacionais, tamanho da memória, quantidade de dados, algoritmos, ferramentas estatísticas e interações online tiveram que crescer a uma velocidade vertiginosa para acompanhar uns aos outros. O número de dispositivos digitais interagindo entre si já é várias vezes maior do que a população humana, mas a conexão causal é bidirecional. Portanto, a maior parte da comunicação é agora máquina a máquina, sem nenhum envolvimento humano. Temos robôs computadorizados como o Perseverance e o Curiosity perambulando por Marte, controlados remotamente a parir da Terra. O comandante Christopher “Kit” Draper os teria achado absolutamente incríveis.
Todas essas tendências continuarão avançando, implacavelmente, no futuro previsível. As tendências econômicas, culturais e tecnológicas que as impulsionam não mostram sinais de abatimento. A expansão do mundo digital mudou a forma como aprendemos, jogamos, trabalhamos, amamos, odiamos, escolhemos, decidimos, produzimos, vendemos, compramos, consumimos, anunciamos, nos divertimos, cuidamos e somos cuidados, nos socializamos, nos comunicamos e assim por diante.
Parece impossível encontrar um recanto das nossas vidas que não tenha sido afetado pela revolução digital. No último meio século, a nossa realidade tornou-se cada vez mais digital, feita de zeros e uns, executados por softwares e dados, em vez de hardwares e átomos.
Cada vez mais pessoas vivem de um modo cada vez mais onlife, tanto online quanto offline, e na infosfera, tanto digital quanto analogicamente. Usamos o Instagram e o WhatsApp para manter contato com nossos amigos e comparamos preços online mesmo quando estamos em um shopping center.
Essa revolução digital não é meramente tecnológica. Ela afeta a forma como conceitualizamos e entendemos as nossas realidades, cada vez mais interpretadas em termos computacionais e digitais. As pessoas agora se referem rotineiramente ao DNA como “código” genético, embora a ideia tenha apenas algumas décadas.
A revolução digital também alimentou o desenvolvimento da inteligência artificial. Agora, rotineiramente, compartilhamos nossas experiências onlife e os nossos ambientes de infosfera com agentes inteligentes, sejam eles algoritmos, bots ou robôs. Eles representam uma forma sem precedentes de agência, que não precisa ser inteligente para ter sucesso; por exemplo, os computadores podem jogar xadrez ou Scrabble melhor do que qualquer um de nós. A Netflix pode adivinhar o que eu quero assistir antes mesmo que eu saiba.
Aquilo que eu descrevi até aqui, a revolução digital, oferece enormes oportunidades para melhorar a vida privada e pública, assim como o nosso ambiente. Consideremos, por exemplo, o desenvolvimento de cidades inteligentes ou os problemas causados pelas emissões de carbono. Os algoritmos podem melhorar o fluxo do tráfego e o uso da energia; redes elétricas inteligentes podem reduzir os impactos do carbono.
Um relatório recente da Microsoft e da PwC estimou que o uso de inteligência artificial em aplicações ambientais poderia reduzir as emissões globais de gases do efeito estufa em 1,5% a 4%, ao mesmo tempo em que aumentaria o PIB global em 3,1% a 4,4%.
Infelizmente, essas oportunidades também estão associadas a desafios éticos significativos. Os exemplos incluem o uso extensivo de cada vez mais dados – muitas vezes pessoais, senão confidenciais (Big Data) –, a crescente dependência dos algoritmos para analisá-los, a fim de moldar escolhas e tomar decisões (incluindo aprendizado de máquina, inteligência artificial e robótica) e a gradual redução do envolvimento ou mesmo da supervisão humanos de muitos processos automáticos.
Tais aplicações levantam questões urgentes de justiça, responsabilidade e respeito aos direitos humanos, entre outras – por exemplo, no policiamento preventivo ou ao usar o reconhecimento facial para monitorar os comportamentos.
Os desafios éticos impostos pelas tecnologias e práticas digitais podem ser enfrentados com sucesso. Boston, Portland e San Francisco estão entre as cidades dos Estados Unidos que baniram o uso indiscriminado do reconhecimento facial pelas autoridades. Implementada com cuidado e ética, no entanto, a mesma tecnologia ajudou a identificar milhares de crianças desaparecidas em Nova Delhi.
Fomentar o desenvolvimento e as aplicações de inovações baseadas em dados e softwares, garantindo o respeito pela dignidade humana, pelo bem-estar do ambiente e pelos valores que moldam sociedades da informação abertas, pluralistas e tolerantes é uma grande oportunidade que podemos e devemos aproveitar.
Construir uma aliança tão robusta entre o verde de todos os nossos ambientes (tanto naturais quanto artificiais) e o azul das nossas tecnologias digitais não será uma tarefa fácil ou simples. Mas a alternativa – deixar de avançar e de alavancar eticamente todas as tecnologias digitais, suas práticas e ciências – teria consequências lamentáveis.
Por um lado, ignorar as questões éticas pode causar impacto negativo e rejeição social, como foi o caso do programa Care.Data do Serviço Nacional de Saúde da Grã-Bretanha, um projeto fracassado de extrair dados dos consultórios de clínicos gerais para um banco de dados central. A preferibilidade social e a sustentabilidade ambiental devem guiar todo o desenvolvimento digital.
Por outro lado, superestimar a proteção dos direitos individuais ou coletivos nos contextos errados pode levar a regulamentações excessivamente rígidas, o que pode prejudicar as chances de aproveitar o valor social e ecológico da inovação digital. Por exemplo, as emendas da Comissão das Liberdades Cívicas, da Justiça e dos Assuntos Internos (Libe), propostas inicialmente ao Regulamento Geral sobre a Proteção de Dados e abandonadas somente após objeções da comunidade acadêmica, teriam tornado a pesquisa médica mais difícil ao restringir severamente o acesso científico aos registros de dados dos pacientes.
A exigente tarefa da ética digital é maximizar o valor da inovação digital para beneficiar os indivíduos, as sociedades e os ambientes, navegando entre a rejeição social e a proibição legal. Para alcançar isso, a ética digital pode se basear nos fundamentos fornecidos pela ética da computação desde os anos 1950 e na disciplina posterior da ética da informação. Esse valioso legado enxerta a ética digital na grande tradição da ética de modo mais geral.
Em poucas décadas, entendemos que o foco mais útil das nossas estratégias éticas não é em uma tecnologia específica (computadores, celulares, plataformas online, computação em nuvem e assim por diante), mas naquilo que é feito com qualquer solução digital. A mudança da ética do computador e da informação para a ética digital destaca a necessidade de considerar não apenas as tecnologias e as ciências envolvidas, mas também os contextos e as aplicações (nos negócios ou na política, por exemplo) e as práticas correspondentes.
A ética digital diz respeito ao impacto geral do mundo digital, interpretado de modo amplo, e debates mais restritos sobre conceitos como “roboética” ou “ética da máquina” erram o alvo. Os desafios éticos trazidos pela revolução digital – incluindo a privacidade, o anonimato, a responsabilidade e responsabilização, a transparência e explicabilidade, e a confiança – dizem respeito a uma ampla variedade de fenômenos digitais e, portanto, são mais bem compreendidos em um nível ecossistêmico. O verdadeiro desafio não é a inovação dentro do mundo digital, mas a governança do ecossistema digital como um todo.
Hoje, a ética digital é um ramo completo da ética que estuda e avalia os problemas morais relacionados aos dados (incluindo a geração, a gravação, a curadoria, o processamento, a disseminação, o compartilhamento e o uso), aos algoritmos (incluindo a inteligência artificial, os agentes artificiais, o aprendizado de máquina e os robôs) e às práticas correspondentes (incluindo a inovação responsável, a programação, o hacking e os códigos profissionais) a fim de formular e apoiar soluções moralmente boas (como condutas, valores e políticas corretos).
Há um crescente interesse nesses campos, mas também muita confusão, o que gera falsas esperanças e temores infundados – por exemplo, sobre o que a inteligência artificial realmente pode oferecer. Não será uma panaceia e não terá nada a ver com a inteligência artificial dos filmes de Hollywood. Neste exato momento, há muitos best-sellers de aeroporto e poucas teses de doutorado.
Em particular, precisamos de mais especialistas na multidisciplinaridade exigida pela área. Mas as pessoas estão cada vez mais falando sobre as questões certas nos lugares certos: não apenas na academia, mas também nas empresas e nos governos.
A ética dos dados se concentra nos problemas levantados pela coleta e pela análise de conjuntos de dados, e em questões relacionadas ao seu uso, como o Big Data na pesquisa biomédica e nas ciências sociais, o perfilamento social e a publicidade, o open data e a filantropia de dados.
Algumas das questões-chave sobre as quais meus colegas e eu debatemos dizem respeito à possível reidentificação de indivíduos por meio da mineração, lincagem, fusão e reutilização de dados. Os riscos se estendem à “privacidade de grupo”, quando a identificação de tipos de indivíduos, independentemente da desidentificação de cada um deles, pode levar a sérios problemas éticos, desde a discriminação de grupo (incluindo o idadismo, o etnismo, o sexismo e muito mais) até formas de violência contra grupos específicos.
Um exemplo clássico foi fornecido pelo algoritmo que executa o serviço de remessa no mesmo dia da Amazon. Depois de lançado, a empresa ajustou seu algoritmo para acabar com a discriminação contra bairros predominantemente negros em muitas das principais cidades. Moderação de conteúdo, liberdade de expressão e confiança também são temas cruciais do debate ético.
Essas discussões também podem ajudar a enfrentar a limitada consciência pública dos benefícios, oportunidades, riscos e desafios associados à revolução digital. Por exemplo, políticos e desenvolvedores de tecnologia costumam promover a transparência como uma medida que pode fomentar a confiança. No entanto, essas propostas muitas vezes não esclarecem o público sobre quais informações devem ser tornadas transparentes, em que grau e para quem.
A ética dos algoritmos aborda questões levantadas pela crescente complexidade e autonomia dos algoritmos, definidos de modo amplo, incluindo a inteligência artificial e agentes artificiais como os bots da internet, especialmente no caso de aplicativos de aprendizagem de máquina – por exemplo, softwares de reconhecimento de imagem ou sistemas automatizados de tomada de decisão.
Nesse caso, os desafios cruciais envolvem a responsabilidade moral e a responsabilização de designers e cientistas com relação a consequências imprevistas e indesejadas, assim como a oportunidades perdidas. A opacidade, o design ético, a auditoria de algoritmos e a avaliação de potenciais resultados indesejáveis (como a discriminação racial ou a promoção de conteúdos enganosos ou incendiários nas redes sociais) estão atraindo cada vez mais pesquisas.
Por fim, a ética das práticas aborda questões relativas às responsabilidades e às obrigações de pessoas e organizações, como governos que implementam tecnologias de cidades inteligentes, responsáveis por processos, estratégias e políticas digitais. O objetivo é definir um marco ético para moldar os códigos profissionais – como evitar preconceitos raciais e de gênero no reconhecimento facial – no sentido da inovação, do desenvolvimento e do uso responsáveis, o que pode assegurar práticas éticas que promovam tanto o progresso da inovação digital quanto a proteção dos direitos de indivíduos e grupos. Três questões são centrais nessa linha de análise: o consentimento, a privacidade e o uso secundário.
Embora sejam linhas de pesquisa distintas, a ética dos dados, dos algoritmos e das práticas estão interligadas. Por exemplo, análises com foco na privacidade dos dados devem abordar questões relativas ao consentimento e às responsabilidades profissionais; e a auditoria ética de algoritmos frequentemente envolve análises das responsabilidades de seus designers, desenvolvedores, usuários e adotantes.
A ética digital deve abordar todo o espaço conceitual, mesmo que com prioridades diferentes. Ela deve evitar abordagens estreitas e ad hoc, e, em vez disso, abordar o conjunto diversificado de implicações éticas das realidades digitais dentro de um marco inclusivo, integrado e consistente.
A vida hoje se tornou inconcebível sem a presença de tecnologias, serviços, produtos e práticas digitais. Quem não está perplexo com essa revolução digital ainda não se deu conta da sua magnitude. Iniciamos um novo capítulo da história humana. É claro, outros capítulos vieram antes, todos igualmente significativos. A humanidade experimentou um mundo antes e depois da roda, do ferro, do alfabeto, da imprensa, da máquina a vapor, da eletricidade, da televisão e do telefone.
Cada transformação é singular. Algumas delas mudaram a nossa autocompreensão, a nossa realidade e a nossa experiência de forma irreversível, com implicações complexas e de longo prazo.
Ainda estamos encontrando novas formas de explorar a roda; basta pensar nos controles de infotenimento nos carros. Da mesma forma, aquilo que a humanidade vai alcançar usando as tecnologias digitais é inimaginável. Ninguém em 1964 poderia ter adivinhado como seria o mundo apenas 50 anos depois, conforme amplamente documentado pelas previsões em exibição na Feira Mundial de Nova York de 1964.
No entanto, a revolução digital acontece apenas uma vez. Para que tudo corra bem, a hora de começar é agora. As gerações futuras nunca conhecerão uma realidade apenas analógica, offline e pré-digital. Somos a última geração a experimentá-la.
O preço de viver neste tempo especial da história é que temos que enfrentar incertezas preocupantes e fazer isso com compreensão limitada. As potenciais transformações surpreendentes justificam uma certa confusão e apreensão. Basta olhar as manchetes dos noticiários para ver a abrangência dessas respostas.
No entanto, a nossa posição e perspectiva especiais na história também trazem oportunidades extraordinárias. Precisamente pelo fato de a revolução digital estar apenas começando, podemos moldá-la de formas positivas que beneficiem a humanidade e também o nosso planeta. Como disse Winston Churchill, “nós moldamos os nossos edifícios; depois disso, eles nos moldam”. O mesmo se aplica ao nosso ambiente digital construído.
Estamos nos estágios iniciais da construção de nossas novas realidades digitais. Podemos fazer isso de modo correto, antes que elas comecem a afetar e a influenciar a nós e às gerações futuras de modo errado. O debate sobre se as tecnologias digitais são mais benéficas ou mais prejudiciais é inútil. As tecnologias estão chegando, e a questão realmente interessante é como podemos aplicá-las de modo ética. A verdadeira resposta para saber se o copo está meio cheio ou meio vazio é que ele pode ser enchido. Para identificar o melhor caminho a seguir no desenvolvimento das nossas tecnologias digitais, precisamos de mais e melhores éticas digitais.
Não devemos caminhar como sonâmbulos na criação de um mundo cada vez mais digital. A insônia da razão é vital, porque o seu sono gera erros monstruosos. Compreender a revolução digital que está ocorrendo debaixo dos nossos olhos é essencial, se quisermos guiar a humanidade rumo a um futuro que seja ambientalmente sustentável e socialmente justo.
FLORIDI, L. The Fourth Revolution: How the Infosphere Is Reshaping Human Reality. New York: Oxford University Press, 2014.
WACKS, R. Privacy: A Very Short Introduction. New York: Oxford University Press, 2015.
WIENER, N. The Human Use of Human Beings: Cybernetics and Society. New York: Da Capo Press, 1954.