"No momento em que o poder computacional pessoal começou a caber nos nossos bolsos, também começou a nos roubar uma certa autonomia: o smartphone precisa de um substrato invisível e fundamental, a rede, que garante sua operabilidade e que alimenta o poder computacional de bolso que temos e 'datafica' as nossas existências pessoais. De fato, o smartphone começou a se interpor cada vez mais entre nós e as coisas que fazemos diariamente, reconfigurando, em termos de transações digitais, a maioria dos atos que compõem a nossa vida cotidiana", escreve Paolo Benanti, frei franciscano da Terceira Ordem Regular, professor da Pontifícia Universidade Gregoriana, em Roma, e acadêmico da Pontifícia Academia para a Vida, em artigo publicado por Avvenire, 05-07-2024.

Eis o artigo.

Durante a Segunda Guerra Mundial, os primeiros computadores foram desenvolvidos para fins bélicos: o Colossus, criado em Bletchley Park, no Reino Unido, e, nos EUA, o Atanasoff-Berry Computer e o Eniac.

No período imediatamente posterior à guerra, a partir da década de 1950, a introdução dos transistores de silício permitiu a criação de computadores menores, mais rápidos e mais confiáveis, enquanto os circuitos integrados, que surgiram na década de 1960, reduziram ainda mais as dimensões e o custo, aumentando a funcionalidade dos computadores. Inaugura-se, assim, uma época em que o poder computacional se espalha por toda a sociedade.

Naqueles anos, essa distribuição do poder computacional estava confinada aos "mainframes". No entanto, é o surgimento de uma nova corrente cultural que podemos definir, com o perdão pelo trocadilho, como Bit generation, que produziu o profundo mecanismo de descentralização das décadas seguintes. A revolução tecnológica foi alimentada pela semente da contracultura californiana dos anos 1960. O centro dessa maneira de ver os computadores e a informática foi e é o Vale do Silício, a área entre São Francisco e São José.

Acima de tudo, foi o ideal comunitário dos "flower children", sua natureza libertária, seu desejo de ampliar os horizontes e seu desprezo pela autoridade centralizada que formaram o eixo dos fundamentos filosóficos e éticos da Internet e de toda a revolução dos computadores pessoais. A internet iniciou justamente no crepúsculo daquela experiência.

O fim desse processo de democratização ocorreu no final da primeira década deste século com o advento do smartphone.

No momento em que o poder computacional pessoal começou a caber nos nossos bolsos, também começou a nos roubar uma certa autonomia: o smartphone precisa de um substrato invisível e fundamental, a rede, que garante sua operabilidade e que alimenta o poder computacional de bolso que temos e "datafica" as nossas existências pessoais. De fato, o smartphone começou a se interpor cada vez mais entre nós e as coisas que fazemos diariamente, reconfigurando, em termos de transações digitais, a maioria dos atos que compõem a nossa vida cotidiana. Mas se a nossa existência e a nossa capacidade de agir no espaço público foram reconfiguradas em forma digital, o nosso direito e poder de cidadania se tornaram, de fato, computacionais.

Hoje, as nossas existências democráticas são existências computacionais. A democracia que hoje se tornou computacional também desfruta das potencialidades das tecnologias da informação para tornar a participação dos cidadãos na tomada de decisões públicas mais eficaz e inclusiva. Entretanto, se a primeira década do século terminou com as primaveras árabes, fazendo com que esperássemos que a conexão digital fosse o espaço onde a democracia liberal se difundiria e se fortaleceria, o final da segunda década, com a invasão do Capitólio, começou a nos fazer temer pelo futuro da democracia no espaço digital-computacional.

O advento das inteligências artificiais está novamente mudando o horizonte. Os serviços de IA desfocam a fronteira entre o poder computacional pessoal e o poder centralizado na nuvem: ao usar nossos telefones, quase não sabemos mais o que é executado localmente e o que é executado na nuvem. Essa nova forma de centralização na nuvem, no entanto, agora também traz consigo uma centralização da capacidade computacional pessoal associada à democracia. A questão a ser enfrentada, então, será como tornar democrático o poder centralizado da nuvem e da IA evitando que a democracia computacional se transforme em uma oligarquia da nuvem.

A experiência de uso do computador está prestes a passar por uma nova transformação radical. Desde o início da história dos computadores, o homem foi o gargalo na relação com a máquina. Em 1975, com a introdução do sistema operacional DOS, aceleramos a relação com a máquina graças aos teclados. Em 1985, os sistemas de janelas, como o Windows, nos permitiram ganhar velocidade com o mouse. A partir do final da década de 1990, o touch foi mais uma mudança de relação. Hoje, parece que chegamos à mais natural e rápida das interfaces: a linguagem humana. Musk continua a sonhar com fronteiras mais rápidas com seus implantes cerebrais. Na verdade, a infusão de sistemas operacionais com Large Language Models (LLMs) executados localmente é uma revolução na interface e na velocidade de uso da máquina: nunca antes havia sido possível dizer à máquina o que fazer como faríamos com um nosso semelhante e, como a capacidade de cooperar entre membros da nossa espécie é a base de nossa ascensão planetária como espécie dominante, não poucos estão começando a sonhar com um futuro feito de utopias ou distopias que beiram o hibridismo entre homem e máquina.

Um dos aspectos mais preocupantes dessa nova fronteira da interação com a máquina é a enorme ampliação da superfície de ataque cibernético. Poder fazer com que o computador execute processos por meio de comandos linguísticos significa, efetivamente, transformar os LLMs em agentes capazes de realizar operações no computador: mordomos eletrônicos. Se até hoje os hackers podiam invadir os nossos sistemas e retirar dados, excluí-los ou criptografá-los para pedir resgate ou usar o nosso computador para fazer ataques a outros computadores, o que poderão fazer hoje? Com a mesma eficiência com que nos ajuda, o nosso mordomo pode encontrar todas as nossas informações comprometedoras e comunicá-las ao mal-intencionado.

Em resumo, a democracia conseguirá ser resiliente a essas novas formas de poder computacional?

Leia mais

• Demanda elétrica da inteligência artificial eleva emissões de carbono da Google em quase 50%
• As emissões do Google aumentam quase 50% em 5 anos devido ao uso da inteligência artificial
• O outro lado da IA: avanços recentes intensificaram consumo de energia e água de data centers
• IA e crise climática: as grandes empresas de tecnologia escolhem o Sul do mundo para instalar os seus gigantescos centros de dados
• A inteligência artificial bebe quilômetros de milhões de litros de água
• O segredo sujo da inteligência artificial
• “Devemos impor limites ao digital”. Entrevista com Eric Vidalenc
• O insustentável crescimento do digital
• Impactos invisíveis da era digital. Artigo de Silvia Ribeiro
• Como a IA e o Google ameaçam devastar a web
• Como o Google domina setores inteiros da economia
• A publicidade digital, principal fonte de riqueza do Google
• O Google se lança na guerra da Inteligência Artificial
• Pioneiro da IA deixa Google e alerta para risco à humanidade
• Google e Meta lucraram transmitindo ataque golpista a Brasília, aponta relatório de ONG
• Apple, Google, Microsoft e Amazon usaram ouro ilegal de terras indígenas brasileiras
• Como a Google quer dominar o setor da saúde
• “A inteligência artificial está se tornando senciente”, avisa engenheiro do Google. E Big G o suspende
• “Imagen” do Google transforma textos em imagens: quais as implicações éticas? Artigo de Paolo Benanti
• O futuro do Google é também seu passado: colonialismo digital e capitalismo de vigilância