“Exatamente porque nossas máquinas atuais não podem pensar nem sentir que isso importa. Nós as chamamos de “inteligentes” e nos maravilhamos com seus poderes; pintamos imagens de um mundo em que elas, e não nós, determinam o que e como fazemos. É inútil resistir: vemos propósito, autonomia e intenção em toda parte”, afirma Tom Chatfield, em discurso do discurso feito no lançamento do Programa de Ciências Humanas e a Era Digital, do Centro de Pesquisas em Ciências Humanas da Universidade de Oxford, em 21 de janeiro de 2016, e publicado por CartaCapital, 10-05-2016.

Segundo ele, “ao atribuirmos a nossos instrumentos agência e intenções que eles não possuem, deixamos de compreender vários pontos fundamentais. Os humanos não são lentos, idiotas e dirigidos para o monte de lixo evolucionário; a eficiência das máquinas é de fato um modelo muito ruim para compreendermos a nós mesmos; e cortar as pessoas de todo ciclo possível – para garantir velocidade, lucro, proteção ou sucesso militar – é um modelo ruim para um futuro em que os humanos e as máquinas maximizam igualmente suas capacidades”.

Eis o artigo.

Quando penso no futuro das interações homem-máquina, duas ansiedades entrelaçadas me vêm à mente. Primeiro, existe a tensão entre existência individual e coletiva. A tecnologia nos conecta uns aos outros como nunca antes, e ao fazê-lo deixa explícito em que grau somos definidos e previstos pelos outros: o modo como nossas ideias e identidades não pertencem simplesmente a nós, mas fazem parte da oscilação da grande maré humana.

Isso sempre foi verdade, mas raramente foi mais evidente ou experimentado de forma tão constante. Pela primeira vez na história humana, a maior parte da população mundial não apenas é alfabetizada – conquista que tem menos de um século –, como também participa ativamente da cultura escrita e gravada, em razão dos dispositivos conectados que permeiam quase todos os países. Essa é uma coisa surpreendente, desconcertante, deliciosa: a multidão na nuvem tornando-se um fluxo de consciência compartilhada.

Segundo, existe a questão de como vemos a nós mesmos. A natureza humana é um conceito amplo e espaçoso, que a tecnologia modificou e expandiu ao longo da história. As tecnologias digitais nos desafiam mais uma vez a perguntar qual é o lugar que ocupamos no universo, o que significa ser criaturas com linguagem, autoconsciência e racionalidade.

Nossas máquinas ainda não são mentes, mas estão adquirindo cada vez mais atributos que costumávamos considerar unicamente humanos: raciocínio, ação, reação, linguagem, lógica, adaptação, aprendizado. Corretamente, temerosamente e hesitantemente, começamos a perguntar que consequências transformadoras trará essa última extensão e usurpação.

Eu digo que essas ansiedades estão entrelaçadas porque, para mim, elas são acompanhadas de um erro comum: a superestimação de nossa racionalidade e nossa autonomia. Ao perguntarmos o que significa ser humano, tendemos a nos considerar mentes individuais e racionais e a descrever nossos relacionamentos com e por meio da tecnologia com base nisso: como “usuários” isolados cuja agência e liberdade são uma questão de técnicas e opções racionais; como realizadores de tarefas que são existencialmente ameaçados por qualquer agente mais eficiente.

Esta é uma visão das interações homem-máquina. Mas é também uma descrição dos seres humanos que nos dá ao mesmo tempo pouco crédito e crédito demais. Sabemos que somos criaturas teimosamente incorporadas, intensamente sociais e emocionais. Grande parte dos melhores trabalhos recentes em economia, psicologia e neurociência enfatizaram que não podemos ser desmembrados em capacidades distintas: em caixas semimecânicas e distintas de memória, processamento e geração.

Nem a língua, nem a cultura, nem a mente humana podem existir em isolamento ou brotar na existência totalmente formadas. Somos interdependentes em um grau que raramente admitimos. Temos pouco em comum com nossas criações – e o feio hábito de culpá-las por coisas que fazemos a nós mesmos.

O que torna tudo isso tão urgente é a natureza brutalmente darwiniana da evolução tecnológica. Nossas máquinas podem não estar vivas, mas as pressões evolucionárias que as cercam são exatamente tão intensas quanto na natureza, e com poucas de suas restrições. Vastas quantias de dinheiro estão em jogo, com corporações e governos disputando quem constrói sistemas mais velozes, eficientes e efetivos, para manter em funcionamento os ciclos de atualização do consumo. Ficar para trás – recusar-se a automatizar-se ou a adotá-los – é ser eliminado da concorrência.

Como indicou o filósofo Daniel Dennett, entre outros, essa lógica da atualização e adoção estende-se muito além de campos óbvios como finanças, guerra e manufatura. Se um algoritmo médico provar que produz diagnósticos mais precisos que um médico, recusar-se a usá-lo é ao mesmo tempo antiético e legalmente questionável. Conforme os carros semiautônomos ou autodirigidos se tornam mais acessíveis e legalizados, é difícil argumentar contra a tese ética e regulatória de que deveriam ser obrigatórios. E assim por diante. É provável que poucos campos do empreendimento humano permaneçam intocados.

As máquinas, em outras palavras, estão se tornando incrivelmente capazes de tomar decisões por nós, com base em vastas quantidades de dados – e se aperfeiçoam nisso em um ritmo igualmente surpreendente. Esqueça a hipotética emergência da inteligência artificial para fins gerais, pelo menos por enquanto: hoje transferimos cada vez mais do que acontece em nosso mundo à velocidade e eficiência de decididores que não pensam.

É exatamente porque nossas máquinas atuais não podem pensar nem sentir que isso importa. Nós as chamamos de “inteligentes” e nos maravilhamos com seus poderes; pintamos imagens de um mundo em que elas, e não nós, determinam o que e como fazemos. É inútil resistir: vemos propósito, autonomia e intenção em toda parte.

Mas, ao atribuirmos a nossos instrumentos agência e intenções que eles não possuem, deixamos de compreender vários pontos fundamentais. Os humanos não são lentos, idiotas e dirigidos para o monte de lixo evolucionário; a eficiência das máquinas é de fato um modelo muito ruim para compreendermos a nós mesmos; e cortar as pessoas de todo ciclo possível – para garantir velocidade, lucro, proteção ou sucesso militar – é um modelo ruim para um futuro em que os humanos e as máquinas maximizam igualmente suas capacidades.

Nossas criações são eficazes em parte porque não têm o peso do que mais torna humanos os seres humanos: o caldeirão fervente da emoção, sensação, tendência e crença que constitui o cerne da vida mental. Somos criaturas belas e tendenciosas. A tecnologia e o intelecto nos permitem exteriorizar nossos objetivos, mas os fins somos nós que escolhemos.

Os incentivos que nossos instrumentos perseguem incansavelmente em nosso nome incluem um trabalho humano próspero e significativo, interações ricas e humanas? Acreditamos que essas coisas sejam inatingíveis, indecifráveis ou inúteis? Se não, quando vamos mudar nosso enfoque?

Se desejarmos construir não apenas máquinas melhores, mas relacionamentos melhores com e por meio das máquinas, precisamos começar a falar de modo muito mais rico sobre as qualidades desses relacionamentos; como funcionam exatamente nossos pensamentos, sentimentos e tendências; e o que significa almejar, além da eficiência, vidas que valham a pena viver.

Como é uma colaboração de sucesso entre humanos e máquinas? Eu diria que é uma em que os humanos continuam no ciclo, capazes de avaliar de forma transparente os incentivos de um sistema e influir em sua direção ou discutir sua alteração.

Como é uma colaboração de sucesso entre humanos mediada pela tecnologia? Já temos muitas dessas, e elas se caracterizam pela maximização de todos os recursos envolvidos: criatividade e questionamento humanos; a busca, velocidade, processamento e memória das máquinas; uma interação que envolve ambas as partes; e o reconhecimento de que a eficiência não é um fim em si, mas simplesmente uma medida de velocidade.

Finalmente, sejamos claros sobre uma coisa. Estamos em uma época incrível para se viver, para debater essas questões juntos. Se há uma coisa que nossa crescente articulação coletiva como espécie produz é que as pessoas se importam, sobretudo, com as outras pessoas: o que elas pensam, fazem, acreditam, temem, odeiam, amam, riem – e o que podemos fazer juntos.

Nossas criações certamente se desenvolverão muito além de nossa atual compreensão: até onde e com que rapidez talvez seja nossa mais urgente pergunta existencial. Nossas melhores esperanças de progresso, entretanto, continuam bastante conhecidas: compreender melhor a nós mesmos; perguntar que objetivos podem servir não apenas à nossa sobrevivência, mas também ao nosso progresso; e lutar para construir sistemas que sirvam a esses, e não os subvertam.