“A inteligência artificial é compatível com o humanismo? Tenho motivos para duvidar disso, pelo menos na sua versão ocidental, mas não necessariamente na chinesa. Tudo depende se estamos falando de seres humanos como indivíduos ou como coletividade.”
A opinião é de Derrick de Kerckhove, ex-diretor por mais de 20 anos do Programa McLuhan em Cultura e Tecnologia da Universidade de Toronto, consultor científico da Tutti-Media e professor no Politécnico de Milão, na Itália.
O artigo foi publicado em NewsMedia4Good, 02-09-2021. A tradução é de Moisés Sbardelotto.
“No princípio era a palavra, e a palavra se fez carne.” As palavras foram os primeiros algoritmos humanos. Na sua “Scienza Nuova”, Giambattista Vico fornece a explicação mais confiável e simples ainda de como as palavras nasceram a partir de enunciados, gritos e grunhidos que acompanhavam e estendiam gestos e movimentos.
Antes do aparecimento e do desenvolvimento das palavras, os sentidos eram os principais algoritmos que guiavam a ação e o comportamento, não somente do ser humano, mas também de todos os animais. Para os animais, em geral, os sentidos eram suficientes; eles guiavam e produziam a ordem social. Com os sentidos, há pouca ou nenhuma separação entre experiência e interpretação. Sentir algo já é uma interpretação desse algo.
Foram as palavras que introduziram uma separação entre experiência e interpretação (de significante a significado), mas as palavras permaneceram subordinadas aos sentidos até serem escritas, como também observou Vico. Ao formalizar e estabilizar as relações entre palavras e significado, a escrita estreitou a gama dos significados possíveis. E as palavras, assim, assumiram a função algorítmica dos sentidos.
Mas as palavras ainda são algoritmos muito soltos, tão soltos que, da exegese bíblica e da hermenêutica a Wittgenstein, a filosofia – e depois a semiótica – fez esforços desesperados para torná-las mais circunscritas. Agora, a digitalização poderia conseguir eliminar totalmente a interpretação, concentrando-se não no significado, mas nas próprias palavras.
É por isso que a transformação digital e a inteligência artificial que a está guiando estão destronando o significado, tornando-o mais ou menos inútil para fazer o mundo funcionar.
O que eu entendo por algoritmo é qualquer coisa que induza um comportamento – técnico, social ou pessoal – em uma ordem coerente. Ele não é infalível – nem a inteligência artificial o é – mas, em geral, parece funcionar melhor do que o caótico mundo das palavras.
A batalha de palavras está perdida? Com as fake news e a negação das ciências, a objetividade e o bom senso foram afugentados, as opiniões disseminadas como manchas de óleo no mar do significado criam redemoinhos envolventes. Chama-se isso de “pós-verdade”, como se a verdade sempre tivesse estado disponível antes.
“Finnegan’s Wake”, de Joyce, soou o grito de guerra, o primeiro festival de superposições quânticas de significados. A física quântica e as figuras tecnológicas que ela já está produzindo se tornarão o próximo campo da cultura. A pergunta é: ele incluirá o humanismo?
Para responder a essa pergunta, é importante conhecer a base, o campo que temos debaixo dos nossos pés: the ground, como dizem os ingleses. Assim como a terra faz flores, o nosso modo de vida produz comportamentos. A humanidade já experimentou dois grandes sistemas e se prepara para explorar um terceiro.
O primeira está ligado à linguagem, cujo propósito e princípio era – e ainda é – produzir significado. A partir desse princípio, surgiram inúmeras figuras que dão ou buscam um significado. O logocentrismo, outra palavra para estabelecer a linguagem como fundamento, é a base de algumas das maiores narrativas do mundo. A busca de sentido, desde o início, leva à divindade, primeiro da natureza, depois da cultura, depois do “povo”, depois das pessoas.
O cristianismo era a religião das pessoas nascidas da alfabetização, que colocava a própria linguagem – não só as ideias e a imaginação – sob o controle pessoal. Eis quando e por que o humanismo ocidental começou (Deus dá o input à própria produção de sentido, mas depois o seu mundo se seculariza rapidamente...).
Com as religiões, os seres humanos se submeteram de bom grado às ficções que criaram para consolidar um significado global, o arquialgoritmo, se poderia dizer. O campo da linguagem produziu diversos corolários, ou subcampos, dependendo de como condicionou e modelou os sistemas de escrita; por exemplo, as línguas polissilábicas, como o indo-europeu, eram todas orientadas para representações fonológicas, enquanto as monossilábicas, como o chinês mandarim, eram obrigadas a recorrer à pictografia para eliminar a ambiguidade entre miríades de homônimos.
O fato interessante que pode estar relacionado à sua relação diferente com o significado é que os chineses, embora não totalmente desprovidos de religiões (taoísmo, confucionismo e as religiões estrangeiras, como o cristianismo, o budismo e o Islã, que eles toleram com relutância), na realidade não têm deuses. Ao longo dos milênios, eles respeitaram profundamente a sabedoria, mas não cederam à necessidade de divinizar os seus sábios, como fizeram os cristãos ou budistas com Cristo e Buda. Assim, pode-se argumentar que uma forma genuína de humanismo começou na China muito antes do Ocidente.
Haveria muito mais a dizer no campo da língua e sobre as suas consequências, incluindo o humanismo e, de fato, até mesmo a própria ideia de distinguir e privilegiar radicalmente os “humanos” sobre os outros animais, mas sigamos em frente.
O novo não é a palavra, mas a cifra e, entre os seus princípios está o de traduzir todas as línguas, todos os sentidos, toda a matéria no menor denominador comum possível, o código binário de 0 e 1. E mesmo essa condição binária pode ser parcialmente reduzida a um, simplesmente ligando e desligando um. Isso coloca um pouco todos os significados no mesmo nível, todos engolidos pelo ambiente digital único: ligados e desligados, dependendo da demanda.
Para as operações digitais, o significado é apenas um acessório, ocasionalmente útil, mas geralmente não necessário. Um dos efeitos mais irônicos da digitalização é que ela pode traduzir todas as línguas do mundo sem conhecer sequer uma delas. Outro princípio é combinar o hardware com o software, ou seja, tornar inteligentes tanto os objetos inanimados quanto os animados.
E é aí que entra em jogo a inteligência artificial. Por uma questão de ordem, tudo deve se tornar ciente e responder a tudo, inclusive humanos e instrumentos. Se há uma possibilidade para a humanidade de regular as mudanças climáticas e sobreviver, é aí que ela se encontra. Mas, por enquanto, não estamos nem um pouco próximos disso. Provavelmente será preciso esperar pelo próximo campo.
Dito isso, a inteligência artificial é compatível com o humanismo? Tenho motivos para duvidar disso, pelo menos na sua versão ocidental, mas não necessariamente na chinesa. Tudo depende se estamos falando de seres humanos como indivíduos ou como coletividade. Ao priorizar o bem-estar social sobre o bem-estar individual, os chineses se sentem perfeitamente à vontade sendo dirigidos por algoritmos e “créditos sociais”.
O humanismo ocidental está comprometido com o individualismo, com o direito à liberdade de consciência e à privacidade da sua mente, condições de que a democracia não pode prescindir. Embora os ocidentais em geral ainda acreditem que têm liberdade de consciência, ignorando não sinceramente que as suas escolhas são feitas para eles pelos algoritmos, a sua privacidade está “over”, como Mark Zuckerberg observou alegremente alguns anos atrás.
No Ocidente – assim como no Oriente, mas por razões diferentes e de modos diferentes – os movimentos e as ações de todos, dentro e fora, on e offline, são rastreados, registrados e catalogados. Tais movimentos e ações ainda são a base para fazer inferências sobre o que e como essas mentes “privadas” pensam, mas é apenas uma breve questão de tempo antes que se invente alguma engenhoca inteligente para entrar nessas mentes para prever e controlar melhor o comportamento.
O humanismo ocidental requer uma separação nítida entre as pessoas, permitindo-lhes não apenas criar e desenvolver opiniões individuais, teorias, produtos e formas de arte, mas também respeitar o campo comum dos significados como “objetivos”, o que significa “independentes das suas opiniões”, e o reconhecimento de que tais opiniões subjetivas são permitidas desde que sejam apenas propostas, não impostas aos outros.
Não é o que ocorre hoje. A opinião de todos é imposta a todos os outros nas mídias sociais, sem a menor consideração por quaisquer referências consensuais.
É hora de enfrentar esta questão: a transformação digital não está mais – nem menos – interessada nos humanos do que no significado. Os humanos são um acessório ainda útil, porque, como McLuhan sugeria espirituosamente, “o ser humano se torna, por assim dizer, o órgão sexual do mundo das máquinas, como a abelha do mundo vegetal, permitindo-lhe fecundar e evoluir para formas sempre novas”.
Sabemos o que está acontecendo com as abelhas, e isso serve de alerta. A tecnologia precisa da biologia para seguir em frente e precisa de ideias, invenções e desenvolvimento, mas não se preocupa muito com os valores. O humanismo, por outro lado, é fundamentalmente um sistema de valores. Ele ainda pode ser proposto como um baluarte contra a racionalidade enlouquecida da inteligência artificial? Pode ser. Ele ainda está funcionando razoavelmente bem como dispositivo de frenagem, inspirando os programadores de inteligência artificial a analisarem os preconceitos automáticos.
Assim como os ocidentais devem continuar alimentando a ilusão cristã de serem “autodirigidos”, eles também devem manter em suspenso os valores humanistas, pelo menos até que estejamos bem dentro do terceiro campo, o da “ecologia quântica”, que tem o poder global de tornar tudo consciente de tudo ao mesmo tempo.