“Nós, humanos, e os algoritmos somos compostos híbridos”. Entrevista com Jorge Carrión

Nesta semana, o renomado escritor e intelectual espanhol Jorge Carrión apresentou, em Buenos Aires, seu último livro Los campos electromagnéticos, o primeiro ensaio experimental escrito por seres humanos e inteligência artificial em espanhol, que desafia os limites do alcance dos algoritmos e propõe uma nova dinâmica que demonstra que o ChatGPT já é (e continuará sendo) um protagonista no campo literário e na indústria cultural que obriga a redefinir noções como as de criação e plágio.

A entrevista é de Josefina Marcuzzi, publicada por Télam, 19-03-2022. A tradução é do Cepat.

“Um algoritmo não é capaz de fazer uma conexão de argumentos entre dois fenômenos que parecem estar relacionados. O humano está aí, em experimentar e ensaiar conexões que não são evidentes. E isso nos obriga a repensar práticas como trabalho escolar, plágio, avaliação. Qualquer tipo de prática que até três meses atrás era boa para avaliar o nível acadêmico, de conhecimento e de empregabilidade de alguém, não faz mais sentido”, aponta o escritor espanhol, em entrevista a Télam, que nesta semana abordou o assunto em conversa com a artista Jasmine Adler, ocorrida no [Museu de Arte Latino-Americano de Buenos Aires] MALBA.

No final da entrevista, Jorge Carrión se definirá como um escritor que sempre ensaia narrativas em diferentes linguagens. Gosta de ser visto como um intelectual de caráter anfíbio: nunca ter parado em determinado gênero. Uma espécie de reivindicação da própria liberdade.

O autor é escritor, jornalista e diretor do Mestrado em Criação Literária da UPF-BSM de Barcelona. Colabora com vários meios de comunicação como La Vanguardia e The Washington Post. É autor de vários livros e roteirista de podcast e de quadrinhos.

Sua experimentação o levou a traçar um percurso cujo resultado levou a Todos los museos son novelas de ciencia ficción, um livro que é uma vivência paranormal que também pode ser lido como um catálogo de exposição. Também é fundamental Membrana, uma história que se passa em 2100, escrita por Carrión, simulando ser inteligência artificial.

Los campos electromagnéticos (Caixa Negra, 2023) é agora o remate final de um processo inevitável do autor, um volume que é um registro do poder e dos limites da escrita algorítmica, em 2023, e um ensaio sobre o duplo sentido da palavra: um exercício de pensamento especulativo e um experimento aberto em forma de livro.

No novo texto, escrevem Jorge Carrión e Jorge Carrión Espelho, um chatGPT-2 criado pelo autor e os engenheiros e artistas do Taller Estampa com três tipos de dados. Nesse processo, o refinamento, a última etapa da elaboração, foi realizado com os livros anteriores do autor para que o algoritmo escreva como ele.

O resultado é um experimento absolutamente lúdico, um texto de escrita especulativa, por vezes, ao mesmo tempo, surreal, hipnótico e perturbador. Um ensaio onde o ser humano e a tecnologia buscam se igualar, atuar no mesmo jogo em um plano horizontal: a escrita colaborativa no sentido mais amplo e honesto possível.

Eis a entrevista.

Carrión, o livro é uma espécie de ensaio, um experimento, e é pensado como um exercício de escrita colaborativa. Quais são as contribuições disto para o ecossistema literário de hoje?

Eu fiz uma tese de doutorado e a publiquei como um livro acadêmico. É o livro que menos pessoas leram de todos os que publiquei e foi o que menos me estimulou. Então, decidi não voltar a publicar qualquer livro acadêmico. Não voltei a escrever algo acadêmico porque me parece um gênero muito rígido, pouco estimulante e que intuo, muito em breve, os algoritmos poderão escrever.

Eu diria que o ensaio acadêmico, os best-sellers, a poesia do Instagram e a autoajuda são os gêneros que, primeiro, os algoritmos poderão escrever como os humanos. O primeiro conflito humano-não-humano, em nível literário, será entre esses gêneros e a produção textual algorítmica. O que não existe nesses gêneros é a experimentação. Há repetição de fórmulas, com variações mínimas. As máquinas farão muito bem esse tipo de linguagem e remistura.

Então, em Los campos electromagnéticos, proponho criar um curto-circuito entre dois conceitos que em teoria não tem nada a ver, cuja relação é poética. E é aí onde há futuro. Hoje, existe no Barcelona FC uma enorme crise ao fato de que talvez tenham comprado árbitros. Escrevi um artigo sobre o assunto, muito recentemente, e acredito que a primeira parte do artigo poderia ter sido escrita por um algoritmo. Contudo, de repente, há uma guinada no artigo para um ponto em que desenvolvo a ideia de que há uma enorme crise no futebol, porque uma partida dura 90 minutos e nossa atenção não pode ficar mais do que alguns segundos concentrada em algo.

Um algoritmo não é capaz de fazer uma conexão de argumentos entre dois fenômenos que parecem ter relação. O humano está aí, em experimentar e ensaiar conexões que não são evidentes. E isso nos obriga a repensar práticas como trabalho escolar, plágio, avaliação. Qualquer tipo de prática que até três meses atrás era boa para avaliar o nível acadêmico, de conhecimento e empregabilidade de alguém, que, automaticamente, o algoritmo faz melhor, não faz mais sentido.

No livro, há um diálogo literário com a obra “Los campos magnéticos”, de André Breton e Philippe Soupault, conhecida por ser o primeiro trabalho de literatura surrealista. Como você pensa a relação entre obras literárias do passado, presente e futuro?

Los campos eletrocmagnéticos, que é a segunda parte do livro feito por um GPT3, é um remake livre de Los campos magnéticos, feito por um algoritmo. Isso me interessa como prática da arte contemporânea: do cinema, a música e a literatura. Há exemplos fascinantes como o de Pablo Katchadjian, com El Aleph engordado. Na Espanha, o caso de Agustín Fernández Mallo, com El Hacedor (de Borges), Remake. Depois, efetivamente, há uma releitura e uma vontade de reatualizar Los campos magnéticos de André Breton e Phillipe Soupault, e isso é próprio da literatura.

A literatura sempre dialoga, atualiza e reescreve textos anteriores. Ocorre que você pode treinar o GPT3 e GPT4 com textos literários, mas, na verdade, não distinguem entre textos literários e não literários. Sendo assim, colocam em crise o que, desde sempre, entendeu-se por mimese literária. Não diferencia a qualidade das palavras, e isso gera outro tipo de relação com a linguagem que não existia até agora.

É possível arriscar que um algoritmo possa fazer essa distinção mais adiante?

Sem dúvida. Agora, a fase final de geração da linguagem artificial é chamada de refinamento. O GPT2 de Jorge Carrión Espelho está refinado com meus livros, então, escreve um pouco como eu, pois o que refina é mais importante do que o que nutre a base. Certamente, com o GPT4, 5, 6 ou 7 contará com refinamentos de caráter estilístico. E será possível refinar com ambição literária, com tom poético.

Os algoritmos poderão substituir o trabalho dos seres humanos que se dedicam à escrita?

Isso sempre aconteceu. Uma nova tecnologia coloca em xeque algumas profissões, elimina outras e cria novas. Da mesma forma, para mim, o espírito desta época é a convivência. Agora, em 2023, surgiu um novo trabalho que é o de especialista em escrever com algoritmos.

É necessário saber programação e é preciso saber escrever, e o que se faz é esboçar formas de personalizar os algoritmos para que escrevam o tipo de texto que sua empresa precisa. Os algoritmos não têm visão, não têm conceito, não têm linha editorial, nem contato com o mundo real, em nível sensorial. Essas são vantagens que as pessoas devem usar e converter em nosso patrimônio e nosso valor.

Na conversa no MALBA, falou-se da “libertação” da escrita, de sair dos formatos estabelecidos. Estava pensando sobre a dimensão lúdica disto. Quanto há de diversão e prazer neste livro?

Muito. O que os algoritmos não podem fazer? Divertir-se. O que não possuem? Humor, ironia. Eu gostei muito do Taller Estampa, foi muito divertido, lúdico. A escrita teve uma parte de festa e de ritual que é alheia à máquina e que me interessa muito.

Houve momentos em que, diante de uma resposta da máquina, respondi: bah, que convencido! (risos). Até me emocionei porque saiu uma frase ou uma metáfora que eu não esperava e era muito boa. Havia muita emoção no trabalho. E quando escolhemos o surrealismo, evidentemente, foi para trabalhar a subversão, o carnaval e a festa.

É possível uma relação horizontal entre nós e a tecnologia, uma dinâmica mais justa onde não haja dominação de uns sobre outros?

Eu penso que sim, pois o contrário é a distopia. Ou distopia do humano que domina o que considera que não é digno, e isso nos leva à escravidão, a que as mulheres não votem... Ou o contrário, que é o que acontece hoje, o controle dos algoritmos sobre a bolsa de valores, o domínio da economia.

É preciso tentar pensar nisso, nos pequenos gestos: percebermos que na vida os dispositivos são muito importantes, que o artificial está no natural e vice-versa. Retirar disto o dramatismo: somos aliados, somos compostos híbridos. Não há nada de extraordinário nisso. E depois pensar que trabalhamos em colaboração com outros humanos, vivos e mortos, e com as máquinas. Estamos colaborando entre todos.

Leia mais

• O que Noam Chomsky pensa a respeito da Inteligência Artificial do ChatGPT
• Chomsky e o melodrama tecnofóbico. Artigo de Bruno Cava
• As cinco perguntas sobre o sucesso do ChatGPT
• ChatGPT: nem monstro, nem tábua de salvação
• Castells: o que (não) penso sobre o ChatGPT
• ChatGPT: entenda como funciona a inteligência artificial do momento - e os riscos que ela traz
• ChatGPT. “Apesar da IA, ainda temos o monopólio da consciência”
• O GPT-3 desafia a inércia acadêmica
• Biopolítica algorítmica. Como as humanidades são impactadas e podem impactar a Inteligência Artificial. Entrevista especial com Virgilio Almeida
• Inteligência Artificial e Saúde: para todos ou para quase ninguém?
• Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti
• “A inteligência artificial está se tornando senciente”, avisa engenheiro do Google. E Big G o suspende
• Dar uma ética à inteligência artificial: um desafio contado em livro
• A inteligência artificial não precisa de inteligência: o pensamento de Luciano Floridi
• “Ética da inteligência artificial”, novo livro de Luciano Floridi
• A necessidade de uma algorética para enfrentar o desafio da inteligência artificial. Artigo de Paolo Benanti
• É possível confiar na inteligência artificial?
• A inteligência artificial pode nos ensinar a ser mais humanos?
• Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
• Inteligência Artificial no Sul Global. Alguns comentários a Jack Qiu
• “A inteligência artificial já faz parte da nossa cotidianidade.” Entrevista com Luciano Floridi