“Alguns colegas do MIT escreveram um artigo acadêmico na revista ‘Nature’ sobre o machine behavior, comportamento das máquinas. A ideia é que deveríamos estudar as máquinas da mesma maneira que estudamos os animais. Não olhamos como é o corpo do animal e como ele é estruturado, mas, sim, observamos como o animal se comporta no mundo. Agora que os algoritmos evoluem e aprendem sozinhos, isso é especialmente crucial. Um algoritmo pode rebelar-se contra seus criadores, pode fazer coisas que não são previstas. Precisamos de "especialistas humanos" para saber se os algoritmos estão atendendo às necessidades humanas. Estamos dependendo de máquinas para coisas que exigem uma compreensão dos seres humanos muito sofisticada”, avalia William Powers, jornalista, estudioso das relações entre Inteligência Artificial e humanidades.

Desde 2014, trabalha no laboratório de meios de comunicação do Massachusetts Institute of Technology – MIT.

A entrevista é de Ricardo Dudda, publicada por Letras Libres, 25-07-2019. A tradução é do Cepat.

Eis a entrevista.

Parece que, em poucos anos, passamos do determinismo tecnológico e do tecno-otimismo para uma visão muito obscura da tecnologia.

Eu acho que há vários fatores que motivaram a mudança de atitude, e acho que nem todos são exógenos. Alguns são provenientes do mundo tecnológico. Pessoas como Elon Musk e Bill Gates, há anos, vêm alertando sobre os perigos da Inteligência Artificial (IA), a ideia de que a IA vai conquistar o mundo e acabar com a humanidade se não formos cuidadosos. E depois há alertas de fora, na conversa mais ampla. Estamos em um momento de conscientização, como consequência de preocupações com a privacidade, a proteção das crianças, mas também de catástrofes em que as redes sociais desempenharam um papel, como o massacre de Christchurch, na Nova Zelândia, que foi transmitido ao vivo no Facebook.

De um modo geral, as pessoas estão realmente se dando conta que a tecnologia domina boa parte de suas vidas. E não estão muito certas se valeu a pena ou o que obtêm de tudo isso. Veem um déficit em suas vidas. No meu livro Hamlet’s Blackberry (2010), eu era um pouco canário na mina. Falava sobre como na minha família alguns dispositivos subtraíam muito mais do que obtínhamos deles. Naqueles anos, me senti um pouco louco, porque quase ninguém dizia isso.

Eu sempre fui um entusiasta da tecnologia. Na universidade, nos anos oitenta, era um dos poucos que usava um computador. Sempre fui esse tipo de pessoa. Mas, ao mesmo tempo, cresci em uma família espiritual e sempre fui atraído pelo lado espiritual da vida. E isso é um fator que me influenciou para me tornar o canário na mina, porque queria alertar sobre questões que afetavam a vida espiritual negativamente. Meu livro não era sobre como a tecnologia estava dominando nossas vidas, mas sobre a tecnologia de um ponto de vista filosófico.

Acredita que os líderes de grandes plataformas digitais também se adaptaram a isso? Ou ainda são os idealistas libertários do começo?

Se assistir, por exemplo, o filme “A rede social”, descobrirá que já existe uma mudança. Conta uma história que parece um sucesso, mas ao mesmo tempo é um filme muito sombrio. Isso mostra o quão horrível é o lado comercial de algumas startups. Mesmo esteticamente, todo o filme é sombrio. Acho que iniciou uma época com produtos culturais muito interessantes que discutem novas questões tecnológicas. Hollywood mais ou menos liderou isso. Filmes como Her, Ex Machina, séries como Black Mirror.

Trabalho em Cambridge, Massachusetts, que é um importante centro de startups, do outro lado do rio, em Boston. E permanece a crença de que começar um negócio é promissor. Não estamos descartando completamente o capitalismo tecnológico. Mas, há a ideia de que não agimos bem nos últimos trinta anos, e que precisa haver uma maneira de solucionar isso. Talvez seja tendencioso porque estou há cinco anos trabalhando no MIT e estou cercado por pessoas muito "crentes", mas eu tenho uma formação humanista, e se olhar para o arco da história, isso já aconteceu antes. A impressão foi condenada em seu início: é perigosa, estende mentiras, precisa ser fechada. Dizia-se que Gutenberg havia fracassado porque não ganhou dinheiro. E olha o que aconteceu depois. Mudou o mundo de uma maneira positiva. Eu acho que estamos em um período de transição.

Um dos temas em que mais mudou a opinião pública, ou a opinião de especialistas e da imprensa, é a privacidade. Agora, são denunciadas violações de privacidade que alguns anos atrás ninguém mencionava.

Mudou radicalmente a forma como abordamos o debate. Nos anos noventa, não sabíamos que precisaríamos ceder algo para ter esses serviços digitais, ao contrário, pensávamos que a Internet era um espaço público para interagir e ser produtivos.

De alguma forma, reinventava nossa concepção de vida privada. Mas, todos nós mantínhamos uma parte privada de nossas vidas. E isso é o que eu acho que foi minimizado. Todos valorizam sua própria privacidade em certas dimensões de sua vida. Na medida em que a tecnologia transpassa mais fronteiras (nosso celular nos localiza o tempo todo e vende nossos dados para os anunciantes, por exemplo), percebemos que perdemos isso. Vinte anos atrás, não imaginávamos que algo assim aconteceria tão rápido, tão comovidos como estávamos em nos adaptar. De repente, há aqueles que exigem que todo esse processo seja regulamentado. E isso está sendo feito. Quando aterrissei na Europa e liguei meu celular, vi as opções de privacidade oferecidas a mim. Isso é progresso. Nos Estados Unidos, não temos a GDPR, mas acho que os americanos seguirão essa tendência iniciada pela União Europeia.

As notícias falsas, a privacidade, os monopólios são problemas importantes, mas há outro também que tem a ver com o modelo de negócio das empresas de tecnologia, baseado no chamado "capitalismo de vigilância".

A crença no máximo engagement é essencial nesse modelo de negócio. É o que fez do Facebook uma das empresas mais ricas da história do mundo. Mas, é estranho pensar que isso continuará assim como está agora. Os níveis de lucro do Facebook e do Google são sem precedentes. Eu acho que se você traduzir os dólares atuais para aqueles do século XIX, John D. Rockefeller era muito mais rico que os ricos de hoje. De qualquer forma, se é uma repetição daqueles anos, não é uma coisa positiva. Parece que vivemos em um momento como o de outrora, nos Estados Unidos, quando o presidente Teddy Roosevelt se levantou e disse: há muitas pessoas infelizes com essa revolução. O Facebook desregulamentado, que segue o modelo capitalista extremo, provavelmente não pode sobreviver, pelo bem da humanidade.

Isso significa que os “facebooks” do mundo devem desaparecer? Não. Muitas indústrias, não só de comunicação, mas em muitos setores, passam momentos de transição onde há atores que fazem coisas extremas, como explorar áreas inteiras em busca de ouro, por exemplo. Hoje ainda existem minas, mas sua exploração é mais regulamentada. A época da pura ruptura, a ideia de cowboy da cultura startup vai mudar. O tipo de inovação que vimos nos primeiros anos do Facebook parece antiquada. Agora, acreditamos que foi um erro e que temos que torná-lo melhor.

Escreve há anos sobre jornalismo. Preocupa-se com o fato do modelo de negócios dos meios de comunicação ser tão dependente de plataformas como Google, Facebook, Twitter ...?

Sempre me preocupa quando há somente três ou quatro grandes empresas dominando tudo. Esse tipo de concentração de poder e influência nunca é bom para a sociedade, especialmente nos meios de comunicação, porque é onde se produz o discurso democrático.

Os meios de comunicação, e não apenas nos Estados Unidos, mas no mundo, eram tão rentáveis até recentemente que nem pensávamos em um modelo de negócio, porque havia muito dinheiro. Trabalhei no início da minha carreira no Washington Post e parecia que estavam emitindo seu próprio dinheiro. E faziam um grande trabalho jornalístico, sendo assim, pensavam que não precisariam pensar em um modelo de negócio nunca mais.

Presumimos durante muito tempo que muitas pessoas nos Estados Unidos que perderam seu jornal local se contentariam com a "internet". Mas, a "internet" não faz a cobertura de sua cidade, a menos que haja um desastre lá. Há tentativas de startups que procuram evitar o monopólio existente. Nenhuma tem um modelo de negócios sólido, mas surgirá algo.

Em seu livro, fala sobre o conceito de “internet sabbat”.

O modelo de negócio da “economia da atenção”, que se torna um modelo social, onde tudo está ao redor da internet, não parece o tipo de vida que se deseja. Então, minha esposa e eu inventamos essa ideia de "internet sabbat" em casa. Foi algo bastante instintivo, não é que nos propusemos a teorizar sobre isso. Simplesmente, em um fim de semana, nos cansamos e dissemos: vamos desconectar o modem para ver o que acontece. No começo, foi muito difícil, mas depois de várias semanas, tornou-se um hábito e, quando isso acontece, é mais fácil que permaneça. No final, se tornou algo agradável.

É um exemplo de humanos tentando ser um pouco ingênuos sobre um problema: venha, vou resolver isso. Alguns anos após a publicação do Hamlet’s Blackberry, pareceu-me fascinante ver que havia jovens que adotavam esses costumes. Meus amigos baby boomers me diziam: as pessoas vão gostar do seu livro, mas não os jovens, que simplesmente querem viver na internet. Mas, acabou acontecendo o contrário.

As pessoas que criaram a internet, os baby boomers, têm uma ideia diferente. Os millennials e a Geração Z, ao contrário, parecem bastante acostumados em dar um passo atrás e permanecer. Por exemplo, em não ter um carro. Para alguém como eu, das gerações anteriores, é como dizer que não quero ter internet.

Estamos em uma época em que pode surgir uma vanguarda de pessoas que dizem: não quero ir por aí, não quero viver assim. Às vezes, é uma revolução política, em outros casos, é uma mudança econômica. Acredito que agora há uma mudança cultural, porque a internet é muito monopolizadora.

Frequentemente, afirma que no mundo tecnológico falta formação humanística. Relembra a ideia de que a economia não deve ser uma questão exclusivamente para economistas.

Disso que trata ‘O negócio é ser pequeno’, de E.F. Schumacher, publicado nos anos setenta. Conheci o livro no Media Lab MIT, onde trabalho. Schumacher fala sobre a ideia de que os economistas não deveriam definir o que é a economia, porque para eles tudo é "escala", e nem os tecnólogos deveriam ser os únicos que definem o que é a tecnologia. Pensam na busca de maior eficiência, mas para as máquinas e não para os seres humanos.

É necessário incluir pessoas com formação humanística e em ciências sociais, que não sabem programar e desenvolver algoritmos, mas podem dizer se algo funciona para os humanos. Carregamos conosco todos os dias dispositivos desenhados para criar dependência. É algo que funcionava para pequenas startups e fez sentido econômico para elas, mas em um nível mais amplo, como Schumacher diz no livro (embora fale de outra época e de outro setor), esse modo de administrar uma economia capitalista vai nos arruinar.

A mensagem “o negócio é ser pequeno” pode não se aplicar à internet, porque não é um local pequeno, geograficamente. Mas, a filosofia de que é necessário construir coisas para as pessoas que funcionem sobre o chão, na vida das pessoas, é aplicável. Acredito que a mudança está ocorrendo.

Existem decisões humanas que são delegadas em algoritmos. É o que se denominou math-washing ou machine-washing. É a desculpa de "não fui eu quem decidiu, o algoritmo decidiu". É uma maneira de fugir da responsabilidade.

É também uma estratégia de relações públicas. As empresas tentam mostrar que suas pesquisas em Inteligência Artificial têm um objetivo louvável para a sociedade, sendo que não é assim. Necessitamos alinhar os avanços da Inteligência Artificial com o interesse humano. É por isso que precisamos de especialistas em outras áreas humanísticas, como falamos antes.

Alguns colegas do MIT escreveram um artigo acadêmico na revista Nature sobre o machine behavior, comportamento das máquinas. A ideia é que deveríamos estudar as máquinas da mesma maneira que estudamos os animais. Não olhamos como é o corpo do animal e como ele é estruturado, mas, sim, observamos como o animal se comporta no mundo. Agora que os algoritmos evoluem e aprendem sozinhos, isso é especialmente crucial. Um algoritmo pode rebelar-se contra seus criadores, pode fazer coisas que não são previstas. Precisamos de "especialistas humanos" para saber se os algoritmos estão atendendo às necessidades humanas. Estamos dependendo de máquinas para coisas que exigem uma compreensão dos seres humanos muito sofisticada.

Leia mais

• Inteligência artificial tenta prever quando as pessoas vão morrer
• Elon Musk revela dispositivo para conectar cérebro a computadores
• Inteligência artificial aumenta o caos climático. Artigo de Silvia Ribeiro
• Os enigmas do capitalismo na era da tecnologia
• Inteligência artificial e práticas cotidianas
• Máquinas Sapiens. Os desenvolvimentos da Inteligência Artificial
• Especialistas em inteligência artificial advertem sobre a 'corrida armamentista da tecnologia' em Roma
• Inteligência Artificial para quem?
• Europa-Mercosul: o acordo de Recolonização
• Papa: hoje existe o risco de dar vida à lógica das máquinas e dos dispositivos
• Máquinas digitais: hora de desconectar?
• ''Assim a inteligência artificial vai dominar o mundo''. Mas é apenas um videogame
• As pistas do método 'Cambridge Analytica' na campanha de Bolsonaro
• Inteligência artificial e tributação: a que(m) os algoritmos devem servir?
• Máquinas, inteligência artificial e o futuro do capitalismo
• Como o Facebook está patenteando as suas emoções
• Diretor do media lab do MIT: “As ciências humanas são a coisa mais importante que você pode estudar”
• A inteligência artificial também muda o jornalismo