07 Dezembro 2018
Em benefício de um punhado de mega-empresas, máquinas estão sendo treinadas para substituir humanos, multiplicar preconceitos e segregações, invadir a privacidade e atentar contra a democracia.
O artigo é de Hazel Henderson, fundadora da Ethical Markets Media e produtora de sua série de TV. Mundialmente reconhecida, ela é futurista, economista evolucionária, colunista reproduzida em diversos países consultora em desenvolvimento sustentável e autora de “Além da Globalização”, “The Axiom”, “Ethical Markets: Growing the Green Economy (2006)” e outros oito livros; publicado, originalmente, por Other News e reproduzido por Outras Palavras, 05-12-2018. A tradução é de Marianna Braghini.
Os humanos estamos no absurdo estágio em nossa evolução tecnológico em que parece que abandonamos nosso bom senso. Bilhões são gastos por governos, corporações e investidores no treino de algoritmos de computadores (ou seja, programas de computador) na atual e insana corrida para criar as chamadas inteligências “artificiais”, largamente anunciadas como “AI”. Enquanto isso, o treinamento de nossas crianças e seus cérebros (já superiores aos algoritmos de computador) é sub-financiado; as escolas estão dilapidadas, instaladas em condições precárias, frequentemente em áreas poluídas enquanto os professores são mal pagos e precisam de maior respeito. Como nossas prioridades tornaram-se tão enviesadas?
Na realidade, não há nada de artificial nos algoritmos ou sua inteligência: o termo AI é uma mistificação! O termo que descreve a realidade é “Aprendizado de máquina treinadas por humanos”, na atual e insana luta para treinar estes algoritmos a mimetizar inteligência humana e funcionamento cerebral. Na revista de tecnologia Wired, de outubro de 2018, uma cientista pioneira da computação, Fei-Fei LI, palestra numa audiência do Congresso dos EUA e sublinha esta verdade. Ela diz que “humanos treinam estes algorítmos” e fala a respeito dos erros horrendos que estas máquinas fazem ao “des-identificar” pessoas. Emprega o termo “entra preconceito – sai preconceito” [bias in – bias out], para atualizar o velho ditado de computadores, “entra lixo – sai lixo” [garbage in – garbage outo].
A professora LI descreveu como estamos cedendo nossa autoridade a estes algoritmos para julgar quem é contratado, quem irá para a prisão, quem pode conseguir um empréstimo, uma hipoteca ou boas taxas de seguro — e como estas máquinas codificam nosso comportamento, mudam as regras e nossas vidas. Li está agora de volta à Universidade de Stanford, depois de passar um tempo como especialista em ética na Google, e lançou uma fundação para promover a verdade sobre AI, já que ela própria sente-se responsável por seu papel, ao inventar alguns destes algoritmos. Celebrada como uma pioneira neste campo, LI diz que “Não há nada de artificial na AI. Ela é inspirada por pessoas, é criada por pessoas e — mais importante — ela impacta pessoas”.
Como as mega empresas de tecnologia invadem nossa cultura e programas, no mundo inteiro, com seus valores de curto-prazismo e obcecados por dinheiro? A lógica parece ser: “mova-se rápido e quebre as coisas”; rompa os atuais sistemas; corra para multiplicar e sacar dinheiro, por meio de uma oferta pública de ações na Bolsa (IPO). Estes valores são discutidos por duas figuras do meio, em detalhes chocantes. Antonio G. Martinez escreveu “Chaos Monkeys” (2016); Emily Chang, da Bloomberg, em “Brotopia” (2018). Estes autores explicam em profundidade como o treinamento destes algoritmos está tão errado, pois subconscientemente mimetiza empreendedores — principalmente homens, misóginos, frequentemente brancos, e suas tecnologias, monopolizados por um viés mercadológico e suas fantasias quase sempre adolescentes e ultra-liberais. Também explorei tudo isso em meu artigo “The Future of Democracy Challenged in the Digital Age”, [“O futuro da democracia questionado pela era digital”], de outubro de 2018. Descrevo todas estas questões com a tomada, pela Inteligência Artificial, de múltiplos setores econômicos — desde a indústria, transporte, educação, comércio, mídia, lei, medicina, agricultura, aos bancos, agências de seguro e de financiamento. Enquanto muitos destes setores tornaram-se mais eficientes e lucráveis para seus acionistas, minha conclusão em “The Idiocy of Things”, critica a conexão de todos os eletrodomésticos nas chamadas smart homes como nociva e como invasão de privacidade. Apelo para que os humanos reassumam o controle dos computadores e setores da Ciênca da Informação. Estão super-financiados e super-remunerados. Focam-se, muito frequentemente, em eficiência corporativa e redução de custos, dirigidos pelas taxas de lucro exigidas por Wall Street.
Reivindico uma extensão da legislação inglesa, datada de 1215, que instituiu o “habeas corpus”, afirmando que humanos são donos de seus próprios corpos. Esta extensão deveria abranger a posse de nossos cérebros e toda a informação que geramos, em um atualizado “habeas corpus de informação”. Desde maio de 2018, a legislação europeia ratificou isso com a General Data Protection Regulation (Regulação para Proteção Geral dos Dados, ou GDPR, em inglês). Ela busca assegurar que os indivíduos, ao usar plataformas de redes sociais, ou qualquer outro sistema social, detenham efetivamente a propriedade de todos seus dados pessoais.
Nesse sentido, algumas leis estão começando a enfrentar o uso desumano de seres humanos, que emprega nossas habilidades, adquiridas com esforço, para treinar algoritmos que depois nos substituem! Em seguida, os treinadores dos algoritmos de computador empregam pessoas desempregadas, forçadas a sobreviver na “economia de bicos”, em sites como o Mechanical Turk e Task Rabbit, e pagam o mínimo para a alimentação de dados que treinam estes algoritmos! O cientista Jaron Lanier, em “Ten Arguments for Deleting Your Social Media Accounts Now” [“Dez argumentos para deletar suas contas nas redes sociais agora”], de 2018, mostra como estas redes estão nos manipulando com algoritmos para arquitetar mudanças em nosso comportamento. Chamam nossa atenção com clickbaits e conteúdos que estimulam nossas emoções, medos e raiva, explorando algumas divisões de nossa sociedade para nos manter em seus sites. Isso ajuda a dirigir anúncios de venda, seus gigantescos lucros, em veloz crescimento global. É hora de repensar tudo isso, para além dos lúgubres alarmes feitos por Bill Gates, Elon Musk e o falecido Stephen Hawking. Segundo estes, os algoritmos, que estamos treinando, em breve assumirão o controle e poderão nos ferir e matar, como fez HAL no filme “2001”.
Por que, então, gastamos montanhas de dinheiro para treinar máquinas enquanto sub-investimos em nossas crianças, professores e escolas? Treinar o cérebro das crianças deve se tornar prioridade! Em vez de treinar máquinas para sequestrar nossa atenção e vender nossos dados pessoais para marketeiros em troca de lucro, deveríamos reorientar nossos fundos e triplicar os esforços para treinar e pagar professores, melhorar escolas e currículos pedagógicos incluindo cursos de responsabilidade civil, justiça, valores comunitários, liberdade mediante “habeas corpus” (mulheres também são donas de seus próprios corpos!) e como ética e confiança são a base de todos os mercados e sociedades.
Por que fazer esforços muito dispendiosos para aumentar a capacidade de aprendizagem das máquinas? Por que ensinar algoritmos a reconhecer faces humanas, guiar drones assassinos, falsificar imagens de vídeo e modificar ainda mais nosso comportamento e capturar nosso olhar com clickbaits, planejando e distribuindo conteúdo que enraivece e indigna — aprofundando a divisão entre os seres humanos e desmantelando as democracias?
Precisamos enfrentar as ambições de Big Brother dos novos oligopólios tecnológicos. Como um sábio cientista da NASA nos lembrou em 1965 sobre os valores humanos, seguindo “O Uso Humano dos Seres Humanos” (1950) de Norbert Weiner: “O Humano (sic) é o sistema de computador de menor custo, não-linear, capaz de servir a todos os propósitos; e pode ser produzido em massa, por trabalho não qualificado” [1] É tempo de bom senso!
Notas:
[1] citado na Foreign Affairs, edição Julho-Agosto, 2015, p. 11.
As redes sociais estão modificando as formas de luto e o diálogo sobre a morte no âmbito público. Duas sociólogas da Universi[...]
LER MAISA mensagem de Bento XVI para o 47º Dia Mundial das Comunicações Sociais lança os desafios do papa à própria Igreja com rela[...]
LER MAIS
