12 Novembro 2019
Brian Patrick Green é o diretor de Ética em Tecnologia do Markkula Center for Applied Ethics, nos EUA. Seu trabalho se concentra na ética da tecnologia, incluindo temas como inteligência artificial e ética, a ética da exploração e do uso espaciais, a ética da manipulação tecnológica de humanos, a ética da mitigação e da adaptação a tecnologias emergentes de risco, e vários aspectos do impacto da tecnologia e da engenharia na vida e na sociedade humanas, incluindo a relação entre tecnologia e religião, particularmente a Igreja Católica.
A entrevista é de Charles C. Camosy, publicada por Crux, 11-11-2019. A tradução é de Moisés Sbardelotto.
Pode nos contar como se interessou e se tornou especialista em ética da inteligência artificial?
A minha graduação foi em Genética pela Universidade da Califórnia em Davis, e eu trabalhava com biologia molecular e biotecnologia lá, mas, no fim, eu descobri que o trabalho de laboratório não era para mim. Eu sonhava em ser cientista desde criança, então isso foi muito confuso, e eu não sabia o que fazer comigo mesmo. Por isso, fiz o que acabou sendo uma das melhores decisões da minha vida e me juntei ao Jesuit Volunteers International (JVI). Mais tarde, eu observei que inconscientemente segui um bom conselho: “Se você não sabe o que fazer, ajude as pessoas”.
O JVI me enviou para ser professor de Ensino Médio nas Ilhas Marshall por dois anos. As Ilhas Marshall experimentaram e estão experimentando os efeitos de dois desastres particularmente devastadores relacionados com a tecnologia: testes nucleares dos EUA e o aumento do nível do mar induzido pelas mudanças climáticas. Aproximadamente 10% das Ilhas Marshall permanecem seriamente contaminadas radioativamente, e o aumento do nível do mar está lentamente mandando o país inteiro para debaixo das ondas. A injustiça era uma constatação constante enquanto eu estava lá, e eu ainda penso nisso com frequência.
Mas a compreensão mais profunda das causas e dos significados desses eventos surgiu em mim lentamente, e eu só me dei conta disso durante meus estudos de doutorado na Graduate Theological Union em Berkeley. Os seres humanos estavam tomando o mundo natural – do modo como havia sido descoberto através da boa ciência e redefinido pela tecnologia – e transformando-o em armas, seja intencionalmente (como nas armas nucleares) ou involuntariamente (como no aumento do nível do mar devido às emissões de gases de efeito estufa).
C. S. Lewis diz isso de maneira muito sucinta em “A Abolição do Homem”: “Aquilo que chamamos de poder do Homem sobre a Natureza acaba sendo um poder exercido por alguns homens sobre outros homens, tendo a Natureza como seu instrumento”. Essas experiências e intuições fazem pensar que a tecnologia é a questão filosófica e teológica número um do nosso tempo. O que os humanos fizeram com a nossa própria natureza – fabricando e usando ferramentas – colocou em risco agora o mundo natural, a nossa civilização e até mesmo, através da biotecnologia voltada para nós mesmos, a nossa própria natureza.
Portanto, eu trabalho com a ética da inteligência artificial porque ela se tornou uma exemplificação desesperadamente importante do problema de como usar adequadamente a tecnologia. Porque eu acho que essa é uma das questões mais importantes do mundo, e porque eu sou abençoado por ter um emprego na Santa Clara University que me dá a liberdade e o mandato de trabalhar com ética da inteligência artificial, é isso que eu faço.
O que há de mais recente em relação à inteligência artificial? Para onde ela está indo?
Durante décadas, a inteligência artificial parecia um subcampo acadêmico lento, preso em um “inverno”. Mas, nos últimos poucos anos, ela explodiu graças a três tendências sociotécnicas convergentes e amplificadoras. Essas três tendências foram: 1) um crescimento massivo dos dados; 2) um acesso crescente à “computação” (o poder computacional que possibilitou a execução rápida de algoritmos anteriormente muito lentos); e 3) um número cada vez maior de algoritmos sofisticados e de indivíduos talentosos que podem escrever esses algoritmos. Essas tendências, individualmente, podem não ter despertado muito interesse, mas, combinadas, fizeram com que a inteligência artificial crescesse em um ritmo fenomenal.
Também é digno de nota que cada uma dessas tendências, individualmente, tende a centralizar o poder e, combinadas, centralizam o poder de um modo extremo. Por exemplo, a forma de inteligência artificial conhecida como machine learning requer conjuntos de dados muito grandes, e existem apenas poucas organizações no mundo capazes de agrupar esses conjuntos de dados: governos e grandes empresas de tecnologia, como Alibaba, Amazon, Apple, Baidu, Facebook, Google e Tencent.
A computação é semelhante: o poder computacional massivo requer o uso de megawatts de eletricidade em milhares de chips caros. E os algoritmos, e particularmente o talento humano que pode escrever esses algoritmos (os poucos melhores programadores são como atletas de elite ou estrelas de cinema em termos da demanda em relação a eles), estão novamente com uma oferta muito limitada e, portanto, só podem funcionar para algumas organizações. Se você se pergunta para onde a inteligência artificial está indo, é provável que essas tendências continuem, e isso, por sua vez, provavelmente desencadeará uma reação contra a centralização tecnológica e o mau uso do poder. Já estamos experimentando uma parte desse “techlash” [reação negativa aos gigantes da tecnologia] hoje.
As empresas de tecnologia precisarão melhorar o seu comportamento, e/ou os governos de todo o mundo intervirão para regulá-las. Em meu próprio trabalho com empresas, eu acho que há uma percepção crescente entre muitos profissionais de tecnologia de que a ética tecnológica está se tornando uma questão fundamental, mas nem todas as empresas já reconheceram a gravidade da situação. Alguns poucos líderes importantes reconheceram, e eles me dão esperança. Mas algumas empresas de tecnologia – assim como governos – carecem de uma liderança ética, e esse é um problema sério que precisa ser enfrentado em breve.
Em uma postagem recente, o senhor sugeriu que um driver primário aqui é a “ganância”. Poderia dizer algo mais sobre isso?
Uma das razões pelas quais o capitalismo é um sistema econômico tão dinâmico e eficaz é que ele se aproveita de uma propensão humana natural ao egoísmo – o vício da ganância – e, a partir disso, cria efeitos benéficos, como produtos mais baratos, inovação, crescimento econômico etc. No que diz respeito à inteligência artificial, ela permite enormes ganhos de eficiência que antes eram inatingíveis, por exemplo, direcionando anúncios para aqueles que têm a maior probabilidade de serem persuadidos por eles ou descobrindo novas maneiras de usar a eletricidade com eficiência. Esses ganhos de eficiência podem ser bastante bons – ajudando as pessoas a aprender sobre os produtos de que precisam e economizando energia.
No entanto, esses bens costumam ser meros efeitos colaterais da busca mais profunda de ganhar dinheiro, seja vendendo mais produtos ou reduzindo custos. Se o impulso ganancioso é subserviente ao benefício social, a sociedade deve se beneficiar da inteligência artificial. Entretanto, muitas organizações não operam desse modo, buscando ganhar dinheiro independentemente do impacto social positivo, por exemplo, ao usar a inteligência artificial para potencializar aplicativos viciantes, que podem levar a filtros-bolha, à polarização política, à negligência das relações humanas, à perda econômica, a emoções cada vez mais negativas e uma deterioração do tecido social.
Se as empresas não podem fazer a coisa certa por conta própria, então elas deveriam ser forçadas a agir de forma ética, seja por ação econômica ou política sobre elas. Eu tenho esperança de que a autorregulação é possível, mas eu acho que algumas empresas ainda não a entendem e são muito capazes de arruinar a perspectiva da autorregulação para todos os outros. E o tempo está acabando. A ganância precisa ser “despriorizada”, e o valor do bem comum precisa ganhar um novo lugar de proeminência, ou estaremos em piores “falhas” tecnossociais das que já estamos experimentando.
Obviamente, esses desdobramentos apresentam uma série de questões éticas cruciais. Quais o senhor considera particularmente importante destacar? Poderia expandir um ou dois deles que, na sua opinião, são particularmente urgentes?
Eu tenho uma lista das 10 principais questões éticas na inteligência artificial de dois anos atrás, que eu expandi para 12 questões, em um artigo acadêmico [disponível aqui, em inglês]. Atualmente, no meu curso de Ética em Engenharia de Inteligência Artificial, eu abordo 16 questões: segurança, explicabilidade, bom uso, mau uso, efeitos ambientais, preconceito e equidade, desemprego, desigualdade de riqueza, ética na automação, desespecialização moral, consciência e direitos dos robôs, inteligência artificial geral (AGI) e superinteligência, dependência, adição, efeitos psicossociais e efeitos espirituais. Dado esse enxame de questões, é difícil reduzi-lo a apenas um.
Mas, se eu tivesse que escolher o remédio mais urgente e necessário neste momento, seria a integridade degradante do sistema informacional do mundo (relacionada às categorias de “mau uso”, “preconceito e justiça” e “efeitos psicossociais ” acima). As mídias sociais e todo o ecossistema midiático mundial precisam ser limpados o mais rápido possível. A violência mata o corpo, mas as mentiras matam a mente. A informação deturpada e a desinformação estão florescendo na internet e destruindo a capacidade dos seres humanos de raciocinar de um modo que se alinhe à realidade, revertendo séculos de progresso que surgiram com a ciência e a busca da verdade. Por sua vez, isso está destruindo a nossa capacidade de cooperar e de buscar o bem comum juntos. É uma facada em alguns aspectos centrais da nossa humanidade: a nossa capacidade de pensar e de cooperar. Se não conseguirmos corrigir isso, a civilização humana poderá simplesmente desmoronar.
O senhor participou recentemente de um grande congresso sobre inteligência artificial no Vaticano. O que a Igreja – e particularmente o Papa Francisco – acrescenta à discussão sobre esses assuntos?
Primeiro, eu acho que devemos reconhecer como é notável e vitalmente importância que o Papa Francisco se interesse pela tecnologia. Durante séculos, a Igreja Católica esteve na vanguarda da inovação tecnológica (não apenas construindo catedrais e outras grandes obras, mas sendo pioneira na metalurgia, química, cronometragem, técnicas agrícolas, preservação de alimentos, método científico e outras tecnologias essenciais para o desenvolvimento humano). No entanto, ela nunca teve realmente uma teologia da tecnologia mais profunda.
Dos três âmbitos da atividade intelectual humana de Aristóteles, o raciocínio teórico e o raciocínio prático sempre receberam a atenção da Igreja, mas o raciocínio direcionado à produção de bens – em outras palavras, a tecnologia – foi quase ignorado. O Papa Francisco começou a corrigir esse erro, e, por isso, o mundo pode ser grato. A produção racional é um fator definidor da vida moderna, e, se não a considerarmos de modo mais profundo, ela nos consumirá, em vez de nós a consumirmos. Além disso, o mundo tem sede de autoridade moral.
A reputação da Igreja Católica, e particularmente a sua hierarquia, permanece gravemente prejudicada nesse aspecto devido aos escândalos. No entanto, apesar desse dano legítimo à reputação, pelo fato de o mundo estar atualmente em um vácuo de poder no que diz respeito à autoridade moral, a Igreja é uma das poucas instituições capazes de dizer alguma coisa. E a história da Igreja no pensamento profundo sobre ética é desesperadamente necessária. Ideias que podem parecer simples para um eticista podem parecer revolucionárias para os não adeptos aos trabalhos.
Como a Igreja é uma das poucas instituições globais que já levou a ética a sério – mesmo que tenha sido consistentemente incapaz de cumprir com os seus próprios padrões –, ela é também uma das poucas instituições globais capazes de fornecer a orientação moral necessária para tornar o mundo um lugar melhor. Podemos ver isso do modo com que as ideias morais católicas migraram para a ética secular ao longo do tempo; ideias como usar os tratados para restringir as armas de guerra, usar o raciocínio de duplo efeito na ética médica; e considerar apenas a teoria da guerra nas relações internacionais.
Se a Igreja fosse capaz disso, ela deveria deixar milhares de teólogos e filósofos livres sobre as questões da ética tecnológica, e da ética da inteligência artificial em particular. Infelizmente, a Igreja carece de recursos para fazer isso. Mas o que ele tem, sim, é a capacidade de apontar e dizer: “Pessoal, veja isto! Isto está certo? Podemos melhorar isso?”. E, ao fazer isso, eu espero que a Igreja motive as pessoas a melhorar as coisas. Resta saber se o impacto será suficiente. A mera autoridade moral não pode consertar o mundo. São necessárias ações concretas em larga escala e que vão requerer a coordenação de milhões de pessoas, bilhões de dólares e anos de trabalho duro.
A inteligência artificial pode ser usada, assim como toda inteligência, tanto para o bem quanto para o mal. Precisamos agir agora para nos assegurar de que garantimos o seu uso para o bem.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Igreja é voz moral diante do avanço da inteligência artificial. Entrevista com Brian Patrick Green - Instituto Humanitas Unisinos - IHU
