28 Mai 2019
Quando o professor Shion Guha, da Marquette University, confiada aos jesuítas americanos, começou a planejar uma de suas aulas no ano passado, com foco em inteligência artificial e ética, ele supôs que atrairia apenas os alunos suficientes para um seminário íntimo e pequeno. Em vez disso, os estudantes lotaram a sala de aula, forçando Guha a criar uma lista de espera.
A reportagem é de Jack Jenkins, publicada por Religion News Service, 25-05-2019. A tradução é de Moisés Sbardelotto.
“Na verdade, eu não esperava esse tipo de resposta dos estudantes”, disse Guha, diretor do Programa de Pós-Graduação em Ciência de Dados da faculdade católica.
Os aspirantes a cientistas de dados, como se viu, realmente se importam com a ética. E não são os únicos.
Os estudantes da Marquette fazem parte de um crescente movimento de profissionais do setor de tecnologia, líderes religiosos e trabalhadores do Vale do Silício que lidam com questões profundas sobre se as futuras tecnologias serão usadas para o bem ou para o mal.
Guha diz que seus estudantes queriam aprender como aplicar o que aprenderam nas aulas de ética – parte obrigatória do currículo de graduação da Marquette – em seus cursos de Ciências da Computação e de Dados. Uma discussão sobre ética é uma abordagem católica à educação, e Guha diz que a aula utiliza o ensinamento da Igreja sobre ética.
“A Igreja Católica tem sido realmente um instrumento para o desenvolvimento de alguns dos cânones ocidentais do que é a pesquisa ética”, disse ele.
Enquanto isso, as lideranças católicas parecem investir cada vez mais na atualização desse cânone.
Em fevereiro, autoridades da Pontifícia Academia para a Vida do Vaticano e do gigante da tecnologia Microsoft anunciaram que planejam colaborar em um prêmio internacional de 6.900 dólares para homenagear um estudante de doutorado que defenda uma dissertação que se concentre na intersecção entre ética e inteligência artificial.
O presidente da Microsoft, Brad Smith, discutiu a iniciativa durante uma reunião privada com o Papa Francisco e o arcebispo Vincenzo Paglia naquele mesmo mês. De acordo com Fabrizio Mastrofini, gerente de mídia da Pontifícia Academia para a Vida, o trio “concordou com a importância de educar as gerações mais jovens sobre o uso responsável das tecnologias”.
Mastrofini também observou que a parceria surgiu depois que o Papa Francisco pediu à academia que estudasse o tema da ética e da inteligência artificial.
“As tecnologias estão avançando, mas não são neutras”, disse ele ao Religion News Service por e-mail. “A Igreja, perita em humanidade, pode mostrar o caminho para um desenvolvimento que torne o mundo mais humano e justo.”
Os dirigentes da Microsoft se recusaram a comentar a reunião.
A conversa entre o papa e Smith é uma das várias tentativas recentes de grupos religiosos de entrar no debate em curso no Vale do Silício sobre a ética da inteligência artificial.
Não muito tempo depois que a Microsoft anunciou sua parceria com o Vaticano, Francisco abordou a questão diretamente durante um discurso para uma reunião plenária da Pontifícia Academia para a Vida. O pontífice observou que já havia falado sobre a seriedade da inteligência artificial durante o seu discurso de janeiro de 2018 ao Fórum Econômico Mundial em Davos, na Suíça, mas redobrou sua preocupação com os potenciais perigos do mau uso da tecnologia.
“Convém observar que a denominação ‘inteligência artificial’, embora certamente eficaz, pode correr o risco de ser enganosa”, disse Francisco à Pontifícia Academia. “Os termos ocultam o fato de que, apesar do útil cumprimento de tarefas servis (esse é o significado original do termo ‘robô’), os automatismos funcionais permanecem qualitativamente distantes das prerrogativas humanas do saber e do agir. E, portanto, podem se tornar socialmente perigosos.”
As preocupações do papa foram ecoadas por um grupo de lideranças batistas e evangélicas do sul dos EUA, que divulgaram uma declaração intitulada “Inteligência artificial: uma declaração evangélica de princípios”, no mês passado.
“Os cristãos não devem temer o futuro ou qualquer desenvolvimento tecnológico, pois sabemos que Deus é, acima de tudo, soberano sobre a história, e que nada jamais suplantará a imagem de Deus à qual os seres humanos são criados”, afirma a declaração. “Reconhecemos que a inteligência artificial nos permitirá alcançar possibilidades sem precedentes, embora reconheçamos os riscos potenciais levantados pela inteligência artificial se usada sem sabedoria e cuidado.”
Outras instituições religiosas norte-americanas entraram no debate sobre tecnologia e ética. Dirigentes da Santa Clara University – uma instituição católica da Califórnia – disseram ao RNS em 2018 que os estudiosos do Markkula Center for Applied Ethics da faculdade estão cada vez mais envolvidos naquilo que chamaram de “onda” de conversas sobre ética no Vale do Silício, sendo que alguns até se encontram com empresas de tecnologia não identificadas.
Mas os cristãos não são os únicos que estão discutindo ética e tecnologia.
Guha disse que as implicações globais da inteligência artificial forçaram sua turma de estudantes a utilizar outros marcos éticos religiosos, assim como outros não religiosos.
“A inteligência artificial não está restrita apenas ao Ocidente, mas é implementada em todo o mundo”, disse ele. “Estaríamos realmente sendo tendenciosos se nos focássemos apenas em um tipo particular de marco ético.”
Guha disse que, ao olhar para as várias aplicações da inteligência artificial e da ciência de dados, os estudantes analisaram tudo, desde o utilitarismo ocidental – o fato de que as ações deveriam ter algum tipo de utilidade para si ou para a sociedade – até as “virtudes éticas” – o fato de que algumas coisas valem simplesmente porque são morais ou corretas.
Ao longo dos vários meses de aulas, sua turma continuou voltando para temas familiares.
“Os nossos estudantes chegaram a um consenso geral de que o status quo só funciona bem para certos grupos de pessoas”, disse. “Ele não funciona muito bem para outros grupos de pessoas que podem realmente ver as consequências imprevistas desses algoritmos.”
Guha apontou para os algoritmos usados por empresas do Vale do Silício que podem levar a contratar mais homens do que mulheres, ou como os resultados de pesquisa do Google Images para “professor” oferecem como resposta principalmente imagens de homens brancos mais velhos.
“A inteligência artificial pode ter consequências imprevisíveis, no fim, sobre as quais não paramos para pensar”, afirmou. Ele observou que os professores de outras instituições começaram a contatá-lo sobre a possibilidade de replicar um curso semelhante em suas próprias universidades e que muitas vezes eles compartilham anotações e leituras.
Enquanto isso, no Vaticano, Mastrofini, da Pontifícia Academia para a Vida, disse que o grupo está procurando ativamente futuras parcerias com outros gigantes da tecnologia, mas que “é muito cedo para falar sobre isso”.
“Essas são algumas das novas fronteiras da nossa humanidade”, disse.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Vaticano: instituições católicas reforçam debate sobre ética e inteligência artificial - Instituto Humanitas Unisinos - IHU