30 Março 2019
A inteligência artificial (IA) está transformando a sociedade humana e as interações com muita rapidez, e o Vaticano e o clero católico estão acompanhando esse processo para se preparar para os debates éticos do futuro.
A reportagem é de Claire Giangravè, publicada por Crux, 28-03-2019. A tradução é de Luísa Flores Somavilla.
Em uma mesa redonda em Roma na semana passada, dois padres que estudam a relação entre IA e ética alertaram sobre os riscos de uma “corrida armamentista tecnológica” e de as pessoas ficarem cada vez mais parecidas com as máquinas à medida que as máquinas ficam cada vez mais humanas.
"Penso que, mais fundamentalmente, a realidade virtual, os robôs e a IA podem levar os seres humanos a tratarem uns aos outros como máquinas, perdendo o sentido de sua própria dignidade e sua função de mudar o mundo para o bem", disse o padre dominicano Ezra Sullivan, professor de teologia moral do Angelicum, ao Crux, por e-mail, no dia 22 de março.
"As pessoas podem passar a se enxergar não como agentes significativos, mas como objetos passivos de manipulação por máquinas ou elites poderosas", acrescentou, ressaltando que isso poderia levar a problemas de saúde mental e "mal-estar espiritual".
Sullivan participou do simpósio sobre ética e inteligência artificial “from Awe to Wisdom: Ethics in the Age of Artificial Intelligence”, no dia 20 de março, na Embaixada da Santa Sé nos EUA. O objetivo do evento foi reforçar a ordem executiva do presidente Donald Trump para investir recursos federais na crescente indústria da Inteligência Artificial.
O simpósio tentou abordar algumas das preocupações éticas cada vez mais proeminentes à medida que essa tecnologia se desenvolve com uma regulação tão limitada. Ao longo dos últimos anos, no papado de Francisco, o interesse do Vaticano em inteligência artificial aumentou muito.
Em uma entrevista recente para a agência de notícias italiana Vatican Insider, Dom Vincenzo Paglia, líder da Pontifícia Academia para a Vida, disse que Francisco pediu aconselhamento para mergulhar nas tecnologias que estão surgindo, bem como a IA.
Para o arcebispo, o incentivo do Papa tem como intuito a "compreensão das transformações que estão ocorrendo nessas novas fronteiras, para compreender como direcioná-las para que estejam a serviço das pessoas, respeitando e promovendo sua dignidade intrínseca".
Para aqueles que questionam o que a Igreja Católica tem a oferecer no campo da ciência e da tecnologia, Sullivan afirmou que, por sua experiência milenar com questões extremamente complexas, a Igreja tornou-se "especialista em humanidade", sendo capaz de adaptar esse conhecimento ao campo da Inteligência Artificial.
"A Igreja é capaz de abordar as questões humanas mais profundas em função dos objetivos mais elevados do coração", disse.
"De forma prática, com seu poder de comunhão, a Igreja torna-se um ponto de encontro para pessoas de boa-vontade de todas as religiões, etnias e ideologias políticas para discutir essas questões”.
Quais são os desafios éticas diante do desenvolvimento da IA atualmente? Segundo os especialistas, essa tecnologia - cada vez mais presente - tem aplicação em inúmeros campos, muitas vezes tornando a vida das pessoas melhor e mais fácil, mas por vezes tomando empregos e profissões inicialmente realizados por seres humanos.
Não há dúvida, advertiram, que o desenvolvimento das tecnologias automatizadas e da IA criará muito desemprego e que muitas pessoas não poderão receber uma nova formação compatíveis com os muitos outros trabalhos que a IA criará.
Há também outras armadilhas, mais insidiosas, escondidas na IA, segundo eles, que podem transformar essa tecnologia em uma força a favor da desigualdade.
Durante a conferência na embaixada dos EUA, o uso da IA em serviços financeiros foi discutido por Paul Nelson, cientista que faz parte do setor sobre questões financeiras do mundo digital da Agência dos Estados Unidos para o Desenvolvimento Internacional. Nesse campo, a IA pode ser usada para gerar caixas de diálogo em que se cria um algoritmo para responder a consultas humanas sobre um assunto específico e muitas vezes simular a interação humana.
Mas em outros serviços financeiros, como empréstimos, bem como outros setores em que houve forte penetração da IA, os vieses inerentes à programação podem levar a desigualdades. Para determinar se uma pessoa pode receber um empréstimo quando nunca teve conta bancária nem pontuação de crédito, o algoritmo da máquina pode considerar fatores como o bairro de residência, profissão, idade ou estado civil. Às vezes, esses cálculos são injustos com minorias étnicas, considerando-os inadequados para fazer empréstimos.
As máquinas de IA não são racistas, mas como argumenta ele, "um sistema de IA por si só é basicamente uma representação dos seres humanos que a criaram".
A inteligência artificial pode refletir os vieses humanos inerentes, mas às vezes também pode chegar a conclusões misteriosas por si só. Essencialmente, algumas tecnologias de IA coletam grandes quantidades de dados e usam um algoritmo para determinar a resposta apropriada. Porém, em alguns casos os algoritmos são tão complexos ou os dados tão díspares que os seres humanos não conseguem compreender as ligações que levaram as máquinas a uma determinada resposta, incluindo algumas que parecem eticamente duvidosas.
Se pensarmos que muitas máquinas de IA são capazes de aprender e, portanto, podem incorporar abordagens eticamente suspeitas de fontes externas, a situação fica ainda mais complexa.
De acordo com o padre franciscano Paolo Benanti, professor na Pontifícia Universidade Gregoriana e um dos organizadores de uma recente conferência organizada pela Pontifícia Academia para a Vida sobre ética e robôs, é essencial "devolver o controle de um possível viés para a sociedade".
"O algoritmo é muito egoísta", disse Benanti na mesa redonda, e os seres humanos precisam tomar as rédeas para evitar a promoção de desigualdade.
Com o crescimento do campo da IA, instituições, empresas e indivíduos podem ver nele oportunidade de ter riqueza e fama, sem preocupações éticas, alertou Sullivan.
A "corrida armamentista da tecnologia”, como chama o padre dominicano, significa que "no final, rentabilidade, reconhecimento e influência tornam-se o principal”.
Benanti disse que os desafios são bem-vindos, afirmando que "vivemos em um momento maravilhoso", em que podemos influenciar e instruir a sociedade e as tecnologias do futuro, mas também concluiu com um alerta.
"Conforme as máquinas ficam cada vez mais humanas, precisamos cuidar para não nos tornar máquinas."
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Especialistas em inteligência artificial advertem sobre a 'corrida armamentista da tecnologia' em Roma - Instituto Humanitas Unisinos - IHU
No fim do seu discurso que dirigiu aos detentos da prisão de Rebibbia, em Roma, o papa respondeu a seis perguntas dos presos. Per[...]
LER MAISPara se entender a mística, é preciso partir da antropologia clássica e cristã: “Não bipartida em corpo e alma, mas tripart[...]
LER MAIS
Passado meio século desde os tempos do Concílio Vaticano II, é possível tentar um balanço diferente, que utilize como element[...]
LER MAIS
