“O uso de IA permitirá aos médicos de regiões mais remotas do país terem acesso ao auxílio dos melhores especialistas do mundo, que serão esses algoritmos, quando no momento nem sequer há um especialista para encaminhar seus pacientes”, afirma o pesquisador
As especulações em torno do desenvolvimento da Inteligência Artificial Geral (IAG), uma IA superior à desenvolvida até o momento, giram em torno não somente da capacidade de os algoritmos tomarem decisões melhores que as humanas em todas as áreas, mas quais seriam as consequências dessas decisões. Na avaliação de Alexandre Chiavegatto Filho, essas questões apontam para um risco existencial. Segundo ele, este risco “está relacionado ao fato de que não sabemos o que um ser mais inteligente do que nós irá fazer conosco. Existe a teoria otimista de que essa inteligência artificial será colaborativa, já que pessoas inteligentes quase nunca buscam poder e dominação, muito pelo contrário. E existe a teoria de que uma superinteligência artificial possa considerar os seres humanos, que a criaram, como uma ameaça e se vire contra nós”.
Na entrevista a seguir, concedida por e-mail ao Instituto Humanitas Unisinos – IHU, o pesquisador também comenta os efeitos do uso da IA na área da saúde. Por um lado, comenta, ela poderá contribuir para melhorar o prognóstico dos pacientes e ajudará as equipes de saúde a tomarem “decisões consideravelmente melhores”. Por outro lado, permitirá “o desenvolvimento da medicina humana, já que o médico que irá se diferenciar dos outros no futuro será aquele que fizer o que os algoritmos não fazem, ou seja, escutar, sentir e orientar os seus pacientes”.
Alexandre Chiavegatto Filho (Foto: Reprodução X/Twitter)
Alexandre Chiavegatto Filho é graduado em Economia e doutor em Saúde Pública pela Universidade de São Paulo - USP. É professor de Estatísticas de Saúde do Departamento de Epidemiologia da Faculdade de Saúde Pública da USP e orientador dos programas de pós-graduação de Saúde Pública, Bioinformática e Epidemiologia da mesma universidade.
A entrevista foi publicada originalmente pelo Instituto Humanitas Unisinos - IHU, 08-12-2023.
IHU – O que é ou seria uma super IA e em que aspectos ela se diferencia da IA, tal como está desenvolvida até o momento?
Alexandre Chiavegatto Filho – A definição de super IA, ou Inteligência Artificial Geral - IAG, é a de um algoritmo capaz de tomar decisões melhores do que humanos em todas as áreas. Isso vai muito além da situação atual, em que temos algoritmos de IA rasos, que conseguem tomar melhores decisões que humanos apenas em áreas muito específicas.
IHU – O senhor tem chamado a atenção para o risco existencial da IAG. Em que consiste esse risco? Pode desenvolver e explicar essa ideia?
Alexandre Chiavegatto Filho – O risco existencial de uma superinteligência artificial está relacionado ao fato de que não sabemos o que um ser mais inteligente do que nós irá fazer conosco. Existe a teoria otimista de que essa inteligência artificial será colaborativa, já que pessoas inteligentes quase nunca buscam poder e dominação, muito pelo contrário. E existe a teoria de que uma superinteligência artificial possa considerar os seres humanos, que a criaram, como uma ameaça e se vire contra nós.
IHU – Concorda com a posição de que o risco existencial da IA é um problema ainda mais urgente do que as mudanças climáticas? Por quê?
Alexandre Chiavegatto Filho – Os possíveis impactos existenciais de uma superinteligência chegarão primeiro do que os impactos existenciais das mudanças climáticas, então, sim. Embora ambos sejam claramente importantes.
Uma perspectiva humanista sobre inteligência artificial:
IHU – O senhor pesquisa as consequências da IA na área da saúde. Quais as vantagens e os riscos do uso da IA neste setor?
Alexandre Chiavegatto Filho – O uso de IA na área da saúde permitirá decisões consideravelmente melhores, contribuindo para aprimorar o prognóstico dos pacientes, principalmente nas regiões mais remotas do Brasil em que o atendimento ainda é muito precário.
IHU – Que tipo de debates a introdução da IA na saúde tem suscitado, seja em relação ao uso da tecnologia, seja em relação à formação e ao objetivo profissional dos médicos formados neste contexto de transformação tecnológica e o modo como compreendem sua atuação profissional?
Alexandre Chiavegatto Filho – Quando entendem o que a IA trará na saúde, isto é, um subsídio à tomada de melhores decisões, os médicos em geral têm ficado muito otimistas e empolgados com a possibilidade do uso dessa tecnologia.
IHU – O acesso à saúde é uma demanda global hoje e a precariedade nesta área é uma realidade brasileira. Como a introdução da tecnologia pode tornar o acesso à saúde mais universal ou, ao contrário, menos universal?
Alexandre Chiavegatto Filho – O uso de IA permitirá aos médicos de regiões mais remotas do país terem acesso ao auxílio dos melhores especialistas do mundo, que serão esses algoritmos, quando no momento nem sequer há um especialista para encaminhar seus pacientes.
IHU – Pode explicar em que consistem a pesquisa e a discussão públicas sobre os Big Data em Saúde no Brasil?
Alexandre Chiavegatto Filho – Consiste em tirar o melhor proveito da quantidade imensa de dados que temos coletado hoje na área da saúde. Estima-se que cerca de 30% de todos os dados coletados no mundo sejam feitos pela área da saúde. A capacidade de utilizar esses dados para o desenvolvimento de algoritmos para auxiliar na tomada de decisão irá melhorar radicalmente a saúde brasileira.
IHU – Em que medida o desenvolvimento tecnológico na área da saúde tem permitido um olhar diferenciado para o ser humano, no sentido de assisti-lo de modo integral, ou, por outro lado, em que medida tem favorecido a busca pela utilização da técnica em detrimento da reflexão sobre quem se beneficia ou não com ela?
Alexandre Chiavegatto Filho – O desenvolvimento de algoritmos de IA vai permitir o desenvolvimento da medicina humana, já que o médico que irá se diferenciar dos outros no futuro será aquele que fizer o que os algoritmos não fazem, ou seja, escutar, sentir e orientar os seus pacientes.
IHU – A demissão e a readmissão de Sam Altman, CEO da OpenAI, levantaram a discussão sobre o fato de não se estar dando a devida atenção aos riscos relativos ao desenvolvimento da inteligência artificial. Como o senhor interpreta este caso? O que ele significa no contexto deste debate?
Alexandre Chiavegatto Filho – Ainda não se sabe ao certo o que aconteceu, mas se os rumores forem verdadeiros de que o conselho da OpenAI viu algo nos novos algoritmos que deixou seus membros assustados, a readmissão do Sam Altman deve ser vista com preocupação por todos.