• Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato
close
search
  • Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato
search

##TWEET

Tweet

Inteligência artificial: o poder e o valor das pessoas e das máquinas. Artigo de Paolo Benanti

Mais Lidos

  • “O Brasil é uma sociedade onde sentimos muito amor ao Cristo. Mas como continuar juntos, em uma sociedade com muitos contrastes? Como fazer com que seja possível viver algo de modo mais igual?”, questiona o prior de Taizé em primeira visita ao Brasil

    “O profetismo não é denunciar as coisas, mas viver e abrir caminhos de esperança”. Entrevista especial com irmão Matthew, prior de Taizé

    LER MAIS
  • Eichmann em Gaza. Artigo de Castor Mari Martín Bartolomé Ruiz

    LER MAIS
  • Psicanalista revela florescimento da psicanálise brasileira no regime ditatorial. Para ele, “Ainda Estou Aqui” é exemplar no reparo psíquico e na construção de um regime de sensibilidades mais complexo da ditadura. No divã, mostra que existe uma luta de classe histórica nesta área e critica a atual medicalização do sofrimento

    “Vivemos um novo 'boom' da psicanálise, o anterior foi na ditadura militar”. Entrevista especial com Rafael Alves Lima

    LER MAIS

Vídeos IHU

  • play_circle_outline

    MPVM - 6º Domingo da Páscoa – Ano C – O Espírito Santo vos recordará tudo o que eu vos tenho dito

close

FECHAR

Revista ihu on-line

Arte. A urgente tarefa de pensar o mundo com as mãos

Edição: 553

Leia mais

Zooliteratura. A virada animal e vegetal contra o antropocentrismo

Edição: 552

Leia mais

Modernismos. A fratura entre a modernidade artística e social no Brasil

Edição: 551

Leia mais
Image

COMPARTILHAR

  • FACEBOOK

  • X

  • IMPRIMIR PDF

  • WHATSAPP

close CANCELAR

share

31 Março 2023

Se a máquina vale em sentido econômico, o ser humano tem um valor que não é mensurável nem em valores numéricos de dados nem em valores econômicos em uma balança.

O comentário é de Paolo Benanti, frei franciscano da Terceira Ordem Regular, professor da Pontifícia Universidade Gregoriana, de Roma, e acadêmico da Pontifícia Academia para a Vida. Em português, é autor de “Oráculos: entre ética e governança dos algoritmos” (Unisinos, 2020).

O artigo foi publicado por Avvenire, 30-03-2023. A tradução é de Moisés Sbardelotto.

Eis o texto.

O mundo das inteligências artificiais (IA) está em agitação. Na semana passada, a OpenAi, líder nesse setor, revelou à humanidade inteira a sua mais recente criação: GPT-4. Um produto com uma sigla incompreensível, mas que, em pouquíssimo tempo, encheu as colunas dos jornais e as páginas dos blogs.

Os resultados obtidos na OpenAi são, sem dúvida, surpreendentes. Se lermos o documento técnico que foi publicado no momento do lançamento, veremos capacidades inimagináveis. O GPT-4 pode partir de uma pergunta textual associada a uma imagem, mostra que sabe reconhecer o que está na imagem e unir os diversos elementos em um quadro de sentido: resolver um problema matemático ou responder ao que há de estranho em uma foto.

O GPT-4 aceita solicitações que consistem tanto em imagens quanto em texto, o que – paralelamente à configuração somente de texto – permite ao usuário especificar qualquer tarefa de visão ou de linguagem.

Em particular, o modelo gera outputs de texto com dados de input constituídos por texto e imagens entrelaçados arbitrariamente. Em uma série de domínios – incluindo documentos com texto e fotografias, diagramas ou capturas de tela – o GPT-4 mostra capacidades semelhantes aos dos inputs somente de texto.

Temos um modelo que, figurativamente, une “audição”, no sentido de que ele ouve o nosso pedido escrito, e “visão”, mostrando uma “percepção artificial” de uma imagem. O mais surpreendente é que o GPT-4 pode fazer coisas que os pesquisadores não esperavam que ele soubesse fazer.

Ainda no documento citado lemos:

“Muitas vezes surgem novas capacidades nos modelos mais poderosos. Alguns deles são particularmente interessantes: a capacidade de criar e agir em planos de longo prazo, de acumular poder e recursos (‘busca de poder’) e de exibir um comportamento que é cada vez mais ‘agêntico’ [agentic]. Nesse contexto, ‘agêntico’ não se refere à humanização dos modelos de linguagem ou à senciência, mas sim a sistemas caracterizados pela capacidade, por exemplo, de alcançar objetivos que podem não ter sido concretamente especificados e que não apareceram no treinamento, pelo foco em alcançar objetivos específicos e quantificáveis, e por fazer planos de longo prazo”.

Se olharmos para a fonte citada nas notas ao texto, lemos, sem meias palavras: “Usamos o termo ‘agência’ para sublinhar o fato cada vez mais evidente de que os sistemas de ML [machine learning] não estão completamente sob o controle humano”.

Portanto, os pesquisadores se dão conta de que o próprio modo como treinaram o sistema – não apenas utilizando dados, mas também premiando algumas respostas e punindo outras mediante interação com humanos e o uso de modelos de recompensa baseados em regras – transmite ao modelo dois elementos: a capacidade de adotar estratégias de longo prazo e a busca de poder e recursos em sua interação com o input.

Os engenheiros que desenvolveram o GPT-4 nos dizem que o sistema poderia ter seu próprio “plano interno e poderia agir para adquirir os recursos e os modos para alcançá-lo”.

Tudo isso não porque ele seja uma espécie de gênio do mal, mas provavelmente porque, na aprendizagem por reforço, os treinadores, ao “premiarem” ou “punirem” o GPT-4 emitem juízos, e estes nunca são construídos apenas sobre uma coisa em si mesma, mas sobre uma coisa em mérito a um fim.

Intuitivamente, podemos pensar que o sistema incorpora esses “microfragmentos” de finalidade das avaliações no processo de reforço, fazendo emergir uma finalidade global de uma maneira análoga àquela com que faz emergir informações a partir dos dados.

Se é isso que sabemos sobre o GPT-4, o Google, com seu PaLM – um sistema do mesmo tipo –, parece ter alcançado resultados ainda mais poderosos e surpreendentes, a ponto de atrasar seu lançamento público por medo dos efeitos.

Mas quanto vale tudo isso? De um ponto de vista comercial, muitíssimo. A Microsoft, depois de adquirir as licenças do sistema, está lançando uma série de produtos nos quais o GPT-4 ajudará o usuário a fazer suas tarefas. Ele chama esses sistemas de Copilot.

Devemos nos acostumar com a ideia de uma transformação abrangente do trabalho, em que teremos um copiloto que nos orienta e nos auxilia em todos os âmbitos da vida? Para além dos problemas sociais, a pergunta que surge, então, é quanto vale o ser humano nesta nova época caracterizada pelas inteligências artificiais.

Essa pergunta foi respondida nos últimos dias pelo Papa Francisco, que, ao falar aos participantes dos Minerva Dialogues – uma mesa de debate na qual estão presentes muitos atores de primeiro plano desse mundo – disse:

“O conceito de dignidade humana – este é o centro – nos impõe que reconheçamos e respeitemos o fato de que o valor fundamental de uma pessoa não pode ser medido por um conjunto de dados. [...] Não podemos permitir que os algoritmos limitem ou condicionem o respeito pela dignidade humana, nem que excluam a compaixão, a misericórdia, o perdão e, sobretudo, a abertura à esperança de uma mudança da pessoa.”

Se a máquina vale em sentido econômico, o ser humano tem um valor que não é mensurável nem em valores numéricos de dados nem em valores econômicos em uma balança.

A dignidade humana, no centro da algorética, pergunta-nos quais relações e qual sociedade queremos.

Ciclo de Estudos Inteligência Artificial, fronteiras tecnológicas e devires humanos

Leia mais

  • Algorética: os valores atemporais da religião e sua contribuição insubstituível para o desenvolvimento humano e pacífico da inteligência artificial. Artigo de Paolo Benanti
  • Especialistas em inteligência artificial pedem uma pausa de seis meses para a “corrida fora de controle” do ChatGPT
  • Não é possível pausar o desenvolvimento de inteligência artificial, dizem especialistas
  • Peritos em inteligência artificial pedem uma pausa de seis meses para a "corrida fora de controle" do ChatGPT
  • O segredo sujo da inteligência artificial
  • Inteligência artificial para construir outros mundos
  • Bostificação, o futuro irresistível do ChatGPT
  • Chapação maquínica, alucinação estatística: pensar como o ChatGPT
  • Chomsky e o melodrama tecnofóbico. Artigo de Bruno Cava
  • ChatGPT, tecnologia e programadores. E o bicho-papão da automação
  • ChatGPT, o algoritmo que finge saber. Comentário de Bruno Cava
  • GPT-4, o algoritmo inexplicável e fechado. Artigo de Paolo Benanti
  • O homem tecnológico: protagonista ou vítima?
  • O que Noam Chomsky pensa a respeito da Inteligência Artificial do ChatGPT
  • As cinco perguntas sobre o sucesso do ChatGPT
  • ChatGPT: nem monstro, nem tábua de salvação
  • Castells: o que (não) penso sobre o ChatGPT
  • ChatGPT: entenda como funciona a inteligência artificial do momento - e os riscos que ela traz
  • ChatGPT. “Apesar da IA, ainda temos o monopólio da consciência”
  • O GPT-3 desafia a inércia acadêmica
  • Biopolítica algorítmica. Como as humanidades são impactadas e podem impactar a Inteligência Artificial. Entrevista especial com Virgilio Almeida
  • Inteligência Artificial e Saúde: para todos ou para quase ninguém?
  • Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti
  • “A inteligência artificial está se tornando senciente”, avisa engenheiro do Google. E Big G o suspende
  • Dar uma ética à inteligência artificial: um desafio contado em livro
  • A inteligência artificial não precisa de inteligência: o pensamento de Luciano Floridi
  • “Ética da inteligência artificial”, novo livro de Luciano Floridi
  • A necessidade de uma algorética para enfrentar o desafio da inteligência artificial. Artigo de Paolo Benanti
  • É possível confiar na inteligência artificial?
  • A inteligência artificial pode nos ensinar a ser mais humanos?
  • Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
  • Inteligência Artificial no Sul Global. Alguns comentários a Jack Qiu
  • “A inteligência artificial já faz parte da nossa cotidianidade.” Entrevista com Luciano Floridi

  • Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato

Av. Unisinos, 950 - São Leopoldo - RS
CEP 93.022-750
Fone: +55 51 3590-8213
humanitas@unisinos.br
Copyright © 2016 - IHU - Todos direitos reservados