• Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato
close
search
  • Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato
search

##TWEET

Tweet

Como a inteligência artificial poderia acabar com a Humanidade - por acidente

Mais Lidos

  • As tensões surgiram pela primeira vez na véspera do conclave: o decano não mencionou Francisco na homilia e parabenizou Parolin no final

    LER MAIS
  • Esquerdas governamentais, conciliatórias e apaziguadoras reduziram-se a “salvar o capitalismo dele mesmo” e não conseguem canalizar inconformidade e indignação, tarefa que o fascismo desejado e reivindicado pelas massas tomou para si com sucesso

    A internacional fascista como modo de vida. Entrevista especial com Augusto Jobim do Amaral

    LER MAIS
  • Prevost, eleito Papa Leão XIV: o cardeal americano cosmopolita e tímido

    LER MAIS

Vídeos IHU

  • play_circle_outline

    MPVM - 3º domingo da Páscoa - Ano C - O Ressuscitado encoraja para a missão

close

FECHAR

Image

COMPARTILHAR

  • FACEBOOK

  • X

  • IMPRIMIR PDF

  • WHATSAPP

close CANCELAR

share

01 Novembro 2019

Um especialista em inteligência artificial diz que robôs 'bem-intencionados' ainda podem se voltar contra nós.

A reportagem é publicada por BBC News, 31-10-2019.

De Stephen Hawking a Elon Musk, algumas das principais mentes do mundo levantaram preocupações de que a inteligência artificial represente uma ameaça aos seres humanos.

Mas, de acordo com um novo livro sobre o tema, não devemos temer a possibilidade de uma revolta de robôs autoconscientes contra seus "mestres" humanos.

E sim com o fato de as máquinas se tornarem tão boas em alcançar os objetivos que estabelecemos para elas que podemos acabar aniquilados por ordenarmos, sem perceber, as tarefas erradas.

"O mote dos filmes de Hollywood é sempre que a máquina espontaneamente se torna consciente. Depois, decide que odeia seres humanos e quer matar a todos nós", disse ele à BBC.

Os robôs estão se tornando cada vez melhores na conclusão das tarefas que estabelecemos para eles
Segundo eles, os robôs não terão sentimentos humanos, então, "esse é um motivo errado para se preocupar".

"Não há realmente (nas máquinas) uma consciência ruim. Há sim uma competência com a qual temos de nos preocupar, a competência para atingir um objetivo que nós especificamos mal".

Ou seja, segundo ele, digamos que uma máquina com inteligência artificial tenha de cumprir uma tarefa que damos a ela. Porém, atingir essa meta pode necessitar tomada de decisões extremas.

Então, provavelmente a máquina não terá condições de fazer um julgamento moral sobre suas ações: vai apenas tentar atingir o objetivo final, como se fosse qualquer outro.

'Muito competente'

Em uma entrevista ao programa de rádio Today, da BBC, Russell deu um exemplo hipotético da ameaça real que ele acha que a inteligência artificial poderia representar.

Imagine que tenhamos um poderoso sistema de inteligência artificial capaz de controlar o clima do planeta. Nós queremos usá-lo para diminuir os níveis de dióxido de carbono em nossa atmosfera a taxas pré-industriais.

"O sistema então descobre que a maneira mais fácil de fazer isso é se livrar de todos os seres humanos, porque são eles que estão produzindo todo esse dióxido de carbono. Você pode pensar: bom, faça o que você quiser, mas não se livre dos seres humanos. O que a máquina vai fazer?", diz Russell.

Esse exemplo extremo, segundo o professor, serve para destacar os riscos associados à inteligência artificial que age sob instruções que os seres humanos ainda não pensaram.

Superinteligência

A maioria dos sistemas atuais de inteligência artificial são "restritos", projetados especificamente para resolver um problema bem específico em uma área, de acordo com o Centro de Estudos de Riscos Existenciais, da Universidade de Cambridge, no Reino Unido.

Um momento marcante nesse campo aconteceu em 1997, quando o computador Deep Blue derrotou o então campeão mundial de xadrez, Garry Kasparov, em uma disputa de seis jogos.

Mas, apesar do feito, o Deep Blue foi projetado especificamente por humanos para jogar xadrez e ficaria perdido em um simples jogo de damas.

Os avanços posteriores na inteligência artificial, porém, são diferentes. O software AlphaGo Zero, por exemplo, alcançou um nível excepcional de desempenho depois de apenas três dias jogando Go contra ele mesmo.

Usando o aprendizado profundo, um método de aprendizado de máquinas que usa redes neurais artificiais, o AlphaGo Zero exigia muito menos programação humana. O dispositivo acabou se tornando um excelente jogador de Go, de xadrez e de Shogi.

O mais alarmante, talvez, foi que o computador agiu de forma totalmente autodidata.

"À medida que um sistema de inteligência artificial se torna mais poderoso e mais geral, ele pode se tornar superinteligente, algo superior ao desempenho humano em muitos ou quase todos os domínios", diz o centro de pesquisas britânico.

E é por isso que, segundo o professor Russell, os humanos precisam retomar o controle.

'Não sabemos o que queremos'

Russell argumenta que dar à inteligência artificial objetivos mais definidos não é a solução para esse dilema, porque os próprios humanos não têm certeza de quais são esses objetivos.

"Não sabemos que não gostamos de uma coisa até que ela aconteça", diz ele.

"Devemos mudar toda a base sobre a qual construímos sistemas de inteligência artificial", diz ele, afastando-se da noção de dar aos robôs objetivos fixos para eles concluírem. "Em vez disso, o sistema precisa entender que não sabe qual é o objetivo final da tarefa", explica.

"E quando você tem sistemas que funcionam dessa maneira, eles realmente se valem dos seres humanos. Eles começarão a pedir permissão antes de fazer as coisas, porque não têm certeza sobre o que a pessoa deseja."

Fundamentalmente, diz o professor Russell, os computadores ficariam "felizes em se deixarem desligar porque querem evitar fazer coisas de que seu controlador não gosta".

O 'gênio da lâmpada'

"A maneira como construímos a inteligência artificial é um pouco como enxergamos um gênio da lâmpada. Você esfrega a lâmpada, o gênio sai e você diz: 'Gostaria que isso acontecesse'", diz Russell.

E se o sistema de inteligência for suficientemente poderoso, ele fará exatamente o que você solicitar.

"Agora, o problema com os gênios nas lâmpadas é que o terceiro desejo (nesse caso) é sempre: 'Desfaça os dois primeiros desejos, porque não conseguimos especificar os objetivos corretamente'."

"Portanto, uma máquina que busca um objetivo que não é o correto se torna, na verdade, um inimigo da raça humana, um inimigo que é muito mais poderoso que nós mesmos", diz Russell.

Leia mais

  • "Estudamos a inteligência artificial. O Papa nos pediu", afirma D. Vincenzo Paglia
  • Inteligência artificial e automatização da pobreza
  • Papa alerta sobre “nova barbárie” na era da inteligência artificial
  • Tecnologia de controle social, baseada em inteligência artificial, já está presente em 75 países
  • Capitalismo de Inteligência Artificial. Entrevista com Dyer-Witheford
  • Inteligência artificial e ética: um estado da arte. Artigo de Paolo Benanti
  • Inteligência Artificial, potência e terror
  • Inteligência artificial aumenta o caos climático. Artigo de Silvia Ribeiro
  • "A inteligência artificial é a religião do Vale do Silício". Entrevista com Markus Gabriel
  • A vida pelo ralo. A existência humana no tempo da inteligência artificial é o tema da palestra desta noite no IHU, com Marildo Menegat
  • ONU: Inteligência Artificial cria assistentes virtuais sexistas
  • ''Machine Behaviour'' e Inteligência Artificial: nomear os medos, governar os algoritmos. Artigo de Paolo Benanti
  • Máquinas Sapiens. Os desenvolvimentos da Inteligência Artificial
  • Inteligência Artificial para quem?
  • “Precisamos da inteligência artificial para sobreviver como espécie”
  • Quais são os perigos da inteligência artificial em nosso admirável mundo novo de carros autônomos?

Notícias relacionadas

  • Más de 30 activistas colombianos de DD.HH. asesinados en 2016

    LER MAIS
  • Argentina retrocede en Derechos Humanos, denuncia Premio Nobel de la Paz

    El Premio Nobel de la Paz Adolfo Pérez Esquivel cuestionó hoy duramente la política de derechos humanos del gobierno argentino[...]

    LER MAIS
  • Vice-presidente Joe Biden, católico, oficializa casamento homoafetivo

    O vice-presidente Joe Biden, católico, oficializou o casamento homoafetivo esta semana, no mesmo momento em que os debates na pol[...]

    LER MAIS
  • Quem são os responsáveis por mais essa morte no campo?

    LER MAIS
  • Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato

Av. Unisinos, 950 - São Leopoldo - RS
CEP 93.022-750
Fone: +55 51 3590-8213
humanitas@unisinos.br
Copyright © 2016 - IHU - Todos direitos reservados