Mais uma vez nos dizem que a IA pode ser consciente – eu estudo consciência e tenho minhas dúvidas. Artigo de Anil Seth - Instituto Humanitas Unisinos

Assine a Newsletter

Receba as notícias e atualizações do Instituto Humanitas Unisinos – IHU em primeira mão. Junte-se a nós!

Vídeos IHU

Revista ihu on-line

Aceleracionismo Amazônico

Edição: 559

Eis o artigo.

Durante séculos, a humanidade tem sido fascinada pela perspectiva de criar seres artificiais à nossa imagem e semelhança. De desenvolver mentes sintéticas e corpos artificiais que não apenas pensam, mas também sentem, e que são inteligentes e conscientes. Durante a maior parte desse tempo, essa perspectiva pareceu muito distante; um tema para a ficção científica e a filosofia, não para o aqui e agora. Mas, nos últimos anos, a ascensão meteórica da IA – e especialmente dos modelos de linguagem – mudou tudo.

Na semana passada, a empresa de inteligência artificial de ponta Anthropic publicou uma nova pesquisa sobre seu modelo de linguagem, Claude, na qual os pesquisadores afirmaram ter encontrado sinais de consciência emergindo em seu funcionamento interno. Eles não afirmaram que Claude seja de fato consciente da mesma forma que os humanos, mas as descobertas certamente aumentaram a expectativa em relação à possibilidade de surgimento da consciência na IA.

Hoje em dia, existe um ambiente cada vez mais receptivo a esse tipo de pensamento. Richard Dawkins, o renomado biólogo evolucionista, concluiu recentemente que Claude (ou Claudia, como ele a chamava) só poderia ser consciente, dada a sofisticação de sua capacidade de conversação.

As consequências são graves. Se a IA for (ou puder ser) consciente, as consequências seriam sísmicas. IAs conscientes poderiam potencialmente sofrer, o que levaria a uma catástrofe moral sem precedentes. E se o silício puder ser senciente, talvez nossos próprios cérebros e corpos complexos sejam em breve substituídos por máquinas que nunca envelhecem e não podem morrer. Algumas pessoas até pensam que as IAs serão nossas descendentes, carregando a chama da consciência para um futuro distante e através da galáxia.

A pesquisa da Anthropic, liderada por Jack Lindsey, é impressionante. Sua equipe desenvolveu uma nova maneira de analisar as acrobacias estatísticas entre a entrada de um modelo de linguagem – tudo o que é inserido – e sua saída. Eles descobriram uma atividade que parecia formar uma espécie de "espaço de trabalho mental" para o modelo. Esse espaço de trabalho continha todos os tipos de palavras e frases associadas à conversa atual, armazenava itens relevantes em algo semelhante a uma memória de curto prazo e demonstrava seletividade para qualquer tarefa em questão. Também exibia traços de raciocínio passo a passo e muito mais.

Em essência, suas descobertas parecem revelar que a IA está criando espontaneamente um espaço interno para "pensar" sobre o que está fazendo e para organizar informações relevantes, antes de decidir o que dizer em resposta a um determinado estímulo.

O ponto crucial para os pesquisadores foi que essas características são semelhantes às identificadas por uma das teorias mais proeminentes da consciência humana na atualidade: a teoria do espaço de trabalho global. Essa teoria foi introduzida na década de 1980 pelo cientista cognitivo Bernard Baars e elaborada ao longo de muitos anos pelo neurocientista Stanislas Dehaene. Ela propõe que as experiências conscientes ocorrem quando a informação é disponibilizada amplamente para outras partes do cérebro.

O “espaço de trabalho” dentro de Claude é uma boa evidência de consciência? Para responder a essa pergunta, primeiro precisamos definir o que é consciência. Não há consenso sobre isso, mas um bom ponto de partida vem do filósofo Thomas Nagel. Há cinquenta anos, no ensaio "Como é ser um morcego?", ele argumentou que, para um organismo consciente, “existe algo que é ser esse organismo”. Ser eu me dá uma sensação, ser você me dá uma sensação e provavelmente ser um cachorro ou um elefante também me dá uma sensação. Mas ser uma cadeira, uma mesa ou uma pessoa sob profunda anestesia geral não me dá nenhuma sensação. Consciência é qualquer tipo de experiência: a dor de um dente, uma pontada de ciúme, o prazer de comer sorvete num dia quente.

Uma consequência importante dessa definição é que consciência é diferente de inteligência. Enquanto a consciência se concentra no sentir e no ser, a inteligência se concentra no fazer – em executar funções de um tipo ou de outro. Um erro comum que as pessoas cometem quando se trata de IA é confundir as duas – tomar sinais de inteligência como evidência de consciência. Mas o fato de consciência e inteligência coexistirem em humanos não significa que coexistam de forma geral. Presumir que sim é um reflexo da nossa própria psicologia, não uma compreensão da natureza da realidade.

Essa é uma das razões pelas quais a nova pesquisa da Anthropic é valiosa. Ela não se baseia apenas em nossos vieses psicológicos. Em vez disso, aprofunda-se na busca por indícios de processamento consciente de informações que possam ser compartilhados por humanos e máquinas. E afirma ter encontrado alguns.

Tudo isso é fascinante, mas ainda existem muitas diferenças entre Claude e você e eu, e bons motivos para acreditar que essas diferenças continuam sendo fundamentais. Para começar, as descobertas de Anthropic não atendem ao que a teoria do espaço de trabalho global normalmente exige (por exemplo, não há atividade recorrente em Claude, um tipo específico de circuito de feedback de informações que observamos no cérebro humano). Mas há uma diferença mais fundamental: Claude é um programa de computador rodando em silício, enquanto nós (e outros animais conscientes) somos seres vivos. Nossos cérebros estão incorporados em corpos que estão inseridos em mundos.

Por que essa diferença é importante? Porque a própria possibilidade de uma IA consciente depende da premissa de que a consciência é uma questão de computação, e que os cálculos responsáveis pela consciência em nós poderiam ser igualmente implementados em silício na IA.

Mas quanto mais de perto observamos cérebros reais, mais claro fica que eles não são apenas computadores feitos de carne. Para os cérebros, diferentemente dos computadores, não é possível separar claramente o que eles fazem (o software) do que eles são (o hardware). Isso, por sua vez, significa que o que eles fazem provavelmente não se resume apenas à computação – já que a capacidade de separar software de hardware é fundamental para o funcionamento dos computadores modernos.

Em algum momento, parece que nos esquecemos de que o computador é apenas uma metáfora para o cérebro. Uma metáfora poderosa, sem dúvida, mas ainda assim uma metáfora. E sempre teremos problemas quando confundimos uma metáfora com a coisa em si – o mapa com o território.

Para mim, o que a pesquisa da Anthropic demonstra é que tanto cérebros vivos quanto computadores de silício podem chegar a soluções semelhantes quando confrontados com problemas similares. Assim como o voo é possível com asas batendo ou com motores a jato, cérebros humanos e modelos de linguagem podem descobrir como dizer coisas plausíveis, seja com consciência (cérebros), seja sem ela (modelos de linguagem). Mas o processamento de informações que ocorre dentro de Claude não tem mais probabilidade de resultar em consciência do que uma simulação de um sistema meteorológico tem de gerar um furacão real.

Os sistemas de IA estão se tornando mais poderosos a cada dia. Mas, para termos a melhor chance de navegar neste novo mundo, devemos lembrar o quão diferentes somos de nossas criações quase mágicas. Quando vendemos nossas mentes a preço de banana para as máquinas, não apenas as superestimamos, como também nos subestimamos.

Mais uma vez nos dizem que a IA pode ser consciente – eu estudo consciência e tenho minhas dúvidas. Artigo de Anil Seth

Mais Lidos

Capacidade de recuperação da Amazônia é limitada: centro do mundo encontra-se ameaçado por práticas predatórias e ilegais. Entrevista especial com Bernardo Flores