04 Setembro 2024
"Neurotecnologias que conectam cérebros com máquinas estão começando a ler nossos pensamentos, manipular nossos sentimentos, alterar nossas memórias e espiar nossa imaginação. Essas capacidades emergentes devem ser bem-vindas como avanços benéficos?", escreve Scott Hurd, vice-presidente de desenvolvimento de liderança na Catholic Charities USA e presidente do conselho da Catholic Climate Covenant, em artigo publicado por National Catholic Reporter, 03-09-2024.
No quinto livro de Harry Potter, o Professor Dumbledore fica alarmado que Voldemort pode entrar na mente de Harry para extrair seus sentimentos e memórias. Para protegê-lo, Dumbledore convoca Snape para instruir Harry na arte da Oclumência, a "defesa mágica da mente contra penetração externa". Dado o relacionamento espinhoso deles, as aulas vão mal, e a mente de Harry fica vulnerável a alguém com intenções sinistras.
Harry Potter é, claro, ficção de fantasia popular — diferente dos avanços muito reais na leitura de mentes que estão sendo feitos atualmente, não por um Lorde das Trevas imaginário, mas por cientistas pioneiros e os titãs das Big Techs. Neurotecnologias que conectam cérebros com máquinas estão começando a ler nossos pensamentos, manipular nossos sentimentos, alterar nossas memórias e espiar nossa imaginação. Essas capacidades emergentes devem ser bem-vindas como avanços benéficos? Ou, como Harry Potter, elas devem ser resistidas como ameaças perigosas ao santuário privado da mente?
Para pessoas com certas deficiências, essas novas tecnologias podem transformar vidas. Amputados agora podem controlar membros protéticos avançados com comandos cerebrais. Por meio do "ditado de pensamento", indivíduos com paralisia podem digitar em taxas semelhantes às de mensagens de texto em um smartphone. Outras inovações em desenvolvimento buscam traduzir pensamentos em fala e exibir em uma tela as imagens e histórias nas mentes daqueles que não podem falar. A estimulação cerebral profunda por meio de eletrodos ou chips implantados pode ajudar a restaurar o movimento normal para aqueles com doença de Parkinson.
Tecnologias relacionadas prometem benefícios terapêuticos para aqueles que sofrem de doenças mentais. A estimulação cerebral profunda e as interfaces cérebro-computador podem ajudar a aliviar a depressão grave ou outros transtornos de humor. O departamento de pesquisa e desenvolvimento do Pentágono, a Defense Advanced Research Projects Agency (DARPA), está explorando o uso de minúsculos eletrônicos embutidos no tecido cerebral para "alterar a formação da memória de modo a neutralizar lesões cerebrais traumáticas", que podem levar ao TEPT.
"É justo nos alegrarmos com esses avanços", escreveu o Papa Francisco na Laudato Si' sobre as inovações tecnológicas, "e ficarmos animados com as imensas possibilidades que elas continuam a abrir diante de nós". Ao mesmo tempo, dada a natureza invasiva e o poder crescente das conexões humano-computador, as neurotecnologias avançadas trazem graves riscos. De acordo com um discurso de 2023 para a Pontifícia Academia para a Vida, Herve Chneiweiss, da Sorbonne Université, alerta que esses avanços ameaçam a liberdade de pensamento, a autonomia, a privacidade, a identidade humana e o florescimento humano.
Esses riscos surgem de certas aspirações dos próprios tecnólogos, que vão muito além de ajudar pessoas com deficiências. Pesquisadores da DARPA do Pentágono, por exemplo, desejam "libertar a mente das limitações até mesmo de corpos saudáveis" e sonham em criar supersoldados que "controlem robôs com seus pensamentos". Justin Sanchez, ex-diretor do Biological Technologies Office da DARPA, opinou que "a missão é fazer dos seres humanos algo diferente do que somos". E se isso soar como devaneio ocioso, tenha em mente o sucesso da DARPA no desenvolvimento de uma invenção anterior: a internet.
No Vale do Silício, a Neuralink de Elon Musk projeta implantes cerebrais para unir humanos com inteligência artificial. Mark Zuckerberg, do Meta/Facebook, sonha com memórias de férias sendo compartilhadas mente a mente com interfaces cérebro-máquina vestíveis. O Snapchat está explorando neurotecnologias, a Apple patenteou futuros Airpods que escaneiam a atividade cerebral, a Verily Life Sciences do Google/Alphabet é "pioneira em neuromodulação de precisão", e o CEO da Microsoft se entusiasma que "estamos entrando nesta nova era" na qual os computadores "instantaneamente nos veem, ouvem, (e) raciocinam sobre nossa intenção e nossos arredores".
Um pesquisador da Universidade do Texas está "confiante" de que em breve haverá "muitos dispositivos que podem ler seus pensamentos". Essa onda de capacidade de leitura cerebral dá origem a preocupações éticas urgentes, razão pela qual os pensadores da igreja estão abordando ativamente a "privacidade neural". Em junho, a Pontifícia Academia para a Vida sediou uma conferência sobre "Religião e Neurociência: Qual é a Relação?" E em uma seção intitulada "Violência Digital", a recente declaração vaticana sobre a dignidade humana, Dignitas Infinita, descreve tecnologias que "espiam descaradamente cada detalhe de (nossas) vidas" como "um lado obscuro do progresso digital".
A tradição espiritual católica entendeu a mente como um espaço privado e sagrado para reflexão e meditação, acessível somente a Deus. "Eu, o SENHOR, exploro a mente e provo o coração", de acordo com um verso clássico de Jeremias. Santa Teresa de Ávila descreveu a oração mental como "nada mais do que uma partilha íntima entre amigos" — uma prática pela qual, de acordo com o Catecismo da Igreja Católica, alguém revela "os segredos do coração". Mas o que mudaria se algo — ou alguém — se intrometesse nessa partilha entre amigos e tivesse acesso a esses segredos?
A capacidade de revelar os segredos de uma mente representaria um "uso indevido" da tecnologia e ajudaria a gerar "a ascensão de uma sociedade de vigilância", como o Papa Francisco alertou em sua mensagem do Dia Mundial da Paz de 2024 sobre inteligência artificial. No entanto, as tecnologias existentes de "leitura de comportamento" estão abrindo caminho para isso ao imputar o estado mental de uma pessoa, intenções, crenças políticas e orientação sexual a partir de expressões faciais, comportamento na internet e nas mídias sociais, escolha de música, tom de escrita, movimentos oculares e maneira de falar. No ano passado, por exemplo, câmeras em estações de trem do Reino Unido usaram a "tecnologia de reconhecimento emocional" da Amazon para vigiar os sentimentos de passageiros desavisados, de acordo com um grupo de liberdades civis, Big Brother Watch.
"Big Brother", é claro, se refere ao romance distópico de George Orwell de 1949, 1984, no qual um estado totalitário monitora constantemente sua população com "teletelas" — a própria personificação do que o Papa Francisco chama de "ditadura tecnológica". O que o Big Brother não tinha, no entanto, eram detectores de mentiras que liam mentes para erradicar "crimes de pensamento". No entanto, tais dispositivos estão atualmente em desenvolvimento. É fácil imaginar como eles poderiam ser mal utilizados por regimes repressivos, pais dominadores, cônjuges abusivos, empregadores suspeitos, administradores escolares e até mesmo inquisidores zelosos da igreja em uma era anterior.
A ética de unir mentes e máquinas também deve lidar com a tentação humana de conceder a tomada de decisões a computadores avançados supostamente "mais inteligentes" e cuja produção é considerada como sendo "dotada de qualidades de certeza inquestionável", como o Papa Francisco alertou os líderes das nações do G7. Em um exemplo infame, computadores implicaram diretores dos correios do Reino Unido em roubo. Os diretores dos correios alegaram inocência, mas as pessoas acreditaram nos computadores, arruinando carreiras. Os diretores dos correios foram posteriormente inocentados, mas para alguns era tarde demais: eles cometeram suicídio.
Os perigos do adiamento humano para computadores são ampliados pelo desenvolvimento de neurotecnologias que buscam não apenas "ler" nossas mentes, mas também "escrever" nelas. Experimentos bem-sucedidos com ratos, por exemplo, sugerem que informações podem ser transferidas de uma mente para outra por meio da tecnologia. Pesquisas com camundongos descobriram que seus cérebros, quando manipulados com lasers, podem ser enganados a acreditar que imagens mentais imaginárias são reais. Outras pesquisas com camundongos foram capazes de substituir memórias ruins por boas, ou usar " interruptores " de nanopartículas para controlar o apetite, a simpatia e o comportamento maternal.
Se adaptadas com sucesso para uso humano, tais capacidades "bidirecionais" poderiam permitir novas e perigosas "formas de manipulação ou controle social" — para novamente tomar emprestado a mensagem do Dia Mundial da Paz do Papa Francisco — por meio da imposição de sistemas e processos que reforçam os preconceitos e visões de mundo de seus programadores, ou expandem os esforços do governo repressivo para revisar ou apagar a história, sufocar o pensamento livre e extinguir a dissidência política. A Alemanha nazista espalhou propaganda por meio da distribuição de rádios gratuitos. O que eles poderiam ter feito com fones de ouvido cérebro-mente gratuitos?
As ameaças da neurotecnologia levaram a apelos urgentes por regulamentação e novas leis. Uma coalizão de cientistas preocupados, a Neurorights Foundation, está defendendo direitos relacionados à identidade pessoal, livre arbítrio, privacidade mental, acesso justo ao aumento mental e proteção contra preconceitos. O Chile consagrou o direito à privacidade mental em sua constituição, e o Brasil, Uruguai e México estão considerando ativamente uma legislação protetora. A União Europeia proíbe a "manipulação cognitivo-comportamental". Mas os EUA estão muito atrás. Enquanto as neurotecnologias médicas exigem aprovação do FDA, outros produtos não são regulamentados. No entanto, o novo Colorado Privacy Act e o proposto American Privacy Rights Act bipartidário buscam fechar essa lacuna.
As Nações Unidas também estão engajadas. Sua Declaração Universal dos Direitos Humanos de 1948 já consagra direitos inalienáveis à privacidade e ao pensamento não manipulado. Com base nisso, o relatório de 2021 do secretário-geral da ONU, "Nossa Agenda Comum", abordou a neurotecnologia e afirmou que as pessoas têm direito ao pensamento privado, não devem ser punidas por seus pensamentos, não devem manipular os pensamentos dos outros e que é dever dos estados criar climas nos quais o pensamento livre possa florescer. Essas prescrições são ecoadas no "Rome Call for AI Ethics" de 2020 da Pontifícia Academia para a Vida, que faz três referências à Declaração Universal da ONU e insiste que "a inovação digital e o progresso tecnológico" devem "respeitar a privacidade dos usuários".
"Exorto a comunidade global de nações a trabalhar em conjunto", implorou o Papa Francisco no Dia Mundial da Paz, "para adotar um tratado internacional vinculativo" que garanta "a proteção dos direitos humanos fundamentais". Direitos que incluem privacidade, que ele mencionou especificamente duas vezes. O Papa Francisco pode ter falado de inteligência artificial, mas suas palavras são igualmente aplicáveis às neurotecnologias — e não apenas porque as duas trabalham cada vez mais juntas. Porque, assim como a IA, embora as neurotecnologias possam trazer benefícios maravilhosos, elas também apresentam perigos igualmente grandes.
Dumbledore estava certo em se preocupar com a indefesa de Harry contra incursões insidiosas em sua mente. Porque sem proteção, uma mente deixada por conta própria pode muito bem se tornar presa fácil para as intenções — e os dispositivos — de outros.
FECHAR
Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:
Sempre em minha mente? Uma abordagem católica à neurotecnologia e privacidade mental - Instituto Humanitas Unisinos - IHU
Embora a Igreja tenha mantido uma relação de amor e ódio com os meios de comunicação e, em especial, com as mídias digitais,[...]
LER MAIS
