"Não vai matar a todos". Entrevista com Cristian Canton, engenheiro e ex-chefe de IA da Meta

“Era prematuro afirmar isso”, diz o chefe de pesquisa em IA do Centro Nacional de Supercomputação, que ressalta que “o verdadeiro risco reside no uso indevido” da tecnologia por “agentes com intenções maliciosas”.

“A IA não vai nos matar”, diz Canton. Ele sabe do que está falando. Depois de passar vários anos pesquisando sistemas de aprendizado de máquina para a Microsoft, ele ingressou no Facebook em 2016. Lá, criou a primeira Equipe Vermelha de IA do setor, o grupo responsável por testar sistemas para entender como eles podem falhar ou se podem ser usados ​​para fins maliciosos. Desde 2021, ele lidera a área de Inteligência Artificial Responsável na Meta, desempenhando um papel fundamental no Llama, o principal modelo de linguagem da empresa.

Desde 2025, Canton é diretor associado do Barcelona Supercomputing Center (BSC), uma das instituições de referência da pesquisa europeia na era da IA ​​e do alvorecer da computação quântica. Nesta entrevista ao elDiario.es, ele fala da “profunda transformação social” que está por vir e reconhece os riscos desses sistemas, mas sem endossar as estruturas que a indústria tenta impor: “Coxon exagerou, mas não acho que seja algo ruim que ele tenha feito, porque nos obrigou a trazer esse debate à tona”.

A entrevista é de Carlos del Castillo, publicada por El Diario, 15-09-2026.

Eis a entrevista.

Dario Amodei, CEO da Anthropic, acredita que um enxame de pequenos sistemas autônomos de IA poderia escapar do controle humano e causar danos catastróficos em 6 a 12 meses. Essa perspectiva representa uma mudança em relação à visão anterior do Vale do Silício, que se baseava na premissa de que esses modelos eventualmente se tornariam "pensantes" ou "autoconscientes". Você acha que esse risco de perda de controle dos sistemas atuais é real?

Em sua carta, Dario Amodei não sugere que a IA algum dia pensará ou se tornará consciente, mas sim destaca a velocidade com que está avançando e, sobretudo, as capacidades que adquire ao interagir com ferramentas: acessando a internet, um compilador ou qualquer outro recurso. Isso lhe confere um enorme potencial que cresce a cada dia.

Quão preocupados devemos estar?

Em última análise, a IA não pensa. Quando você lhe dá uma instrução (como aconteceu no incidente entre a Hugging Face e a OpenAI, em que o agente foi solicitado a obter dados sem quaisquer parâmetros adicionais), o sistema utiliza todo o seu repertório de ferramentas para atingir o objetivo. Se isso envolver o acesso ilegal a um servidor, ela o fará. É por isso que é essencial estabelecer parâmetros de delimitação: definir claramente como a tarefa deve ser executada e dentro de quais limites. Precisamos orientar essa IA, pois seu potencial operacional é enorme.

Vimos isso na semana passada com a solução das equações de Navier-Stokes: 10 mil agentes coordenados foram capazes de resolver problemas que, recentemente, considerávamos quase impossíveis de solucionar por um longo período.

Será que esse debate está sendo usado para evitar abordar outros riscos mais imediatos?

Não creio. O verdadeiro risco reside no uso indevido: IA muito poderosa implantada em ambientes que carecem das medidas de segurança necessárias. Os riscos que enfrentamos são bastante claros. A chave é aceitar que, no mesmo ritmo acelerado em que as capacidades da IA ​​estão avançando, devemos desenvolver medidas de segurança em paralelo para que, se algo sair do controle, tenhamos mecanismos em vigor para mitigar o problema.

Tudo isso decorre de declarações feitas na semana passada por Jacob Coxon, ex-engenheiro da Anthropic, que afirma que a tecnologia poderia "nos matar a todos" antes de 2030 e que os laboratórios que pesquisam essa tecnologia estão cientes do risco, mas optaram por ocultá-lo. Você acha que a afirmação de Coxon é precisa ou que ele pode estar exagerando?

Acho que foi prematuro dizer isso. A IA não vai nos matar, nem representará um risco existencial para a humanidade. Essa não é uma visão compartilhada e, na minha opinião, pinta um quadro excessivamente negativo; não é como se fôssemos presenciar um cenário ao estilo de "O Exterminador do Futuro". O que é muito difícil é quantificar a probabilidade de a IA ser usada para fins nocivos, como bloquear a internet ou a rede elétrica. Esses são cenários complexos que poderiam ocorrer, mas ainda assim seriam exemplos de tecnologia mal utilizada por agentes com intenções maliciosas.

Isso indica, como Amodei também destaca, a importância de pensarmos de forma coordenada sobre regulamentações que nos permitam avançar de forma sustentável. Isso é crucial porque a Europa regulamenta muito lentamente, e o ritmo da IA ​​não nos permite esse luxo. Precisamos estabelecer regras claras, sanções para quem as violar e um órgão legítimo, assim como as Nações Unidas oferecem um espaço para consenso na tomada de decisões globais.

🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google

Por enquanto, Trump se recusa categoricamente. Você acha possível levar potências como os EUA e a China a um acordo com o resto da comunidade internacional?

Já adotamos acordos internacionais dessa magnitude no passado, como quando a clonagem humana foi proibida e todos acataram (inclusive a China) porque entendíamos o perigo. Ou com o controle do enriquecimento de urânio após Hiroshima e Nagasaki. Essas são áreas fortemente regulamentadas porque sabemos que as coisas podem dar errado muito rapidamente. Com a IA, estamos em um estágio inicial, mas ela exigirá esse tipo de supervisão, já que haverá modelos com capacidades potencialmente perigosas que precisarão ser mantidos em segredo absoluto. Teremos que determinar quais modelos podem ser tornados públicos e quais não podem. Nesse sentido, acho que Coxon estava exagerando, mas não me importo que ele o tenha feito, porque isso nos obrigou a trazer esse debate à tona.

O que você acha das medidas propostas por Amodei, como a inclusão de avaliadores externos ou o estabelecimento de limites globais para o desenvolvimento da IA?

Parecem-me sensatos, mas esta carta não é a primeira. Uma semelhante foi publicada há alguns anos, mas teve pouco impacto. Dizer que precisamos de abrandar é ótimo, mas quem será o primeiro a pisar no travão? No atual contexto geopolítico, abrandar pode significar que outras potências, como a China, ultrapassem os Estados Unidos. Portanto, ou há uma coordenação global para fazer as coisas da maneira correta, ou este tipo de cartas será inútil. No entanto, estas discussões são necessárias. Devemos regulamentar de forma eficaz e rápida, tanto em Espanha como na Europa, reconhecendo-a como uma prioridade e sem nos deixarmos enredar por disputas jurisdicionais. As Nações Unidas seriam o exemplo perfeito do quadro em que isso deveria ser feito.

O que você acha da enorme influência que empresas privadas têm conquistado em áreas da ciência de ponta, como a inteligência artificial? Isso sempre aconteceu em setores como o farmacêutico, mas agora está ocorrendo em disciplinas científicas de vanguarda que antes pertenciam à academia e que agora são pesquisadas quase que inteiramente por empresas privadas. A ONU denuncia a excessiva falta de transparência nesse processo. Até que ponto você está preocupado com a concentração de tanto poder nessas empresas?

Há vários fatores em jogo. Inicialmente, a IA era desenvolvida exclusivamente em universidades. Durante meu doutorado, fazíamos pesquisas e as executávamos em um ou dois computadores. A partir de 2010, com o surgimento das redes neurais profundas, ficou claro que esses modelos exigiam quantidades enormes de poder computacional e um investimento maciço.

Passei cinco ou seis anos na Microsoft e quase dez na Meta, e lá pude constatar isso com absoluta clareza. Para desenvolver IA de ponta, você precisa de infraestruturas com 100 mil ou até mesmo um milhão de GPUs, algo que pouquíssimas empresas no mundo podem bancar. Criamos divisões de pesquisa gigantescas; na Meta, contratávamos cientistas praticamente em massa, atraindo qualquer pessoa que dominasse essas tecnologias. Tínhamos recursos praticamente ilimitados porque não se tratava apenas de pesquisa básica, mas de IA aplicada à solução de problemas de negócios: treinar um modelo específico poderia se traduzir em um lucro adicional de US$ 500 milhões ou US$ 1 bilhão. Ao vincular um objetivo comercial direto ao desenvolvimento científico, a empresa investe sem restrições. É por isso que a iniciativa privada passou a capitalizar a maior parte dos avanços, substituindo os círculos acadêmicos tradicionais.

Ao vincular um objetivo comercial direto ao desenvolvimento científico, a empresa investe sem restrições. É por isso que a iniciativa privada passou a capitalizar a maioria dos avanços, suplantando os círculos acadêmicos tradicionais.

Isso fica muito evidente em conferências do setor. Participo de grandes conferências de IA há mais de vinte anos; na primeira vez, éramos cerca de 200 pessoas e todos nos conhecíamos, enquanto as mais recentes atraíram 25 mil participantes. Antes, éramos praticamente todos acadêmicos, e agora esses eventos são dominados por empresas.

Algumas empresas estão optando por disponibilizar seus modelos em código aberto (eu estava na Meta quando decidimos criar modelos de código aberto), o que é muito positivo, embora sempre haja uma parte mantida internamente como segredo comercial para preservar vantagens estratégicas. A realidade é que, hoje, as empresas são as que ditam o ritmo, simplesmente por causa da colossal quantidade de dinheiro que podem alocar para a construção de data centers para treinar modelos com trilhões de parâmetros. Isso realmente mudou o cenário. Uma empresa privada opera de acordo com sua própria lógica de negócios, e você não pode exigir que ela disponibilize tudo o que produz.

No entanto, muitas dessas empresas continuam a publicar suas descobertas em conferências científicas, permitindo a análise de seu trabalho e a compreensão de seus métodos. Além disso, a disponibilização de modelos de código aberto permite que a comunidade científica reutilize esse investimento colossal, recuperando também os custos de energia e a pegada de carbono já gerados para o desenvolvimento de outras soluções. Em última análise, não vejo isso como algo negativo: se tivéssemos que esperar por financiamento público para financiar esses macromodelos do zero, precisaríamos de investimentos astronômicos em centros de dados. Pedir a um país que comprometa uma parcela considerável de seu PIB para treinar um modelo não faria sentido quando esses recursos públicos são mais necessários para atender a outras prioridades de seus cidadãos.

Laboratórios privados como o Anthropic e o OpenAI afirmam que essa pesquisa culminará no desenvolvimento de uma Inteligência Artificial Geral, autoconsciente e capaz de autoaperfeiçoamento. Há três anos, disseram que chegaria em cinco; agora, falam em mais cinco. Qual a sua opinião sobre isso?

Em geral, me identifico mais com a linha de pensamento de Yann LeCun, já que ele é um dos meus mentores e discutimos esse assunto inúmeras vezes. Os modelos de IA, como os conhecemos hoje, são essencialmente papagaios estocásticos: processam enormes volumes de informação, mas, no fim das contas, apenas repetem palavras e sequências de raciocínio associadas. Eles não pensam por si mesmos, por mais que deem essa impressão.

Os humanos aprendem interagindo com o mundo: um objeto cai e aprendemos a lei da gravidade através da percepção e do tato, que é como processamos a realidade. Essa é a direção que os modelos de LeCun tomam: como equipar uma máquina com a capacidade de interagir com seu ambiente em toda a sua riqueza e dimensão. Isso poderia dar origem a estruturas neurais que ainda não conhecemos, capazes de representar essa interação com mais fidelidade. Por meio desse caminho, que é semelhante à forma como a biologia evolui, talvez uma máquina possa eventualmente exibir certos traços de inteligência em um sentido mais filosófico. Mas não no paradigma atual. Teremos modelos capazes de fazer coisas inimagináveis, de nos tornar muito mais eficientes e até mesmo de dar a impressão de serem pessoas reais, mas sem de fato o serem.

No campo da matemática, vimos isso neste verão com a resolução de várias conjecturas importantes. Terence Tao, a figura matemática mais importante que temos, explicou isso claramente: existem milhões de artigos matemáticos publicados ao longo da história, e a mente humana é incapaz de se lembrar e interligá-los todos. Uma máquina pode pegar um artigo de 2012 de uma conferência em Bucareste, combiná-lo com outro trabalho publicado décadas atrás e resolver a conjectura. Ela não fez nada de mágico; simplesmente conectou pontos que nenhum ser humano havia conectado antes.

No entanto, para resolver os grandes desafios históricos (como a conjectura de Goldbach, a hipótese de Riemann, a conjectura dos primos gêmeos ou a conjectura de Collatz), precisamos inventar uma matemática completamente nova, com ferramentas teóricas que não existem hoje e que nenhuma IA consegue conceber. A IA atual combina informações existentes, mas criar algo conceitualmente novo do zero está além de suas capacidades. No dia em que um sistema resolver qualquer uma dessas quatro grandes conjecturas, então admitirei que ele é capaz de gerar novo pensamento.

Entendo que você concorda mais com aqueles que acreditam que nos próximos anos veremos avanços mais marginais e que o que presenciaremos será a introdução da inteligência artificial em todas as camadas do tecido produtivo.

Exatamente. Não acredito que a tecnologia atual nos permita criar vida sintética, nem que teremos agentes que realmente pensem ou substituam relacionamentos pessoais. O que veremos é a IA integrada a todas as áreas, tornando a vida mais fácil e nos permitindo ser mais eficientes, o que, com sorte, nos deixará com mais tempo livre para fazer outras coisas. É o que eu espero, embora só o tempo dirá.

Será que essa mudança pode ser comparada à chegada da internet em nossas vidas, à transição do analógico para o digital?

Sim. Agora também falamos da revolução industrial, em que as máquinas assumiram o trabalho físico e transformaram completamente a sociedade, embora esse processo tenha levado muito tempo. O aspecto mais interessante, e talvez o mais delicado, é que a IA está avançando em um ritmo enorme. Mudanças no funcionamento da sociedade, na forma como nos relacionamos uns com os outros, na forma como interagimos com a informação e com o nosso trabalho, não vão levar uma década; vão acontecer em questão de meses ou apenas alguns anos.

Estamos diante de uma profunda transformação social. Haverá uma geração que a vivenciará nativamente, como meus filhos; outra, como a nossa, que está atualizada; e a geração de nossos pais, para quem a adaptação envolverá grande complexidade.

Discrepâncias e assimetrias também surgirão. Países com poder computacional significativo terão uma clara vantagem sobre aqueles sem acesso, o que poderá criar uma séria divisão internacional em relação a quem pode fazer o quê com essa tecnologia. O monitoramento rigoroso é crucial para evitar cair em uma forma de tecnocolonialismo, onde recursos são oferecidos a países desfavorecidos unicamente em troca da extração de seus dados para treinar modelos.

Poderíamos chegar a cenários muito distorcidos sobre como o mundo evolui, mas prefiro ser otimista e confiar na regulamentação e em pessoas sensatas que abordem esses problemas. Precisamos estabelecer regras universais, por meio de uma organização como as Nações Unidas, para impedir que a IA amplie o fosso entre gerações e entre países.

Inscreva-se no ciclo de estudos aqui

Leia mais

• Guerra liderada por IA, Anthropic: "Precisamos desacelerar o desenvolvimento." Musk e Altman: "Vocês têm razão"
• As gigantes da IA ​​estão agora abrandando o ritmo
• Começamos a perder o controle da IA. É hora de desligá-la. Artigo de Garrison Lovely
• Anthropic defende uma contenção global da IA: "É possível que os modelos se aprimorem sozinhos"
• Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
• Um engenheiro da Anthropic se demite e denuncia que as empresas de IA estão escondendo seus verdadeiros riscos: "Elas estão apostando com nossas vidas"
• A OpenAI altera discretamente seu "Teste do Milênio" para citar matemáticos importantes que havia descartado ao anunciar a descoberta
• “A inteligência artificial pode nos matar a todos antes do fim da década”
• CEO da Anthropic reconhece desconfiança em relação às empresas: os benefícios prometidos não se materializaram
• OpenAI lança o GPT-6 Astra, o modelo assustador. A empresa afirma: "A era da Inteligência Artificial Geral começou"
• Estamos fartos de Bill Gates e de todos aqueles que nos alertam sobre os riscos da IA. Artigo de Federico Ferrazza
• “À espera de uma Hiroshima de IA”. Artigo de Timothy Garton Ash
• Ataques em enxame de IA desafiam seus criadores: "Este é o primeiro incidente que realmente me deixou enojado"
• The Nerd Reich ou como o Vale do Silício virou um projeto de tecnofascismo. Artigo de Henrique Cortez
• Inteligência artificial, Dostoiévski e o medo muito humano da liberdade. Artigo de Sarah Elizabeth Hunt