23 Agosto 2025
As empresas estão usando a necessidade de melhoria como pretexto para coletar e usar informações de atividades pessoais para treinar seus modelos e vendê-las a "provedores de serviços".
A reportagem é de Raúl Limón, publicada por El País, 20-08-2025.
A inteligência artificial (IA) é uma devoradora de dados. Ela depende de dados para ser eficaz, mas a escassez de seu alimento na proporção necessária é um problema sério, especialmente para os agentes de IA, os chatbots capazes de agir em nome do usuário e fazer compras, responder e-mails ou gerenciar faturas e calendários, entre dezenas de outras possibilidades. Para isso, eles precisam conhecer o interlocutor, seu histórico de vida e violar a privacidade, mesmo com permissão. Grandes empresas de tecnologia já estão investigando como lidar com esse problema em diversas frentes. Mas, enquanto isso, o acesso aos dados, de acordo com Hervé Lambert, gerente de operações de atendimento ao cliente da Panda Security , representa um risco de "manipulação comercial, exclusão ou até mesmo extorsão".
O acesso a informações privadas foi confirmado por pesquisadores da University College London (UCL) e da Universidade Mediterrânea de Reggio Calabria em um estudo apresentado no simpósio de segurança USENIX em Seattle, Washington. De acordo com o estudo, extensões de navegador com inteligência artificial (IA) utilizam "práticas generalizadas de rastreamento, criação de perfil e personalização que levantam sérias preocupações com a privacidade".
Durante os testes com um perfil de usuário criado pelos pesquisadores, os assistentes de IA transmitiram o conteúdo da pesquisa para seus servidores, incluindo dados bancários e de formulários de saúde, bem como o endereço IP do usuário. Todos demonstraram a capacidade de inferir atributos como idade, sexo, renda e interesses das pessoas, e usaram essas informações para personalizar as respostas, mesmo em diferentes sessões de navegação. Apenas um assistente, o Perplexity, não apresentou evidências de criação de perfil ou personalização.
“Embora muitas pessoas saibam que mecanismos de busca e plataformas de mídia social coletam informações sobre elas para publicidade direcionada, esses assistentes de navegação de IA operam com acesso sem precedentes ao comportamento online dos usuários em áreas de suas vidas que deveriam permanecer privadas. Embora ofereçam conveniência, nossas descobertas mostram que frequentemente o fazem às custas da privacidade do usuário, sem transparência ou consentimento e, às vezes, violando a legislação de privacidade ou os próprios termos de serviço da empresa. Essa coleta e compartilhamento de informações não são triviais: a menos que vendam ou compartilhem dados com terceiros, em um mundo onde invasões em massa são comuns, não há como saber o que está acontecendo com seus registros de navegação depois que eles são coletados”, explica Anna Maria Mandalari, autora principal do estudo do Departamento de Engenharia e Eletrônica da UCL.
Hervé Lambert concorda com as conclusões do estudo. “As empresas de tecnologia estão coletando dados de usuários, incluindo dados pessoais, para treinar e aprimorar modelos inteligentes e de aprendizado de máquina. Isso ajuda as empresas a oferecer, para dizer o mínimo, serviços mais personalizados. Mas o desenvolvimento de novas tecnologias obviamente levanta inúmeras questões e preocupações sobre a privacidade e o consentimento do usuário. Em última análise, não sabemos como as empresas e seus sistemas inteligentes estão usando nossos dados pessoais.”
Entre os perigos potenciais que este especialista em segurança vê estão os riscos de manipulação comercial ou geopolítica, exclusão, extorsão e roubo de identidade.
E tudo com o consentimento, consciente ou não, dos usuários. "As plataformas", acrescenta Lambert, "estão atualizando suas políticas de privacidade, e isso é um pouco suspeito. Na verdade, essas atualizações — e isso é importante — incluem cláusulas que permitem o uso de dados." Mas os consumidores, na grande maioria dos casos, aceitam os termos sem ler, sem pensar, para garantir a continuidade do serviço ou por pura preguiça.
O Google é uma dessas empresas que acaba de alterar sua política de privacidade para, como comunicou aos seus usuários, "melhorar seus serviços". Nas informações, a empresa admite o uso de interações com seus aplicativos de IA por meio do Gemini e está lançando um novo recurso para evitar isso. Chama-se Conversa Temporária , que permite aos usuários excluir consultas recentes e impedir que a empresa as utilize "para personalizar" consultas futuras ou "treinar modelos".
Os usuários devem ser proativos na proteção, utilizando os recursos " Salvar Atividade" e "Gerenciar e Excluir" . Caso contrário, seus vídeos serão compartilhados com a empresa. "Uma parte dos uploads enviados a partir de 2 de setembro, como arquivos, vídeos, telas sobre as quais você pergunta e fotos compartilhadas com o Gemini, também serão usados para aprimorar os serviços do Google para todos os usuários", alerta a multinacional. A empresa também utilizará áudio coletado por IA e dados das gravações do Gemini Live.
Uma parte dos uploads enviados a partir de 2 de setembro, como arquivos, vídeos, telas sobre as quais você pergunta e fotos compartilhadas com o Gemini, também serão usados para melhorar os serviços do Google para todos os usuários.
“Assim como antes, quando o Google usa sua atividade para aprimorar seus serviços (incluindo o treinamento de modelos de IA generativa), ele depende de revisores humanos. Para proteger sua privacidade, desvinculamos as conversas da sua conta antes de enviá-las aos provedores de serviços”, explica a empresa em um comunicado, admitindo que, embora as desvincule da conta do usuário, usa e usou dados pessoais (“Assim como antes”) e que os vende ou compartilha (“os envia aos provedores de serviços”).
Marc Rivero, pesquisador-chefe de segurança da Kaspersky, concorda com os riscos representados pela divulgação de informações que apontam para o uso de dados do WhatsApp por IA: “Isso levanta sérias preocupações com a privacidade. Aplicativos de mensagens privadas são um dos ambientes digitais mais sensíveis para os usuários, contendo conversas íntimas, dados pessoais e até mesmo informações confidenciais. Permitir que uma ferramenta de IA acesse essas mensagens automaticamente sem consentimento claro e explícito prejudica a confiança do usuário.”
E ele acrescenta: “Do ponto de vista da segurança cibernética, isso também é preocupante. Os cibercriminosos estão cada vez mais utilizando a IA para expandir seus ataques de engenharia social e coletar dados pessoais. Se os invasores encontrarem uma maneira de explorar esses tipos de interações, poderemos estar diante de uma nova via para fraudes, roubo de identidade e outras atividades criminosas.”
O WhatsApp qualifica essa facilidade de acesso , insistindo que "mensagens pessoais com amigos e familiares são inacessíveis". Sua IA é treinada por meio da interação direta com a conta da IA e, de acordo com a empresa, "para iniciar uma conversa, você precisa executar uma ação, como abrir um bate-papo ou enviar uma mensagem para a IA". "Somente você ou um participante do grupo pode iniciá-la; nem o Meta nem o WhatsApp podem. Conversar com uma IA fornecida pela Meta não vincula as informações pessoais da sua conta do WhatsApp ao Facebook, Instagram ou qualquer outro aplicativo fornecido pela Meta", acrescenta a empresa. No entanto, ela emite um aviso: "O que você envia para a Meta pode ser usado para fornecer respostas precisas, portanto, não envie mensagens para a Meta com informações que você não quer que ela saiba".
Serviços de armazenamento e transferência de arquivos também foram alvo de críticas. O exemplo mais recente foi uma modificação nos termos de uso do popular aplicativo Wetransfer , que foi interpretada como um pedido de permissão ilimitada dos usuários para aprimorar futuros sistemas de inteligência artificial. Diante das preocupações dos consumidores sobre a potencial livre disposição de seus documentos e criações, a empresa foi forçada a revisar a redação da cláusula e alertar, "para sermos mais claros": "SIM - seu conteúdo é sempre seu; SIM - você está nos dando permissão para operar e aprimorar o serviço adequadamente; SIM - nossos termos estão em conformidade com as leis de privacidade, incluindo o GDPR [Regulamento Geral sobre a Proteção de Dados]; NÃO - não usamos seu conteúdo para treinar modelos de IA; e NÃO - não vendemos seu conteúdo a terceiros."
Dada a proliferação de dispositivos inteligentes, que vão muito além dos chats conversacionais com tecnologia de IA, Eusebio Nieva, diretor técnico da Check Point Software para Espanha e Portugal, defende regulamentações que garantam transparência e consentimento explícito, padrões de segurança para dispositivos e proibições e restrições a fornecedores de alto risco, conforme previsto na norma europeia. "Incidentes de violações de privacidade destacam a necessidade de consumidores, reguladores e empresas trabalharem juntos para garantir a segurança", argumenta Nieva.
Lambert concorda e exige responsabilidade de usuários e empresas em um novo cenário para todos. Ele também rejeita a ideia de que a regulamentação preventiva represente um retrocesso no desenvolvimento: "Proteger nossos usuários não significa que vamos desacelerar; significa que, desde o início de um projeto, incluímos a privacidade e a proteção da pegada digital, e assim seremos mais eficazes e eficientes na proteção do nosso patrimônio mais importante: nossos usuários."
As empresas de tecnologia estão cientes dos problemas gerados pelo uso de dados pessoais, não apenas pelos conflitos éticos e legais em torno da privacidade, mas principalmente porque as limitações de acesso a eles, argumentam, também dificultam o desenvolvimento de seus sistemas.
O fundador da Meta, Mark Zuckerberg, concentrou seu Superintelligence Lab em "IA de autoaperfeiçoamento", sistemas capazes de aumentar o desempenho da inteligência artificial por meio de avanços em hardware (especialmente processadores), programação (incluindo autoprogramação) e treinamento de IA em grandes modelos de linguagem (LLMs) nos quais ela se baseia.
"Acredito que este seja o caminho mais rápido para uma IA poderosa. É provavelmente a coisa mais importante em que devemos pensar", disse Jeff Clune, professor de ciência da computação na Universidade da Colúmbia Britânica e consultor sênior de pesquisa do Google DeepMind, a Grace Huckins , da MIT Technology Review .
Uma evidência desse "autoaperfeiçoamento" são as capacidades de programação de computadores com ferramentas como Claude Code e Cursor. "O mais importante é a assistência à codificação", enfatiza Tom Davidson, pesquisador principal da Forethought, do MIT, uma organização sem fins lucrativos de pesquisa em IA. Somam-se a isso as melhorias em processadores e hardware, que, por sua vez, se beneficiam das capacidades da IA para fornecer propostas para desenvolvimentos mais eficientes.
Mas o gargalo da escassez de dados para treinamento de IA também parece ter encontrado outra saída: a geração de dados sintéticos pela própria máquina para treinar a si mesma e a outros. "Você não está mais limitado pelos dados, porque o modelo pode gerar arbitrariamente mais e mais experiências", explica Azalia Mirhoseini, professora assistente de ciência da computação na Universidade Stanford e cientista sênior do Google DeepMind, ao MIT Huckins.
E não apenas experiências baseadas em dados sintéticos, mas também ferramentas e prompts para adaptar o comportamento às necessidades do usuário. A startup Sakana AI criou um sistema chamado Darwin Gödel Machine, onde um agente de IA adapta seu código para melhorar seu desempenho nas tarefas que enfrenta.
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
O historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS
