A autoridade de proteção de dados do Reino Unido abriu uma investigação formal contra a empresa X e sua subsidiária irlandesa após denúncias de que o assistente de inteligência artificial Grok tem sido usado para gerar imagens sexuais não consensuais.
A medida foi tomada após a Information Commissioner's Office (ICO) contatar a X e a xAI em 7 de janeiro, solicitando informações urgentes sobre as medidas adotadas para garantir o cumprimento da legislação de proteção de dados, diante das notícias de que o Grok criou imagens sexualmente explícitas utilizando dados pessoais de indivíduos.
A ICO informou que avaliará se a X Internet Unlimited Company (XIUC) e a X.AI LLC (X.AI) trataram os dados pessoais de forma legal e se existiam salvaguardas adequadas para impedir que o Grok produzisse imagens manipuladas e prejudiciais.
O órgão destacou o risco significativo decorrente da perda de controle sobre dados pessoais, especialmente quando não há mecanismos para evitar a criação de imagens íntimas geradas por IA, o que pode causar danos imediatos, sobretudo envolvendo crianças.
William Malcolm, chefe de risco regulatório e inovação da ICO, afirmou: “Os relatos sobre o Grok levantam questões alarmantes sobre o uso de dados pessoais para gerar imagens íntimas ou sexualizadas sem o conhecimento ou consentimento dos envolvidos, e se as proteções necessárias foram implementadas para impedir isso.”
Ele acrescentou que a perda de controle sobre dados pessoais pode causar danos imediatos e graves, principalmente em casos que envolvem menores.
Como reguladora independente do Reino Unido, a ICO tem poder para aplicar multas de até £17,5 milhões ou 4% do faturamento anual global da empresa.
Na mesma linha, autoridades francesas realizaram uma busca nos escritórios da X em Paris, em uma investigação criminal que apura se o Grok gerou material de abuso sexual infantil e conteúdo negacionista do Holocausto.
Elon Musk, CEO da X, Linda Yaccarino e outros funcionários foram convocados para depoimentos em abril.
Em janeiro de 2026, a Comissão Europeia também iniciou uma investigação formal para verificar se a X avaliou corretamente os riscos previstos no Digital Services Act antes de lançar o Grok na plataforma, após o assistente ser utilizado para criar imagens sexualmente explícitas.
Além disso, a X está sob investigação da Procuradoria da Califórnia, liderada por Rob Bonta, e da Ofcom — órgão britânico responsável pela segurança online — por conteúdos sexuais explícitos gerados sem consentimento por meio do Grok.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...