Golpe na plataforma X
4 de Setembro de 2025

Agentes mal-intencionados estão utilizando o Grok, assistente de IA integrado da plataforma X, para contornar as restrições de postagem de links que a rede social implementou com o objetivo de reduzir propagandas maliciosas.

Conforme descoberto pelo pesquisador Nati Tal, do Guardio Labs, muitos anunciantes duvidosos veiculam anúncios em vídeo que utilizam iscas com conteúdo adulto, mas evitam incluir o link principal no corpo do post para não serem bloqueados pelo X.

Em vez disso, eles escondem o link no pequeno campo de metadados "From:" localizado abaixo do cartão do vídeo, que aparentemente não é escaneado pela plataforma em busca de links maliciosos.

Na sequência, (provavelmente) os mesmos agentes solicitam ao Grok, via resposta ao anúncio, informações sobre o post, como "de onde é esse vídeo" ou "qual é o link para este vídeo."

O Grok faz o parsing do campo oculto "From:" e responde com o link completo malicioso em formato clicável, permitindo que os usuários acessem diretamente o site malicioso.

Como o Grok é automaticamente uma conta do sistema confiável dentro da plataforma X, a postagem dele aumenta a credibilidade, alcance, SEO e reputação do link, elevando a probabilidade de que ele seja exibido para um grande número de usuários.

O pesquisador identificou que muitos desses links redirecionam para redes de anúncios suspeitas, que conduzem a golpes como testes CAPTCHA falsos, malwares voltados para roubo de informações e outros payloads maliciosos.

Em vez de serem bloqueados pelo X, esses links são promovidos na plataforma por meio de anúncios maliciosos que recebem um impulso extra do Grok.

Tal denominou essa técnica de exploração dessa brecha de segurança como "Grokking" e observa que ela é bastante eficaz, chegando a amplificar anúncios maliciosos para atingir milhões de impressões, conforme demonstrado.

Possíveis soluções incluem o escaneamento de todos os campos das postagens, bloqueio de links ocultos e a aplicação de sanitização de contexto no Grok, para que o assistente de IA não simplesmente reproduza links quando solicitado pelos usuários, mas, sim, que realize filtros e verifique esses links contra blocklists.

Tal confirmou que já entrou em contato com a X para relatar o problema e recebeu confirmação extraoficial de que os engenheiros do Grok já foram notificados.

Publicidade

Proteja sua empresa contra hackers através de um Pentest

Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...