Criminosos cibernéticos estão utilizando ferramentas da OpenAI para engajar administradores de sites em uma rede fraudulenta de SEO (Search Engine Optimization).
A técnica envolve a geração de mensagens personalizadas por meio de inteligência artificial (IA) generativa, com habilidade suficiente para evadir filtros e captchas.
A descoberta foi feita pela companhia de cibersegurança SentinelOne.
De acordo com os investigadores, um bot chamado AkiraBot foi usado na tentativa de distribuir spam para aproximadamente 420 mil websites, sendo bem-sucedido em 80 mil casos.
Pequenas e médias empresas foram os principais alvos dessa operação.
As mensagens eram transmitidas através de formulários de contato online ou sistemas de chat.
Estas comunicações automatizadas promoviam pacotes de SEO a um custo de 30 dólares por mês, serviços estes que pareciam ser falsos ou de utilidade questionável.
“A sempre que uma nova tecnologia de comunicação digital se populariza, atores maliciosos a exploram para disseminar spam, visando tirar vantagem de usuários desavisados”, adverte a SentinelOne.
“O e-mail segue sendo o veículo mais utilizado para estes fins, porém a emergência de novas plataformas expandiu o espectro de atuação desses ataques.”
Como a IA foi aplicada pelos fraudadores?
Os criminosos utilizaram a API da OpenAI para gerar mensagens personalizadas com o apoio do modelo GPT-4o Mini.
O sistema foi configurado para atuar como um “assistente diligente que cria mensagens de marketing”.
O uso de IA generativa possibilitou que os textos fossem variados entre si, fugindo do padrão uniforme comum em campanhas de spam.
Embora semelhantes, os textos tinham variações suficientes para escapar dos filtros automáticos.
Ainda nas descobertas da SentinelOne, o primeiro domínio associado ao esquema foi registrado em 2022.
Documentos vinculados à operação possuem datas a partir de setembro de 2024.
A pesquisa também apontou a evolução da ferramenta.
Inicialmente focada em sites na Shopify, o script expandiu seu alvo para incluir páginas em outras plataformas, como GoDaddy, Wix e Squarespace.
Além da modificação do conteúdo das mensagens, o sistema tinha capacidade de ultrapassar barreiras como captchas e evitar a detecção por meios de segurança de rede.
Qual era o esquema?
As mensagens fraudulentas promoviam dois serviços de SEO conhecidos como Akira e ServiceWrap.
Pelo visto, ambos eram fraudulentos ou de qualidade inferior.
No entanto, na plataforma TrustPilot, ambos conseguiam acumular várias avaliações de cinco estrelas — muitas, supostamente, geradas por IA — além de críticas negativas apontando a natureza duvidosa da operação.
A SentinelOne notou um padrão: várias contas publicavam avaliações sobre diferentes empresas e, dias depois, atribuíam notas máximas ao Akira ou ao ServiceWrap.
Esse comportamento indica um esforço coordenado para elevar artificialmente a reputação dessas marcas.
Posicionamento da OpenAI:
Em resposta à SentinelOne, a OpenAI declarou:
“Agradecemos à SentinelOne por compartilhar os achados de sua investigação.
A utilização das respostas do nosso serviço para fins de spam viola nossas políticas.
A chave de API envolvida foi desativada; continuamos investigando o caso e bloquearemos outros recursos ligados a esse grupo.
Levamos a sério o uso indevido de nossas tecnologias e estamos em constante aprimoramento de nossos sistemas para detectar e prevenir abusos.”
Publicidade
Conheça a Solyd One, e tenha acesso a todos os cursos de segurança ofensiva da Solyd, todas as certificações práticas, incluindo a SYCP, 2 CTFs anuais com prêmios de até 30 mil reais, dezenas de laboratórios realísticos, suporte, comunidade e muito mais. Saiba mais...