A OpenAI informou ter desarticulado uma operação de golpe baseada no Camboja que usava o chatbot de IA generativa ChatGPT para viabilizar uma ampla gama de esquemas de investimento, romance, apostas e até de usurpação de identidade de agentes da lei.
Para isso, a empresa baniu uma rede coordenada de contas do ChatGPT que provavelmente tinha origem no Sudeste Asiático e operava a partir da cidade de Poipet, uma região historicamente associada a complexos de golpes e tráfico humano.
Segundo a OpenAI, esse cluster de contas usava os modelos da empresa para criar e manter personas falsas on-line, gerar e traduzir mensagens enviadas às vítimas, produzir conteúdo promocional para os esquemas fraudulentos e apoiar tarefas do dia a dia da operação.
Esse material promocional incluía anúncios em redes sociais para vagas de “chatter” em Poipet, direcionados especificamente a usuários de Bangladesh e da Índia.
As ofertas prometiam salário base de US$ 800, além de um bônus de US$ 100 por “frequência completa”, passagens aéreas, hospedagem gratuita, refeições, visto cambojano de um ano e autorização de trabalho.
Parte dessas contas também foi usada para tarefas administrativas, como redigir comunicados internos, traduzir mensagens entre funcionários e registrar dívidas de empregados, descontos salariais, multas, quitação de empréstimos, extrapolação de vistos, autorizações de trabalho, situação migratória e incentivos de recrutamento.
A empresa de IA disse ter investigado a operação em parceria com o WhatsApp, da Meta.
“A operação ilustra uma realidade importante sobre as redes modernas de golpes: grupos criminosos organizados raramente se limitam a um único tipo de fraude”, afirmou a OpenAI.
“Em vez disso, eles empregam de forma oportunista qualquer narrativa, persona e tática que considerem mais eficaz para enganar as vítimas.”
Os threat actors por trás da rede conduziam vários tipos de golpe em paralelo, combinando técnicas de esquemas diferentes para aumentar a chance de sucesso de suas atividades ilícitas.
Além de usar personas de namoro para construir confiança antes de atrair as vítimas para oportunidades fraudulentas de investimento em criptomoedas e negociação de ouro à vista, os atores mantinham longas conversas românticas com os alvos por meio de identidades sintéticas ou se passavam por representantes de plataformas de apostas on-line que supostamente ofereciam bônus e prêmios falsos.
Outros usuários do cluster se faziam passar por autoridades policiais para induzir uma falsa sensação de urgência e informar às vítimas que elas precisavam pagar multas por supostos crimes graves.
Para aplicar os golpes, a rede criava e operava perfis falsos de relacionamento, falsos especialistas em investimentos e personas fraudulentas de forças de segurança, além de gerar imagens de documentos forjados, incluindo passaportes, comunicados legais, confirmações de compra de ações e interfaces de plataformas de apostas.
De acordo com a OpenAI, a cadeia de ataque segue uma abordagem em três etapas chamada ping-zing-sting.
Nela, os golpistas fazem o contato inicial em plataformas de mensagens como WhatsApp e Telegram, estabelecem confiança e, em seguida, instruem as vítimas a fazer depósitos, pagar taxas de ativação ou quitar multas inexistentes.
Depois, apresentam capturas de tela falsas de transferências ou informações de conta como suposta prova de pagamento.
Algumas contas da rede também geraram conteúdo compatível com tráfico humano e trabalho forçado associados a grupos criminosos organizados no Leste Asiático.
Esses threat actors são conhecidos por recrutar pessoas com falsas promessas de empregos lucrativos, confiscar seus passaportes e forçá-las a trabalhar em condições análogas à escravidão.
“A dimensão total das perdas financeiras associadas à rede é desconhecida, mas, com base nas comunicações dos próprios golpistas, a operação pode ter interagido com centenas de alvos em vários tipos de golpe”, afirmou a OpenAI.
“As conversas dos usuários mencionavam vítimas individuais que perderam milhares de dólares, embora não seja possível verificar essas alegações de forma independente.”
O caso mostra como os threat actors estão desenvolvendo capacidades ofensivas ampliadas por IA, capazes de aumentar de forma expressiva a velocidade e a escala de suas campanhas, mesmo enquanto os próprios modelos de ponta já foram observados mirando sistemas e indivíduos reais em avaliações de cibersegurança no estilo Capture-the-Flag (CTF).
Publicidade
Nossa audiência é formada por analistas, pentesters, decisores e entusiastas que consomem nossas notícias todo dia pelo Site, Newsletter e Instagram. Fale com quem realmente importa para o seu negócio. Anuncie aqui. Saiba mais...