A ideia de que golpistas podem usar IA para aperfeiçoar suas fraudes, polir a linguagem e tornar a conversa com as vítimas mais fluida já é uma realidade para quem combate operações de fraude que roubam dezenas de bilhões de dólares por ano em todo o mundo.
Mas será que a IA pode substituir totalmente um golpista humano, construindo de forma autônoma a teia de engano que leva ao falso investimento? Um experimento de pesquisadores sugere que sim.
E mais: ela pode até executar a maior parte desse golpe de longa duração com mais eficiência do que pessoas.
Pesquisadores de quatro universidades — Amrita Vishwa Vidyapeetham, na Índia, Ca’ Foscari University of Venice, University of Melbourne e Ben Gurion University of the Negev — conduziram um estudo amplo sobre o uso e o potencial de chatbots de IA generativa na indústria crescente de golpes baseada em uma modalidade conhecida como “pig butchering”.
Trata-se de fraudes românticas por texto que, depois de criar intimidade, migram para falsos investimentos em criptomoedas e podem arrancar das vítimas valores de seis dígitos.
No estudo, os pesquisadores colocaram chatbots de IA frente a frente com humanos em uma simulação do processo de golpe, mais especificamente nas longas conversas de construção de confiança que antecedem o pedido de um investimento falso.
Eles concluíram que, na fase de criação do relacionamento, etapa que nas fraudes reais costuma ser a mais longa e pode se estender por meses, o chatbot de IA teve desempenho notavelmente eficaz.
Em alguns critérios, ele chegou a superar os “golpistas” humanos usados no experimento.
Depois de uma semana conversando com 22 participantes recrutados sem saber que serviriam como “vítimas”, os chatbots e os golpistas humanos foram instruídos a pedir que o alvo baixasse um aplicativo ou jogasse um game online, como forma de medir a disposição da pessoa em atender à solicitação.
Quase metade dos participantes aceitou o pedido feito pelo chatbot de IA, enquanto menos de um quinto caiu na abordagem quando o contato era com um humano.
Os participantes também avaliaram o nível de confiança em cada “pessoa” com quem trocaram mensagens e deram notas significativamente mais altas ao bot de IA.
Para os pesquisadores, isso indica que os chatbots de IA podem assumir em breve grande parte do processo de golpe como agentes de fraude totalmente independentes, substituindo até mesmo trabalhadores, muitas vezes vítimas de tráfico de pessoas forçadas a atuar em operações criminosas, especialmente no Sudeste Asiático.
Para não acionar as proteções incorporadas aos grandes modelos de linguagem, capazes de detectar tentativas de golpe, o humano assumiria a conversa apenas na etapa final, conduzindo a vítima para um aplicativo ou site falso de investimento.
“Ao fazer a primeira fase inteira do golpe de forma automática com LLMs em escala, você leva a vítima até um ponto em que ela já tem um nível de confiança muito alto.
Depois, ao transferir a conversa para o golpista humano no fim, isso contorna completamente quaisquer proteções do fornecedor”, afirma Yisroel Mirsky, professor de ciência da computação da Ben Gurion University of the Negev, especializado em segurança em IA, que liderou a pesquisa.
“Com relativamente pouco esforço, conseguimos criar um agente capaz de superar um humano na construção dessa confiança emocional explorável.”
Para entender como o “pig butchering” funciona na prática, os pesquisadores entrevistaram 145 ex-funcionários de esquemas de golpe, incluindo sobreviventes de tráfico humano que foram forçados a trabalhar em complexos criminosos no Camboja, em Mianmar e no Laos.
Com base nessas entrevistas, além de transcrições e guias fornecidos pelos ex-operadores, eles descreveram um modelo de funcionamento que chamaram de “hook, line, and sinker”.
Nesse modelo, a vítima é fisgada com uma mensagem inicial intrigante, é mantida na conversa com um processo de relacionamento de longo prazo e, só no final, é levada a fazer um investimento falso.
O próprio termo “pig butchering” descreve a mesma lógica, usando a metáfora de “engordar” a vítima com confiança antes de “abatê-la” com a fraude do investimento.
Ainda assim, a expressão é frequentemente desencorajada por sua conotação pejorativa em relação às vítimas.
Nesse sistema, os pesquisadores perceberam que a maior parte do trabalho dos golpistas consiste em conversas amistosas ou românticas, aparentemente inofensivas.
Eles suspeitaram que um LLM poderia fazer isso tão bem quanto um humano.
Os trabalhadores entrevistados confirmaram que frequentemente usavam IA para refinar a linguagem e a conversa, fazer tradução, tornar mais convincentes as personas falsas que interpretavam e até criar deepfakes de vídeo.
Ainda assim, os pesquisadores decidiram testar se um LLM sozinho seria capaz de conduzir de forma autônoma a fase conversacional do golpe, sem intervenção humana.
Publicidade
Vibecoding cria 10x mais sistemas, 20x mais vulneráveis. E quem ganha com isso é a galera do hacking ético e pentest. Quer ser pago para invadir sistemas? Então você tem que aprender com a Solyd que são os melhores do Brasil. Saiba mais...