Pesquisadores da Check Point Research (CPR) identificaram uma tendência preocupante em que cibercriminosos estão se afastando do uso do ChatGPT para adotar modelos de inteligência artificial chineses, como o DeepSeek e Qwen, criados pela Alibaba.
Nessas plataformas de LLM, eles estão produzindo conteúdo malicioso e orquestrando crimes cibernéticos complexos.
Paralelamente, esses indivíduos estão compartilhando estratégias para burlar os mecanismos de controle desses modelos de IA, permitindo a exibição de conteúdo sem restrições ou censura, o que potencializa o uso dessas tecnologias para atividades ilícitas.
Em outro desenvolvimento, o uso da IA pelo FunkSec para potencializar ataques de ransomware evidencia como a segurança de TI está se tornando um assunto prioritário nas agendas das diretorias corporativas.
A prática conhecida como jailbreaking, que refere-se ao processo de eliminar limitações impostas pelos modelos de IA, está se tornando cada vez mais um recurso para esses atores.
Os pesquisadores agora encontram guias detalhados que explicam não somente como realizar o jailbreaking, mas também como evadir sistemas de proteção antifraude e criar malwares.
Qwen e DeepSeek emergem como ferramentas particularmente eficazes para a geração de conteúdo mal-intencionado, com mínimas restrições.
Mesmo com o ChatGPT tendo reforçado seus mecanismos de segurança contra abusos nos últimos dois anos, esses novos modelos parecem oferecer menos barreiras ao uso malicioso, atraindo especialmente aqueles com menor experiência técnica.
Os pesquisadores advertem que, apesar das salvaguardas implementadas no ChatGPT, versões desse modelo sem qualquer forma de censura já podem ser encontradas em variados repositórios online.
Com o crescente interesse pelo DeepSeek e Qwen, é possível que versões desreguladas dessas IAs também comecem a aparecer, ampliando os perigos associados ao seu uso inadequado.
Existem relatos de que o Qwen já está sendo utilizado para o desenvolvimento de infostealers, malwares destinados a roubar informações vitais de usuários incautos.
Além disso, criminosos estão disseminando métodos de jailbreaking para o DeepSeek que possibilitam a manipulação das respostas do modelo, empregando táticas como a estratégia "Faça qualquer coisa agora" e métodos de exploração conhecidos como "Sobreviventes de acidente de avião".
Também foram detectadas conversas sobre o emprego do DeepSeek para contornar sistemas antifraude bancários, indicando um potencial elevado para o cometimento de fraudes financeiras.
Adicionalmente, evidências apontam que os cibercriminosos estão utilizando uma combinação do ChatGPT, Qwen e DeepSeek para aprimorar scripts de distribuição de spam em larga escala, potencializando a eficácia dessas operações maliciosas.
O progresso de modelos como Qwen e DeepSeek ressalta uma tendência alarmante no universo das ameaças cibernéticas, onde ferramentas avançadas são manipuladas para propósitos ilegais.
À medida que os agentes de ameaça empregam técnicas como o jailbreaking para evadir medidas de segurança e desenvolver infostealers, perpetrar fraudes financeiras e disseminar spam, torna-se imperativo que as organizações invistam em defesas proativas e soluções de cibersegurança alimentadas por IA para se resguardarem contra essas novas ameaças emergentes.
Publicidade
Conheça a Solyd One, e tenha acesso a todos os cursos de segurança ofensiva da Solyd, todas as certificações práticas, incluindo a SYCP, 2 CTFs anuais com prêmios de até 30 mil reais, dezenas de laboratórios realísticos, suporte, comunidade e muito mais. Saiba mais...