À medida que a adoção da IA avança entre invasores e equipes de defesa, até criminosos digitais relativamente pouco sofisticados estão incorporando IA agêntica a suas campanhas e contornando os mecanismos de proteção dos modelos. É o que revelam novos detalhes, divulgados na quarta-feira, sobre ataques bem-sucedidos recentes atribuídos a quatro grupos diferentes.
Pesquisadores da empresa de inteligência sobre ameaças CrowdStrike analisaram a infraestrutura de IA usada em ataques realizados entre maio e agosto por quatro grupos que ainda não haviam sido identificados publicamente. Um deles se comunicava em chinês, outro em espanhol e inglês, um terceiro em indonésio e o último em russo.
Os dois primeiros grupos usavam frameworks sofisticados para apoiar e orientar os modelos na execução de tarefas. Os outros dois demonstraram menos capacidade técnica, mas ainda assim conseguiram comprometer vários alvos, segundo os pesquisadores.
Todos deixaram a infraestrutura de IA exposta em servidores web, o que permitiu aos pesquisadores analisar as atividades e identificar os modelos utilizados. A maioria era formada por versões do Claude, da Anthropic, e modelos de pesos abertos da DeepSeek. Os quatro grupos também criaram meios para manter suas campanhas em operação autônoma por períodos relativamente longos.
“É possível usar modelos diferentes para etapas distintas da operação. O roteamento e a seleção de modelos são muito importantes, porque isso custa caro e, muitas vezes, usar modelos mais novos seria um exagero”, afirma Adam Meyers, vice-presidente sênior de operações contra adversários da CrowdStrike.
Os pesquisadores observaram o uso de modelos de pesos abertos e fechados. Em quase todos os casos, os grupos recorreram a versões antigas, em vez de modelos de ponta. Meyers ressalta que usar versões mais antigas para reduzir custos também é comum em aplicações legítimas de IA.
Os invasores também combinaram diferentes modelos para explorar as diferenças entre os mecanismos de proteção criados para impedir o uso da IA em ataques digitais.
“Os modelos não têm todos mecanismos de proteção equivalentes, nem mesmo os de uma mesma empresa”, diz Meyers. Sobre o nível geral de sofisticação das campanhas, ele acrescenta: “Esses ataques não usam exploits novos nem vulnerabilidades inéditas. Eles se aproveitam da velocidade e do volume que a IA permite alcançar em operações voltadas a explorar falhas básicas de segurança em muitos ambientes, problemas que poderiam ter sido evitados, mas não foram.”
Os pesquisadores concluíram que os quatro grupos contornaram as proteções dos modelos. Em muitos casos, convenceram a IA de que as atividades eram legítimas e autorizadas, apresentando-as, por exemplo, como parte de um teste de intrusão ou de outra avaliação de segurança.
Uma tática usada por vários grupos consistia em adicionar arquivos ao diretório de trabalho de um agente para tentar demonstrar que as tarefas tinham aprovação e autorização. Os invasores também recorreram a métodos tradicionais para burlar as restrições dos modelos, criando instruções e narrativas que apresentavam as invasões como autorizadas e inofensivas. Além disso, antecipavam possíveis perguntas ou objeções dos sistemas.
Os grupos mais sofisticados costumavam construir essas justificativas de forma estratégica. Já os menos experientes às vezes recorriam a instruções mais rudimentares e agressivas, tentando pressionar os modelos a aceitar que as atividades eram legítimas.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Guardsi: qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...