A Microsoft alerta que grupos criminosos estão cada vez mais utilizando inteligência artificial (IA) para acelerar ataques, ampliar atividades maliciosas e reduzir barreiras técnicas em todas as etapas de uma ciberameaça.
Segundo um relatório recente de Threat Intelligence da empresa, ferramentas de IA generativa são aplicadas em diversas tarefas, como reconhecimento, phishing, desenvolvimento de infraestrutura, criação de malware e ações pós-comprometimento.
Em muitos casos, a IA auxilia na elaboração de e-mails de phishing, tradução de conteúdos, resumo de dados roubados, depuração de malware e apoio na criação de scripts ou na configuração de infraestrutura.
“Observamos que a maior parte do uso malicioso de IA atualmente envolve modelos de linguagem para geração de texto, código ou mídia.
Os atacantes utilizam IA generativa para criar iscas de phishing, traduzir mensagens, resumir dados confidenciais, desenvolver ou corrigir malware, além de estruturar scripts ou infraestrutura”, destaca a Microsoft.
Segundo a empresa, a IA funciona como um multiplicador de força, reduzindo as dificuldades técnicas e acelerando a execução das ações, enquanto os operadores humanos mantêm o controle sobre objetivos, alvos e estratégias.
Diversos grupos de ameaça já incorporaram IA em suas operações, incluindo os atores norte-coreanos conhecidos como Jasper Sleet (Storm-0287) e Coral Sleet (Storm-1877).
Eles usam a tecnologia para criar identidades, currículos e comunicações convincentes, visando infiltrar-se em empresas ocidentais como trabalhadores remotos e manter acesso após a contratação.
O relatório detalha ainda o uso da IA para auxiliar no desenvolvimento de malware e na criação da infraestrutura dos ataques.
Os criminosos utilizam ferramentas de codificação baseadas em IA para gerar e aperfeiçoar códigos maliciosos, corrigir erros e portar componentes entre diferentes linguagens de programação.
Alguns experimentos indicam o surgimento de malwares habilitados por IA capazes de gerar scripts dinamicamente ou adaptar seu comportamento durante a execução.
A Microsoft também identificou o grupo Coral Sleet empregando IA para criar rapidamente sites falsos de empresas, provisionar infraestrutura e testar suas implantações.
Quando mecanismos de proteção tentam bloquear o uso da IA para essas finalidades, os atacantes recorrem a técnicas de jailbreaking para contornar limitações dos grandes modelos de linguagem (LLMs) e gerar códigos ou conteúdos maliciosos.
Além do uso generativo, pesquisadores da Microsoft perceberam que atacantes começam a experimentar IA agentiva, que realiza tarefas de forma autônoma e se adapta aos resultados obtidos.
Entretanto, atualmente a IA é empregada majoritariamente para suportar a tomada de decisões, não para conduzir ataques totalmente autônomos.
Como muitas campanhas que envolvem trabalhadores de TI dependem do abuso de acessos legítimos, a Microsoft recomenda que as organizações tratem essas ações e outras semelhantes como riscos internos.
Além disso, considerando que esses ataques com IA se assemelham a ciberataques convencionais, a defesa deve focar na identificação de usos anômalos de credenciais, no reforço dos sistemas de identidade contra phishing e na proteção dos sistemas de IA, que podem se tornar alvos futuros.
A Microsoft não está sozinha em notar o aumento do uso de IA por criminosos para facilitar ataques.
O Google também reportou que atores maliciosos abusam da IA Gemini em todas as fases de ciberataques, situação semelhante à observada pela Amazon.
Recentemente, a Amazon e o blog de segurança Cyber and Ramen relataram que um grupo utilizou múltiplos serviços de IA generativa em uma campanha que resultou na invasão de mais de 600 firewalls FortiGate.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...