À medida que as ferramentas de IA se multiplicam e passam a ser cada vez mais incorporadas ao desenvolvimento de software em todo o mundo, uma nova pesquisa da empresa de cibersegurança CrowdStrike mostra que atacantes estão mirando ativamente a cadeia de ferramentas de IA para roubar credenciais de acesso, obter acesso mais profundo a um ambiente-alvo, exfiltrar dados sensíveis e até destruir arquivos e sistemas, tudo isso enquanto buscam novas formas de apagar seus rastros.
Os pesquisadores encontraram um worm em atividade durante uma investigação sobre ataques à cadeia de suprimentos de software de IA.
Adam Meyers, vice-presidente sênior de operações contra adversários da CrowdStrike, afirmou que a empresa ainda não atribuiu a atividade a um ator específico, mas que o caso se encaixa em uma evolução mais ampla de como atacantes como o TeamPCP, monitorado pela CrowdStrike como “Altered Spider”, e grupos norte-coreanos estão mirando a cadeia de suprimentos de software de IA.
“Esta é uma das campanhas que vimos e que mostra que essa é uma classe de ataque emergente”, disse Meyers.
“À medida que agentes de codificação de IA se tornam o padrão de desenvolvimento, as ameaças à cadeia de suprimentos evoluem para explorar essas relações de confiança.
Pela primeira vez, estamos percebendo o quanto a IA e a cadeia de ferramentas de IA têm influenciado o ecossistema tecnológico mais amplo.”
O worm identificado pela CrowdStrike atua em etapas.
Primeiro, faz reconhecimento para avaliar o ambiente-alvo.
Em seguida, busca tokens de acesso e outros dados sensíveis, como chaves criptográficas e credenciais de acesso a servidores, que podem ser entregues aos atacantes.
À medida que o malware ganha privilégios, ele se descompacta ainda mais e continua coletando credenciais, especialmente tokens do npm, que dão acesso a servidores importantes de gerenciamento de pacotes de software e a outras capacidades de desenvolvimento, como pull requests.
Quanto mais profundamente o malware penetra no sistema, mais dados sensíveis ele consegue capturar.
Nesse ponto, o malware também pode acionar sua capacidade destrutiva, ou o que Meyers chama de “chave de destruição”, para apagar arquivos ou bloquear o acesso legítimo à infraestrutura comprometida.
O principal achado, porém, é que boa parte da atividade maliciosa do worm acontece em pontos cegos, porque grande parte de seu comportamento imita ações legítimas.
“É como procurar uma agulha em um palheiro, só que este é um palheiro de agulhas”, diz Meyers.
“Isso se parece muito com muita da automação que as organizações usam para criar código, então é muito difícil de detectar.”
Meyers acrescenta que, nesses fluxos de desenvolvimento de software com IA, também é mais difícil reunir os dados que os scanners de segurança e as ferramentas de análise tradicionalmente usam para identificar atividades potencialmente suspeitas.
“Há muita sobreposição de telemetria, porque sistemas legítimos de codificação com IA operam da mesma forma que esse worm, então fica muito difícil distinguir, com a telemetria disponível, o que é legítimo e o que não é”, afirma Meyers.
Para se esconder ainda mais à vista de todos, os autores do worm incluíram atrasos de tempo, fazendo com que diferentes capacidades sejam executadas horas ou até dias depois de a base inicial ser preparada.
Isso torna ainda mais difícil para os defensores estabelecerem a relação de causa e efeito entre determinados eventos e seus resultados.
Meyers diz que a CrowdStrike vem trabalhando em estratégias para conectar mais pontos, mas ressalta que, com a explosão do desenvolvimento de software com IA, há uma necessidade urgente de todos os envolvidos colaborarem em soluções estruturais.
“O espaço de detecção é limitado, porque só uma parte dessa atividade vai realmente gerar algum tipo de sinal de telemetria para analisarmos”, diz Meyers.
“Por isso, fica extremamente difícil determinar o que é comportamento legítimo e o que é comportamento ilegítimo.”
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Guardsi: qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...