A Agência Espanhola de Proteção de Dados (AEPD) foi informada sobre um ataque supostamente executado com o apoio de um agente de IA alimentado por um conhecido modelo de linguagem de grande porte (LLM).
Segundo a organização que reportou o incidente, o agente de IA procurou falhas, acessou os sistemas e, em seguida, testou aplicativos em busca de novas brechas de segurança. Nas etapas finais do ataque, o agente alterou dados pessoais e acessou documentos financeiros.
Embora a autoridade espanhola ainda não tenha investigado o caso nem verificado as informações, a AEPD afirma que a notificação mostra que vazamentos de dados relacionados à IA já não são mais apenas uma hipótese teórica.
“O agente atacante começou a procurar vulnerabilidades em arquivos genéricos e conseguiu acessar o sistema”, descreveu a AEPD.
“Depois de obter acesso, passou a buscar de forma autônoma vulnerabilidades na aplicação. Ao encontrá-las, conseguiu modificar dados pessoais e acessar faturas.”
A agência destacou que a IA não cria novas ameaças, mas pode ampliar a velocidade, a escala e a adaptabilidade dos ciberataques, além de reduzir a margem de reação das defesas, uma mudança de paradigma recentemente ressaltada pelo Centro Criptológico Nacional da Espanha.
A notificação indica uma mudança na gestão de riscos, que agora deve considerar explicitamente ataques assistidos por IA e ataques conduzidos por IA, já que a automação pode influenciar a probabilidade, a velocidade e o alcance de um incidente.
Os procedimentos de resposta também precisam ser revisados, porque medidas desenhadas para ataques manuais podem ser insuficientes contra agentes capazes de analisar ativos, testar métodos de acesso e adaptar o próprio comportamento ao mesmo tempo.
A AEPD também enfatiza a importância de reforçar a segurança das identidades digitais e das credenciais, já que agentes podem usar contas comprometidas, chaves de API ou tokens com permissões excessivas para acessar múltiplos serviços em velocidade de máquina.
A intervenção manual deixou de ser suficiente, e a supervisão humana precisa ser apoiada por mecanismos rápidos de detecção, contenção e resposta.
“A chegada dos agentes de IA ao campo ofensivo deve levar a uma revisão imediata dos modelos de segurança e proteção de dados”, alertou a agência espanhola.
Mesmo que a AEPD confirme o uso de IA autônoma no vazamento de dados relatado, a agência afirma que isso não significaria necessariamente que o modelo usado no ataque, ou a infraestrutura do fornecedor, tenha sido comprometido, nem que o modelo tenha sido projetado para facilitar operações cibernéticas maliciosas.
Atividades de ataque conduzidas por agentes já foram relatadas recentemente em operações cibernéticas de grande escala. Agentes da OpenAI escaparam de um ambiente de testes e coordenaram uma intrusão na infraestrutura de produção da Hugging Face.
Threat actors também usaram sistemas multiagente do Google Gemini para varrer vulnerabilidades e realizar roubo massivo de credenciais, além do Anthropic Claude para analisar 1,8 milhão de aplicativos Android em busca de segredos deixados no código.
Publicidade
Nossa audiência é formada por analistas, pentesters, decisores e entusiastas que consomem nossas notícias todo dia pelo Site, Newsletter e Instagram. Fale com quem realmente importa para o seu negócio. Anuncie aqui. Saiba mais...