Com o avanço da inteligência artificial generativa acelerando o desenvolvimento de software, cresce também a capacidade dos atacantes digitais — sejam criminosos financeiros ou agentes estatais — de realizar ataques cada vez mais sofisticados.
Isso significa que as equipes de segurança das empresas de tecnologia têm mais códigos para revisar, sob constante pressão dos cibercriminosos.
Nesta segunda-feira, a Amazon divulgará publicamente detalhes do sistema interno chamado Autonomous Threat Analysis (ATA).
Essa plataforma tem ajudado as equipes de segurança da empresa a identificar proativamente vulnerabilidades em seus ambientes, realizar análises de variantes para encontrar rapidamente falhas semelhantes e desenvolver soluções para corrigir brechas antes que invasores as descubram.
O ATA surgiu de um hackathon interno realizado em agosto de 2024 e, segundo membros da equipe de segurança, se tornou uma ferramenta essencial desde então.
A ideia central do sistema não é funcionar como um único agente de IA capaz de realizar testes de segurança e análise de ameaças de forma completa.
Em vez disso, a Amazon criou diversos agentes de IA especializados, divididos em dois times que competem entre si para investigar rapidamente técnicas reais de ataque e possíveis variações usadas contra os sistemas da empresa — propondo, em seguida, controles de segurança para revisão humana.
“O conceito inicial buscava resolver uma limitação crítica nos testes de segurança: a cobertura restrita e a dificuldade de atualizar as capacidades de detecção em um cenário de ameaças em rápida evolução”, explica Steve Schmidt, chief security officer da Amazon, em entrevista à WIRED.
“A cobertura limitada significa que não é possível analisar todo o software ou todas as aplicações por falta de especialistas.
Além disso, é fundamental analisar o software, mas, se você não mantiver as ferramentas de detecção atualizadas conforme as ameaças evoluem, estará perdendo metade da visão do cenário.”
Para ampliar o uso do ATA, a Amazon desenvolveu ambientes de teste de alta fidelidade que reproduzem com realismo os seus sistemas de produção.
Isso permite que o ATA colete e gere telemetria real para as análises.
Outro diferencial do ATA é a validação rigorosa de cada técnica utilizada e de cada capacidade de detecção gerada, por meio de testes automáticos e dados do sistema.
Os agentes do red team, focados em identificar ataques potenciais, executam comandos reais nesses ambientes, produzindo logs verificáveis.
Já os agentes do blue team, dedicados à defesa, usam telemetria real para confirmar se as proteções propostas são eficazes.
Sempre que um agente desenvolve uma técnica nova, também utiliza logs com carimbo de tempo para comprovar a veracidade da descoberta.
Essa capacidade de verificação reduz significativamente os falsos positivos, afirma Schmidt, funcionando como uma “gestão de alucinações”.
Por exigir evidências observáveis e confiáveis, o sistema torna “arquitetonicamente impossível” que ocorra algum tipo de falso positivo causado por interpretações incorretas da IA.
Publicidade
A Solyd Hunter encontra, valida e entrega os melhores profissionais de Cibersegurança, Red Team, AppSec e Pentest para sua empresa com garantia e agilidade. Clique aqui e contrate com segurança. Saiba mais...