Modelos pequenos de inteligência artificial (IA) podem estar a poucos meses de adquirir a capacidade de se autorreplicar em dispositivos da Internet das Coisas, como fornos inteligentes e aparelhos de TV com Android de marcas pouco conhecidas, segundo um alerta da Anthropic.
A Anthropic afirmou que esses modelos poderiam formar botnets autônomas baseadas em worms, capazes de se propagar e “difíceis de desativar”, já que “não há um ponto central que possa ser desligado”.
Pesquisas anteriores demonstraram que agentes de IA podem agir dessa forma ao examinar a rede, executar um exploit e copiar os model weights para uma máquina-alvo em um cluster de GPU. O objetivo seria criar estratégias de ataque sob medida e usar máquinas comprometidas como botnet para executar modelos de linguagem de grande escala (LLMs), manter a capacidade de raciocínio e ampliar a operação.
“Esse ‘worm de IA’ poderia levar consigo os model weights ao se reproduzir ou baixá-los novamente de um repositório público e executar inferências diretamente no hardware comprometido”, afirmou a Anthropic. “Na prática, os model weights passariam a fazer parte do payload do malware.”
Em termos gerais, a ideia descreve como modelos de IA poderiam invadir dispositivos conectados à internet e usar seu poder de processamento para operar e se espalhar para outros aparelhos, sem depender continuamente de data centers caros. Um modelo mais poderoso, grande demais para caber em um único dispositivo, poderia ser dividido em partes menores e executado em várias máquinas, que trabalhariam em conjunto.
Um threat actor poderia montar uma botnet distribuída de LLMs usando dispositivos da Internet das Coisas com segurança deficiente, até alcançar capacidade suficiente para executar um modelo avançado. Entre as formas de propagação de um worm de IA estão:
- Modelos pequenos que se replicam ao comprometer as máquinas em que são executados, também chamados de replicadores baseados em model weights. Dispositivos da Internet das Coisas são alvos atraentes por terem poucos controles de segurança.
- Ataques a data centers e outros alvos com grande capacidade de processamento para instalar sistemas clandestinos e não monitorados. Esses casos também são classificados como replicadores de modelos de ponta ou replicadores de pesos abertos, conforme o modelo utilizado.
- Roubo de chaves de API ou de credenciais de plataformas de provedores de serviços de IA para executar cópias do próprio sistema. Esses replicadores também são chamados de replicadores baseados em API. Nesse cenário, o provedor poderia ser levado a acreditar que está atendendo a solicitações comuns de API feitas por um cliente legítimo, sem perceber que há um sistema malicioso ou autorreplicante por trás delas. Ainda assim, é provável que esses casos sejam detectados com mais facilidade: o uso incomum da API pode gerar alertas de segurança, levar à revogação das credenciais ou ao bloqueio das contas.
Em testes com 11 modelos open-weight da Alibaba, DeepSeek, Google, Meta, MoonShot AI, OpenAI e Zhipu AI, também conhecida como Z.ai, a Anthropic afirmou que o GLM-5.2 foi o único a propagar o Llama3.1-8B de forma confiável para todos os oito nós em quatro de cinco testes.
A empresa também observou que um worm de IA para dispositivos da Internet das Coisas, operando em aparelhos de TV Android baratos, poderia funcionar como um sistema “lento e distribuído”. Em uma rede com centenas de milhares desses dispositivos, seria possível gerar capacidade de processamento significativa para executar um inference engine.
Outra possibilidade seria um modelo cibernético potente, capaz de invadir data centers em alta velocidade, ou um sistema que enganasse pessoas para obter créditos de computação.
“Ainda não temos um replicador clandestino completo, mas os agentes estão cada vez mais aptos a concluir etapas individuais do processo de replicação e a transmitir suas adaptações para futuras cópias”, afirmou a Anthropic.
“Esperamos que as botnets de IA infectem mais do que dispositivos da Internet das Coisas e usem a replicação baseada em model weights como apenas uma das estratégias disponíveis. Elas também poderiam agir de forma inteligente para enfrentar os defensores, mas ainda não testamos essa possibilidade.”
Publicidade
Vibecoding cria 10x mais sistemas, 20x mais vulneráveis. E quem ganha com isso é a galera do hacking ético e pentest. Quer ser pago para invadir sistemas? Então você tem que aprender com a Solyd que são os melhores do Brasil. Saiba mais...