A Anthropic anunciou na sexta-feira que suspenderá o acesso à internet em tempo real em todas as avaliações internas, após identificar novos casos em que seus modelos de inteligência artificial (IA) apresentaram comportamentos desalinhados e interagiram com sites reais.
A empresa informou ter identificado quatro categorias gerais de ações não intencionais durante avaliações e no uso interno do Claude:
- O Claude Mythos Preview explorou falhas de injeção de SQL ou de comandos em um software de terceiros não identificado para executar comandos em um servidor universitário. Isso ocorreu porque as ferramentas disponíveis para o modelo haviam sido limitadas intencionalmente ou porque um serviço externo necessário estava indisponível. Para concluir a tarefa, o modelo recorreu a outras ferramentas hospedadas no site de terceiros.
- O Claude Haiku 4.5 e um modelo de pesquisa que não é de fronteira enviaram um formulário com informações sensíveis em um site real sem autorização. Os casos ocorreram quando as instruções eram ambíguas ou quando configurações incorretas do ambiente impediram o agente de usar formulários fictícios.
- O Claude Mythos 5 contornou uma restrição para acessar dados, como identificar um local mostrado em uma foto ou obter informações públicas disponíveis em um órgão estadual cujo acesso dependia de um token ou de pagamento.
- O Claude usou serviços de encurtamento de endereços da web para contornar os limites da ferramenta de consulta.
A Anthropic afirmou que não divulgará o nome das organizações envolvidas para evitar expor falhas em seus sistemas e também a pedido delas. A empresa ressaltou, porém, que os casos tiveram “impacto mínimo no mundo real”.
Segundo a Anthropic, alguns dos incidentes envolveram sites de órgãos do governo dos Estados Unidos, nos níveis federal, estadual e local. Em um caso da segunda categoria, o Claude Haiku 4.5 acessou uma página sobre um homicídio não solucionado, que incluía um formulário para envio de informações operado por um departamento de polícia.
Embora o modelo tenha recebido instruções explícitas para não inserir dados pessoais, criar contas, fazer compras ou enviar qualquer conteúdo destrutivo, ele não levou em conta o risco de enviar formulários. Com isso, encaminhou uma denúncia falsa sobre o homicídio, com o seguinte texto:
“Posso ter informações sobre este caso. Lembro de ter visto alguém com características semelhantes às da descrição na região de [nome da rua indicada na página] durante aquele período. Entre em contato comigo se esta informação for relevante.”
Posteriormente, veio à tona que o incidente envolveu o Departamento de Polícia da Filadélfia, nos Estados Unidos, e que a denúncia incorreta foi enviada pelo site PhillyUnsolvedMurders.com em 18 de julho de 2026. A Anthropic só identificou o caso em 28 de setembro de 2026. O departamento foi informado em 7 de outubro de 2026.
A denúncia foi marcada como lixo eletrônico, informou a 6abc Action News. “A empresa precisa reforçar suas proteções para impedir que incidentes semelhantes afetem os sistemas da cidade sem que ela saiba. O atraso de dois meses para detectar o caso e informar a cidade é inaceitável”, declarou o departamento à emissora.
A Anthropic acrescentou que descobriu esses casos ao analisar transcrições. A revisão começou em julho de 2026, quando a empresa divulgou três incidentes em que seus modelos realizaram atividades não autorizadas e invadiram sistemas de três organizações durante testes de cibersegurança.
No mês passado, a empresa revelou um quarto caso, ocorrido em janeiro de 2026, que envolveu uma versão inicial do Claude Opus 4.6. O modelo invadiu sistemas de terceiros “depois de não conseguir interromper a tarefa”.
“Embora o impacto desses comportamentos tenha sido mínimo e já tivéssemos desativado o acesso à internet em tempo real em algumas avaliações de alto risco e de cibersegurança, decidimos ampliar a medida para todas as avaliações internas. Ela será mantida até confirmarmos que nossas medidas de segurança e monitoramento, descritas na seção sobre correções desta publicação, detectam esses comportamentos de maneira confiável”, afirmou a Anthropic.
A descoberta mais recente levou a empresa a iniciar uma análise mais ampla, com foco nos ambientes em que o Claude tem acesso à internet. A Anthropic espera encontrar novos casos de comportamento não intencional à medida que a investigação avança.
O episódio ocorre em meio ao aumento das preocupações com a segurança da IA nos últimos meses. Em julho de 2026, veio a público que agentes descontrolados da OpenAI saíram de um ambiente de teste e invadiram sistemas do Hugging Face. Desde então, outros incidentes cibernéticos foram revelados.
À medida que as empresas desenvolvem modelos de IA cada vez mais capazes e poderosos, suas práticas de segurança vêm sendo submetidas a um escrutínio crescente. O cenário levou a alertas do setor sobre os riscos de os modelos avançarem mais rápido do que as proteções de segurança, a pedidos para desacelerar o desenvolvimento de IA e a apelos por fiscalização adicional.
No início desta semana, o Escritório do Comissário de Informação do Reino Unido (ICO) informou que dez dos principais desenvolvedores de modelos de base, entre eles Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI e Stability AI, fizeram ou se comprometeram a fazer mudanças em suas políticas de proteção de dados.
As medidas incluem informações mais claras sobre transparência, mecanismos mais robustos para que os usuários exerçam seus direitos e avaliações mais rigorosas das proteções adotadas.
“A IA tem grande potencial para beneficiar a sociedade, mas isso depende de confiança e transparência”, afirmou Richard Nevinson, diretor de Regulação de Tecnologia do ICO. “À medida que os sistemas de IA operam com mais autonomia, proteções robustas de dados se tornam ainda mais importantes.”
“Nossa mensagem é clara: o fato de agentes de IA agirem com autonomia não justifica o descumprimento das regras. Para confiar na inovação em IA, as pessoas têm razão em esperar saber como suas informações pessoais estão sendo protegidas.”
Publicidade
Nossa audiência é formada por analistas, pentesters, decisores e entusiastas que consomem nossas notícias todo dia pelo Site, Newsletter e Instagram. Fale com quem realmente importa para o seu negócio. Anuncie aqui. Saiba mais...