Após os vazamentos revelados no fim de março, que indicavam que a Anthropic havia desenvolvido um novo e poderoso modelo Claude, a empresa anunciou oficialmente na terça-feira o Mythos Preview.
Junto com o lançamento, também apresentou o Project Glasswing, um consórcio da indústria criado para discutir as implicações de cibersegurança do novo modelo e, de forma mais ampla, o impacto do avanço das capacidades de IA em todo o setor.
O grupo reúne Microsoft, Apple, Google, Amazon Web Services, Linux Foundation, Cisco, Nvidia, Broadcom e mais de 40 outras organizações de tecnologia, cibersegurança, infraestrutura crítica e finanças.
Essas empresas terão acesso privado ao modelo, que ainda não foi disponibilizado ao público.
A proposta é, em parte, dar tempo para que os desenvolvedores das principais plataformas tecnológicas do mundo testem o Mythos Preview em seus próprios sistemas e consigam mitigar vulnerabilidades e exploit chains identificadas em ataques simulados.
De forma mais ampla, a Anthropic afirma que a iniciativa busca acelerar a análise urgente de como as capacidades de IA em toda a indústria estão prestes a transformar as práticas atuais de segurança de software e defesa digital no mundo.
“A verdadeira mensagem é que isso não é sobre o modelo ou sobre a Anthropic”, disse Logan Graham, líder da equipe frontier red team da empresa.
“Precisamos nos preparar agora para um mundo em que essas capacidades estarão amplamente disponíveis em 6, 12 ou 24 meses.
Muitas coisas serão diferentes em segurança.
Muitas das premissas sobre as quais construímos os paradigmas modernos de segurança podem deixar de valer.”
Modelos desenvolvidos e treinados por diferentes empresas têm demonstrado, cada vez mais, capacidade de encontrar vulnerabilidades em código e sugerir mitigações, ou até estratégias de exploração.
Isso inaugura uma nova fase da clássica disputa entre defesa e ataque em cibersegurança, na qual uma ferramenta pode fortalecer defensores, mas também dar vantagem a agentes maliciosos e facilitar ataques que antes eram caros ou complexos demais para serem viáveis.
“O Claude Mythos Preview representa um salto particularmente grande”, afirmou o CEO da Anthropic, Dario Amodei, em um vídeo de lançamento do Project Glasswing divulgado na terça-feira.
“Nós não o treinamos especificamente para ser bom em cyber.
Nós o treinamos para ser bom em code, mas, como efeito colateral de ser bom em code, ele também é bom em cyber.”
Amodei acrescentou no vídeo que “modelos mais poderosos vão surgir da nossa empresa e de outras também.
Então, precisamos de um plano para responder a isso”.
Graham observa que, além da descoberta de vulnerabilidades, incluindo a produção de possíveis attack chains e provas de conceito, o Mythos Preview também é capaz de avançar em desenvolvimento de exploit, testes de intrusão, avaliação de segurança de endpoints, identificação de erros de configuração em sistemas e análise de binários de software sem acesso ao código-fonte.
Ao fazer um lançamento gradual do Mythos Preview, começando por uma fase de colaboração com a indústria, Graham diz que a Anthropic buscou se apoiar nos princípios da coordinated vulnerability disclosure, processo em que desenvolvedores recebem tempo para corrigir uma falha antes que ela seja discutida publicamente.
“Vimos o Mythos Preview realizar tarefas que um pesquisador sênior de segurança seria capaz de executar”, disse Graham.
“Isso tem implicações muito grandes para a forma como capacidades como essa devem ser lançadas.
Se isso for feito sem cuidado, pode se tornar um acelerador significativo para atacantes.”
Os parceiros do Project Glasswing, incluindo alguns concorrentes da própria Anthropic, adotaram um tom colaborativo em suas declarações durante o anúncio.
“A Google está satisfeita em ver essa iniciativa de cibersegurança entre setores ganhando forma”, afirmou Heather Adkins, vice-presidente de engenharia de segurança da empresa.
“Há muito tempo acreditamos que a IA traz novos desafios e abre novas oportunidades na defesa cibernética.”
Publicidade
Nossa audiência é formada por analistas, pentesters, decisores e entusiastas que consomem nossas notícias todo dia pelo Site, Newsletter e Instagram. Fale com quem realmente importa para o seu negócio. Anuncie aqui. Saiba mais...