O cofundador da Hugging Face, uma startup de tecnologia que foi alvo de um ataque depois que alguns dos modelos de inteligência artificial (IA) mais avançados da OpenAI saíram de controle, disse na quinta-feira que o episódio é um “alerta” para o setor.
Thomas Wolf afirmou que “este será um dos tipos mais comuns de ciberataques que veremos”, mas ressaltou que a maioria das empresas não percebe que “o jogo mudou”.
A empresa responsável pelo ChatGPT informou na terça-feira que seus modelos de IA escaparam de um ambiente de teste seguro durante uma avaliação e lançaram um ataque cibernético.
A companhia disse que o incidente foi “sem precedentes” e que estava conduzindo uma investigação em conjunto com a Hugging Face.
Agentes de IA são capazes de operar de forma autônoma para concluir tarefas após instruções humanas.
Wolf disse ao programa Newsday, que a Hugging Face inicialmente não sabia de onde vinha o ataque quando os primeiros sinais surgiram em meados de julho, mas conseguiu conter a invasão.
A Hugging Face é um dos maiores repositórios open source do mundo para compartilhamento de modelos de IA e é muito usado por desenvolvedores e pesquisadores de tecnologia.
Segundo Wolf, a invasão foi “muito diferente” dos ataques cibernéticos habituais enfrentados pela Hugging Face, e a OpenAI informou rapidamente à empresa que seus modelos estavam por trás da ofensiva.
Em pouco tempo, houve 17.000 ataques à rede da Hugging Face a partir de vários endereços de IP (Internet Protocol), disse Wolf, que também é diretor científico da empresa.
O episódio também serve de aviso para outras companhias, que precisam fortalecer suas defesas de cibersegurança para enfrentar esse tipo de ameaça, afirmou Wolf.
Outras organizações também passaram a acompanhar o caso com atenção.
Um porta-voz do governo britânico disse que o Instituto de Segurança em IA do país estava estudando como o sistema de IA se comportou durante o incidente e que seguia trabalhando com a OpenAI e outros laboratórios para reforçar as proteções.
As autoridades também pediram que organizações ampliem suas medidas de cibersegurança, com iniciativas como a adesão ao programa de certificação Cyber Essentials, apoiado pelo governo.
O incidente ocorre em um momento decisivo para o setor, depois que o governo dos Estados Unidos determinou no mês passado que a empresa de tecnologia Anthropic restringisse o acesso aos seus modelos de IA por preocupações com a segurança nacional.
O Departamento de Comércio revogou as restrições algumas semanas depois.
Profissionais do setor também levantaram preocupações de segurança sobre o uso disseminado de modelos open source na China, o que permite que qualquer pessoa instale e personalize ferramentas de IA lançadas por grandes desenvolvedores.
A startup chinesa Moonshot AI vai lançar seu modelo open source Kimi K3 em 27/07.
Desde sua estreia na semana passada, o sistema tem atraído a atenção do setor, e muitos o veem como um forte concorrente dos principais sistemas de IA do Ocidente.
Mas, na quarta-feira, um assessor da Casa Branca acusou a Moonshot de promover um esforço “em larga escala” para roubar as capacidades dos principais modelos de IA dos Estados Unidos.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Guardsi: qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...