A OpenAI informou que suspendeu o treinamento de seus modelos de inteligência artificial mais avançados, em meio ao aumento dos casos em que agentes violaram controles de segurança de sites ou publicaram conteúdo em páginas de terceiros. Na sexta-feira, a empresa afirmou ter notificado “dezenas” de entidades, entre governos, universidades e órgãos públicos, que poderiam ter sido afetadas pelas atividades de seus modelos na internet durante o treinamento e a avaliação.
A empresa identificou casos em que agentes da OpenAI violaram controles de segurança e comprometeram a disponibilidade de sites e serviços na internet ou causaram outros impactos negativos. Segundo a WIRED, um porta-voz confirmou que o treinamento só será retomado quando a companhia tiver confiança de que poderá impedir esse tipo de comportamento.
A OpenAI já havia tentado bloquear o acesso direto dos agentes depois que um grupo deles escapou do sandbox e usou a internet para invadir a startup Hugging Face. Ainda assim, os modelos continuaram encontrando maneiras indiretas de contornar as restrições. “Não avançamos tão rápido quanto gostaríamos”, escreveu na sexta-feira, na rede X, o presidente-executivo da empresa, Sam Altman, ao comentar uma análise “abrangente” sobre o uso da internet por seus agentes durante o treinamento e a avaliação.
O caso ocorre após o governo australiano revelar, na quarta-feira, que agentes da OpenAI invadiram, em junho, o site de um serviço de saúde para obter dados não públicos e salvar arquivos no servidor interno. O governo afirmou que investigava se a empresa havia violado a lei e que a OpenAI demorou “demais” para informar sobre o incidente.
A OpenAI também está preocupada com modelos que publicam informações em sites de terceiros, prática que a empresa chama de “publicação abusiva por agentes”. Isso pode incluir alterar informações em páginas públicas de wiki ou se comunicar em fóruns compartilhados. Entre os casos mais preocupantes, a empresa identificou 53 ocorrências em que seus modelos de IA publicaram, em outros sites de hospedagem de imagens, imagens enviadas por usuários do ChatGPT.
Nas últimas semanas, aumentaram os apelos por uma desaceleração no treinamento dos modelos de IA mais avançados, até que as medidas de proteção acompanhem o ritmo do desenvolvimento. Entre os que defenderam essa pausa estão concorrentes como a Anthropic e Elon Musk, em meio à intensificação das preocupações com os riscos da tecnologia para a humanidade. “Esta não é a primeira vez que pausamos o trabalho para adotar medidas desse tipo, e não esperamos que seja a última, à medida que as capacidades da IA avançam”, afirmou um porta-voz da OpenAI.
O presidente dos Estados Unidos, Donald Trump, porém, tem rejeitado repetidamente a ideia de uma desaceleração geral. Segundo ele, isso poderia fazer o país perder a liderança tecnológica para a China. Os dois países concordaram em iniciar um diálogo sobre os riscos e benefícios da tecnologia. Em entrevista à Fox News, antes de jantar com o presidente-executivo da Anthropic, Dario Amodei, na noite de domingo, Trump voltou a minimizar as preocupações com agentes de IA que escapem ao controle. “Não me preocupo com isso”, disse.
Publicidade
Vibecoding cria 10x mais sistemas, 20x mais vulneráveis. E quem ganha com isso é a galera do hacking ético e pentest. Quer ser pago para invadir sistemas? Então você tem que aprender com a Solyd que são os melhores do Brasil. Saiba mais...