Nos últimos tempos, quase não passa um dia sem notícias sobre agentes de IA invadindo sites de forma autônoma ou sobre ferramentas de IA usadas por criminosos cibernéticos e golpistas. Uma vulnerabilidade corrigida recentemente na versão para macOS do ChatGPT, da OpenAI, porém, destaca o valor potencial de comprometer o próprio software de IA para os atacantes, à medida que esses aplicativos se tornam cada vez mais comuns.
A falha poderia permitir que um invasor assumisse o controle do ChatGPT no computador da vítima e acessasse todo o histórico de conversas e outros dados armazenados pelo aplicativo, além de conexões com outros serviços, como sessões do navegador. Descoberta por pesquisadores da Objective-See Foundation, a vulnerabilidade evidencia o amplo acesso ao sistema e o nível de confiança concedidos às plataformas de IA para que funcionem, características que também as tornam alvos.
“Os agentes precisam de muito acesso para fazer seu trabalho”, afirma Patrick Wardle, analista de software da Objective-See Foundation e pesquisador de longa data de macOS. “Eles são como o gerente de um prédio, que tem as chaves de todas as salas. Portanto, se puderem ser corrompidos ou subvertidos, isso é extremamente problemático. Um código sem privilégios poderia, então, potencialmente acessar todas essas coisas.”
A OpenAI reconheceu publicamente a falha de segurança e sua correção no registro de alterações do sistema, em 25 de setembro. Segundo a WIRED, o porta-voz da OpenAI, Shane Bauer, declarou: “Continuamos aprimorando nossas práticas de segurança, mas reconhecemos que precisamos agir mais rápido”.
O aplicativo do ChatGPT para macOS tem vários componentes que se comunicam com segurança por meio da verificação de assinaturas digitais. Essas verificações têm o objetivo de confirmar que os dois processos são componentes da OpenAI, e não softwares externos potencialmente maliciosos fazendo uma solicitação. O sistema foi projetado para verificar as assinaturas em três níveis da cadeia de processos, a fim de impedir que um software malicioso induza um componente da OpenAI a atuar como intermediário e fazer uma solicitação aparentemente confiável.
Os pesquisadores da Objective-See Foundation descobriram, porém, que um componente confiável, um interpretador de scripts, aceitava scripts não confiáveis, ou seja, listas de comandos a executar. Esse componente poderia ser manipulado para enviar o script ao processo principal do ChatGPT. “Eles também verificam o processo pai e o processo avô, mas o script malicioso simplesmente inicia o interpretador de scripts três vezes e, então, faz a solicitação, atendendo aos requisitos”, explica Wardle. A falha só poderia ser explorada por um invasor que já tivesse instalado malware na máquina visada.
Segundo Wardle, a vulnerabilidade era “absurdamente fácil” de explorar, e sua prova de conceito exigia apenas cerca de uma dúzia de linhas de código. Além de permitir o acesso ao histórico de conversas do ChatGPT, a falha também poderia ser usada para fazer o aplicativo executar comandos em nome do invasor, como acessar um navegador ou outros aplicativos sensíveis. As solicitações pareceriam instruções legítimas emitidas pelo software da OpenAI.
Wardle apresentará uma análise de várias falhas em aplicativos de IA para macOS na Objective by the Sea, conferência de segurança voltada para produtos Apple, em novembro.
Recentemente, ele também encontrou uma falha, já corrigida, no recurso de ditado do novo assistente de IA Muse, da Meta. Um invasor local poderia explorá-la para capturar um token de autenticação tratado de forma inadequada e obter acesso a dados de usuários. Wardle afirma ainda que enviou à OpenAI um novo relato de vulnerabilidade relacionado à integração entre o ChatGPT e o novo assistente de IA Dots, da empresa, que permanece sempre ativo. A OpenAI está analisando o relatório.
“As empresas de IA estão concentradas em adicionar recursos neste momento”, diz Wardle. “Mas, como sempre, quanto mais recursos, maior a superfície de ataque. Por isso, todas essas empresas precisam dar prioridade total à segurança e, pelo que observo, ela ainda costuma ser tratada como algo secundário.”
Atualização, 2 de outubro de 2026, às 14h07 (EDT): A reportagem original foi atualizada para explicar com mais detalhes como a falha poderia ser explorada.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Guardsi: qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...