A OpenAI começou a liberar um novo Modo de Isolamento no ChatGPT para contas pessoais elegíveis, com o objetivo de reduzir o risco de exfiltração de dados decorrente de ataques de injeção de prompt.
A funcionalidade foi projetada principalmente para pessoas e organizações que lidam com dados sensíveis e precisam de garantias de proteção mais rigorosas.
O Modo de Isolamento está disponível para usuários conectados nas versões Free, Go, Plus e Pro, além dos planos ChatGPT Business contratados diretamente.
“O Modo de Isolamento é uma configuração avançada de segurança opcional que limita muitas ferramentas e capacidades nos produtos da OpenAI que podem se conectar à web ou a serviços externos”, informou a empresa.
“Ele foi projetado para reduzir o risco de exfiltração de dados por meio de ataques de injeção de prompt, ao restringir solicitações de rede de saída, à custa de desativar ou limitar alguns recursos úteis.”
As proteções têm como objetivo fortalecer a superfície de ataque contra injeções de prompt, que continuam sendo um problema de fronteira e afetam todos os grandes modelos de linguagem, ou LLMs.
Na prática, elas se apoiam em sandboxing e em controles já existentes para combater mecanismos de exfiltração de dados baseados em URL, limitando solicitações de rede de saída que poderiam transmitir informações sensíveis para uma infraestrutura controlada por atacantes.
A ideia não é impedir que injeções de prompt aconteçam.
Também não altera o funcionamento da memória, dos uploads de arquivos ou a capacidade de compartilhar uma conversa.
O objetivo é eliminar caminhos potenciais pelos quais os dados poderiam ser exfiltrados.
Para isso, o Modo de Isolamento desativa os seguintes recursos:
- navegação ativa na web, que fica limitada apenas ao acesso a conteúdo em cache;
- suporte a imagens, tanto para exibir imagens em respostas normais quanto para recuperá-las da web;
- deep research;
- modo agente;
- networking do Canvas, que impede usuários de aprovar código gerado no Canvas para acessar a rede;
- downloads de arquivos, que bloqueiam o download de arquivos para análise de dados.
Ao destacar que o recurso não foi “criado para todos”, a OpenAI também observou que o Modo de Isolamento e o Modo Desenvolvedor não podem ser usados ao mesmo tempo.
Ao ativar um, o outro é desativado.
“O Modo de Isolamento foi projetado para reduzir substancialmente o risco de exfiltração de dados baseada em injeção de prompt no ChatGPT e em produtos compatíveis da OpenAI, mas não garante que a exfiltração de dados não possa ocorrer”, afirmou a empresa.
“O risco ainda pode existir por meio de Apps ativados, combinações imprevistas de capacidades ou técnicas recém-descobertas.”
“O Modo de Isolamento também não impede todos os outros efeitos de ataques de injeção de prompt.
Por exemplo, uma instrução maliciosa escondida em um arquivo enviado ainda pode afetar o comportamento do ChatGPT e gerar uma resposta incorreta.”
A novidade chega no momento em que a OpenAI também lançou um novo recurso de gerenciamento de conta, que permite aos usuários revisar sessões ativas do ChatGPT e encerrar uma sessão específica ou todas elas caso sejam detectados sinais de atividade não autorizada.
A lista de sessões inclui informações sobre o dispositivo, o app usado, a localização aproximada, a data e a hora do login, se o dispositivo é confiável e se aquela é a sessão atual.
Publicidade
Nossa audiência é formada por analistas, pentesters, decisores e entusiastas que consomem nossas notícias todo dia pelo Site, Newsletter e Instagram. Fale com quem realmente importa para o seu negócio. Anuncie aqui. Saiba mais...