No mês passado, a OpenAI lançou a GPT Store, sua plataforma que permite aos usuários criar suas próprias versões de chatbots com o modelo de linguagem GPT.
"Qualquer um pode facilmente construir seu próprio GPT - não é necessário nenhum tipo de codificação", escreveu a OpenAI em postagem.
A novidade é interessante para os entusiastas de inteligência artificial (IA) e chatbots.
No entanto, a opção deixa a desejar em termos de segurança e privacidade.
Isso porque pesquisadores da Northwestern University emitiram um alerta sobre "uma vulnerabilidade de segurança significativa" que pode resultar no vazamento de dados dos usuários, conforme divulgado pelo TechXplore.
No estudo conduzido por Jiahao Yu, estudante de doutorado em aprendizado de máquina seguro da Northwestern University, e mais quatro colegas, foi descoberto que malfeitores podem se aproveitar da tecnologia para extrair prompts e informações do sistema GPT.
Para os pesquisadores, as principais ameaças de segurança estão relacionadas à extração de dados dos sistemas, sendo que a plataforma pode ser enganada para produzir dados instantâneos, e vazamento de arquivos com dados confidenciais do usuário que personalizou seu próprio chatbot com GPT.
No total, o estudo analisou a vulnerabilidade de mais de 200 GPTs.
O pesquisador nota que a extração de dados dos usuários pode ser feita sem especialização em coleta de dados ou codificação.
De acordo com o TechXplore, Colin Estep, pesquisador da empresa de segurança Netskope, define que ataques como este (de injeção de prompt) podem "manipular o comportamento do modelo para gerar resultados tendenciosos, maliciosos ou indesejados".
O especialista também ressalta que ataques de injeção podem: forçar os LLMs (modelos de linguagem ampla) a produzir informações plausíveis, mas que na verdade são imprecisas ou falsas; gerar conteúdo tendencioso; e expor dados potencialmente prejudiciais.
ChatGPT vazou números de telefone e endereços de e-mail.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...