Dos 37.571 aplicativos criados com o Grok que pesquisadores da empresa de segurança Claroc encontraram na internet, 35.578 podiam ser acessados por qualquer pessoa, sem login, informaram os pesquisadores no dia anterior à publicação do relatório.
Entre eles estavam 24 aplicativos criados por funcionários da rede social X e da xAI, empresa responsável pelo assistente de IA Grok. A maioria dos aplicativos abertos era composta por jogos, páginas de destino e calculadoras, mas cerca de um em cada dez continha dados comerciais internos ou informações pessoais.
Os aplicativos criados por funcionários incluíam um plano confidencial de integração para um novo funcionário de vendas, um mapa de território comercial com 594 contas e uma proposta de publicidade da X para uma agência federal dos Estados Unidos, marcada como confidencial. Segundo os pesquisadores, a xAI retirou do ar os 24 aplicativos de funcionários, mas não os de outros usuários.
Além desses aplicativos, os que estavam abertos continham dados internos de outras 30 organizações identificadas pelos pesquisadores, de setores que vão da construção e energia à saúde e defesa. Dessas organizações, 26 têm mais de 1.000 funcionários e seis estão na lista Fortune 500.
De acordo com a estimativa apresentada no relatório, cerca de 2% dos aplicativos abertos continham informações suficientemente graves para serem classificadas como de risco alto ou crítico.
Entre os dados expostos estavam um diretório pesquisável com mais de 3.500 funcionários de um grupo hospitalar, um resumo sobre um paciente em uma unidade de terapia intensiva, o quadro de turnos em tempo real de um corpo de bombeiros e a folha de ponto de uma empresa contratada. O código desta última mantinha as senhas de todos os funcionários em texto simples.
O Grok consegue criar um aplicativo funcional a partir de uma descrição digitada em uma conversa. Em 19 de agosto, a xAI liberou esse recurso para todos os planos do Grok. O criador de aplicativos por conversa compartilha o nome Grok Build com uma ferramenta separada de programação pelo terminal, cujos envios de repositórios foram noticiados em 14 de julho.
Segundo o anúncio de lançamento da xAI, cada aplicativo publicado recebe seu próprio subdomínio de grok.me, e quem o criou escolhe quem pode acessá-lo.
Nenhum aplicativo fica público até que seu criador clique em “Publicar”. Na conta paga usada pelos pesquisadores, a etapa seguinte oferecia três opções de acesso: “Qualquer pessoa com o link”, “Usuários convidados” e “Somente você”. A opção “Qualquer pessoa com o link” já vinha selecionada.
Essa configuração é importante porque o endereço de um aplicativo não permanece secreto, afirmam os pesquisadores. Ao abrir um aplicativo, o computador do visitante consulta o subdomínio correspondente no DNS. Serviços de DNS passivo registram essas consultas, e qualquer pessoa com uma conta pode pesquisar os registros usando padrões.
O Grok sugere quatro palavras aleatórias como nome para cada aplicativo, e cerca de metade dos nomes encontrados pelos pesquisadores seguia esse padrão. Embora sejam difíceis de adivinhar, esses nomes não protegem um aplicativo quando já aparecem em uma lista pesquisável.
O criador de aplicativos do ChatGPT também atribui um subdomínio próprio a cada aplicativo. Porém, quando os pesquisadores compartilharam um aplicativo nesse serviço, o acesso ficou configurado como “Somente eu” até que alterassem a opção. Segundo eles, um endereço de aplicativo do ChatGPT encontrado em dados de DNS levaria a um aplicativo que apenas seu proprietário poderia abrir.
Os pesquisadores descobriram os nomes dos aplicativos do Grok usando métodos comuns de busca de subdomínios e carregaram a página inicial de cada um uma única vez, sem fazer login.
Para verificar quais proteções o Grok aplica por conta própria, os pesquisadores criaram dois aplicativos de teste com dados fictícios e publicaram ambos com a opção de acesso já selecionada: “Qualquer pessoa com o link”.
O primeiro, uma lista de contatos, recebeu um banco de dados, mas não exigia login. Sem entrar na conta, os pesquisadores adicionaram uma linha usando uma janela de navegação privada, e o visitante seguinte conseguiu vê-la.
O segundo, uma lista de clientes para uma equipe de vendas com quatro pessoas, recebeu botões de login adicionados automaticamente pelo Grok: “Continuar com o Google” e “Continuar com o X”. Mas o código criado pelo Grok incluía na equipe qualquer pessoa que fizesse login, antes de verificar se ela realmente havia sido autorizada. Assim, a verificação sempre era aprovada.
Uma conta do Google não convidada, pertencente a alguém que não era o proprietário, conseguiu acessar o aplicativo, visualizar todos os clientes, editar um registro e apagar outro.
Os pesquisadores realizaram esses testes apenas em seus próprios aplicativos. Eles não verificaram se algum dos aplicativos abertos que encontraram permitiria alterações semelhantes.
No domingo, os pesquisadores enviaram suas descobertas à xAI pelo endereço indicado no arquivo security.txt da empresa, incluindo informações sobre dois aplicativos criados por funcionários. Os outros 22 foram comunicados na segunda-feira.
No dia da publicação do relatório, a empresa ainda não havia respondido à notificação dos pesquisadores, mas havia respondido às perguntas de um jornalista sobre o estudo.
Segundo os pesquisadores, a empresa afirmou que os aplicativos do Grok permanecem privados até que seus criadores os compartilhem. A publicação envolve várias etapas, entre elas a escolha entre “Somente você” e “Qualquer pessoa com o link”, além da aceitação de um aviso legal. As contas de funcionários vêm configuradas como “Somente você” por padrão.
Ainda assim, afirmam os pesquisadores, 24 aplicativos criados por funcionários da xAI e da X estavam abertos a qualquer pessoa.
No relatório, os pesquisadores recomendaram que a empresa definisse “Somente você” como padrão e oferecesse uma opção para limitar o acesso a pessoas com o domínio de e-mail da própria empresa.
Segundo os pesquisadores, a resposta da empresa não informou se ela entraria em contato com os responsáveis pelos outros aplicativos abertos. Eles começaram a enviar mensagens às organizações afetadas por conta própria e, até a publicação do relatório, haviam contatado três. Os pesquisadores omitiram do documento todos os endereços e títulos dos aplicativos.
Em 18 de outubro, os mesmos pesquisadores publicaram um estudo sobre o Muse, que mostrou que páginas compartilhadas pelo agente de IA Muse, da Meta, podiam ser encontradas por meio de DNS passivo. A Meta desativou o compartilhamento e, em 22 de outubro, anunciou uma correção que atribuiu novos endereços aos itens compartilhados.
Como verificar os aplicativos do Grok usados pela sua organização
A Claroc recomenda as seguintes verificações:
- Descubra quais criadores de aplicativos de IA são usados pelos funcionários. Ferramentas como Grok, Lovable, Replit, v0, Bolt, Base44 e Google AI Studio podem ser usadas sem configuração pela equipe de TI ou uma conta corporativa.
- Se tiver acesso a dados de DNS passivo, pesquise os domínios dessas ferramentas e abra os resultados em uma janela de navegação privada.
- Verifique se todo aplicativo do Grok com dados internos está configurado como “Usuários convidados” ou “Somente você” e se uma pessoa desconhecida recebe uma página de erro.
- Tente entrar com uma conta de fora da empresa. Se conseguir, o aplicativo precisa de uma lista de pessoas autorizadas.
- Verifique se os scripts carregados por cada aplicativo contêm nomes, endereços de e-mail ou senhas. Retire do ar os aplicativos que não têm um responsável definido.
Nos testes dos pesquisadores, configurar um aplicativo como “Somente você” fez com que ele retornasse um erro 401 para pessoas desconhecidas, tanto na página quanto nos dados. Ao cancelar a publicação, o aplicativo ficou indisponível em poucos segundos.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Guardsi: qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...