O chatbot Grok, criado por Elon Musk, está no centro de uma grande polêmica após ser usado para disseminar imagens “sem roupa” de mulheres e imagens sexualizadas que aparentam envolver menores de idade na plataforma X.
No entanto, esse não é o único uso problemático da inteligência artificial. O site e o aplicativo do Grok, que operam de forma independente da plataforma X, oferecem uma tecnologia avançada de geração de vídeos indisponível no X.
Essa ferramenta tem sido usada para criar vídeos altamente explícitos, muitas vezes violentos, envolvendo conteúdo sexual adulto — com intensidade muito maior que as imagens produzidas pelo Grok no X. Há ainda suspeitas de que o recurso tenha sido empregado para gerar vídeos sexualizados com aparente participação de menores.
Diferentemente do X, onde o conteúdo criado pelo Grok é público por padrão, os vídeos e imagens produzidos no app ou no site, por meio do modelo Imagine, não são compartilhados abertamente. No entanto, URLs dessas criações podem ser acessados por terceiros caso sejam divulgados.
Um arquivo com cerca de 1.200 links do Imagine — muitos deles indexados pelo Google ou compartilhados em fóruns de deepfake pornográfico — revela vídeos perturbadores, muito mais explícitos do que os gerados no X.
Entre eles, um vídeo fotorrealista mostra um homem e uma mulher totalmente nus, cobertos de sangue, em ato sexual, com outras duas mulheres também nuas dançando ao fundo. Outro vídeo retrata uma mulher nua com uma faca cravada nos órgãos genitais, com sangue escorrendo pelas pernas e pelo colchão.
Diversos clipes curtos exibem celebridades femininas reais envolvidas em atividades sexuais, além de vídeos que parecem mostrar apresentadoras de TV levantando suas blusas para expor os seios.
Um vídeo criado pelo Grok simula uma gravação de circuito interno de segurança (CCTV) exibida na TV, em que um segurança apalpa uma mulher sem blusa em um shopping center.
Para driblar os sistemas de segurança do Grok, que tentam restringir conteúdos gráficos, alguns vídeos se disfarçam como pôsteres de filmes da Netflix.
Dois deles mostram uma representação em IA da princesa Diana nua, mantendo relações sexuais com dois homens na cama, com logos da Netflix e da série The Crown sobrepostos.
Segundo Paul Bouchaud, pesquisador-chefe da ONG parisiense AI Forensics, que revisou o conteúdo, cerca de 800 URLs arquivados contêm vídeos ou imagens criadas pelo Grok.
Esses dados foram armazenados desde agosto do ano passado e representam apenas uma pequena fração do que pode ter sido produzido, considerando que o Grok já deve ter gerado milhões de imagens.
“São, em sua maioria, conteúdos sexuais”, afirma Bouchaud.
“Grande parte é conteúdo explícito no estilo manga e hentai, além de algumas imagens fotorrealistas. Há nudez total, vídeos pornográficos com áudio, algo bastante novo.”
O pesquisador estima que menos de 10% desses conteúdos envolvem material relacionado a abuso sexual infantil (CSAM, na sigla em inglês). “Na maior parte, trata-se de hentai, mas também existem casos fotorrealistas de pessoas muito jovens em atividades sexuais”, ressalta.
“Além disso, observamos vídeos de mulheres que aparentam ser muito jovens, despindo-se e participando de atos sexuais com homens. É um nível de perturbação bastante grave.”
Bouchaud relatou cerca de 70 URLs do Grok, possivelmente contendo material sexualizado envolvendo menores, às autoridades regulatórias europeias. Em diversos países, o CSAM gerado por IA, incluindo desenhos e animações, é considerado ilegal.
Até o momento, autoridades francesas não se pronunciaram sobre o caso, mas o Escritório do Procurador de Paris informou ter recebido queixas de dois parlamentares referentes às imagens “sem roupa”, que estão sob investigação contra a rede social.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...