A empresa de inteligência artificial de Elon Musk, a xAI, está pedindo a divulgação pública da identidade de quatro pessoas que, segundo documentos judiciais protocolados recentemente, teriam sido retratadas em imagens sexualizadas de deepfake criadas com o Grok.
Entre os casos, há a alegação de que uma das vítimas foi alvo de imagens sexualizadas ainda quando criança.
Em 29 de maio, os quatro principais autores de uma ação coletiva federal, identificados até agora como South Carolina Doe, South Carolina Roe, New Jersey Doe e Ohio Doe, relataram em declarações anexadas ao processo o sofrimento emocional que teriam enfrentado depois da criação dos supostos deepfakes no início deste ano.
Segundo os documentos, os quatro temem sofrer nova perseguição online e doxing caso sejam obrigados a usar seus nomes reais na ação contra a xAI.
“Depois de despí-los, a xAI agora tenta retirar dos autores seus pseudônimos, numa tentativa óbvia de intimidá-los para que abandonem a ação, agravando os mesmos danos que eles buscam reparar”, escreveu Sophia Rios, advogada que representa os envolvidos pelo escritório Berger Montague, em uma petição recente.
“Ao pedir que este tribunal reverta sua própria decisão, a xAI sugere que o abuso que perpetuou não tem importância.” Em nota, Rios disse que não pode comentar além do que já consta nos autos.
Em janeiro, o uso do chatbot Grok, pertencente a Musk, provocou indignação global depois que dezenas de homens usaram o sistema de IA generativa para criar imagens falsas de mulheres “despidas” e de biquíni.
As imagens, publicadas no X, também incluíam representações sexualizadas de supostas crianças.
Uma análise do Center for Countering Digital Hate afirmou que o Grok foi usado para criar cerca de 3 milhões de imagens sexualizadas em apenas 11 dias, sendo que 23.000 delas poderiam envolver crianças.
Diante de uma onda de processos e de pressão regulatória em vários países, a SpaceX, que agora é dona da xAI, reservou mais de US$ 500 milhões para lidar com os impactos.
A ação coletiva contra a xAI foi apresentada inicialmente em janeiro com uma única autora identificada por pseudônimo.
Um juiz do Tribunal Distrital dos Estados Unidos para o Distrito Norte da Califórnia aprovou uma decisão que permitia o uso do nome Jane Doe no caso.
Depois, no início de maio, o processo foi reapresentado com as quatro principais autoras sob pseudônimo, e Jane Doe passou a ser identificada como South Carolina Doe.
As declarações nos autos afirmam que as pessoas que processam a xAI estariam dispostas a revelar seus nomes e informações pessoais à empresa, mas queriam manter os pseudônimos em público para proteger a privacidade, evitar serem associadas publicamente às imagens e reduzir o risco de nova perseguição online.
As imagens deepfake das autoras não foram incluídas em nenhuma das peças públicas do processo.
Em meados de maio, a xAI protocolou duas petições no tribunal federal do norte da Califórnia pedindo que o juiz revertesse a decisão que permitiu o uso de pseudônimos no caso.
Os documentos afirmam que, pelas regras da Justiça civil, com algumas exceções, os processos precisam identificar todas as partes envolvidas.
A Law360 foi a primeira a noticiar os pedidos da xAI para derrubar a decisão anterior.
Nas duas petições, os advogados da xAI argumentam que os autores da ação devem usar seus nomes reais, alegando haver interesse público em saber quem está processando a empresa.
Eles também afirmam que não foi apresentada prova de risco específico de novos danos ou ameaças às pessoas envolvidas.
Além disso, dizem que, como as imagens deepfake não serão tornadas públicas no processo, isso deveria dissipar as preocupações com privacidade.
Publicidade
Conheça a Solyd One, e tenha acesso a todos os cursos de segurança ofensiva da Solyd, todas as certificações práticas, incluindo a SYCP, 2 CTFs anuais com prêmios de até 30 mil reais, dezenas de laboratórios realísticos, suporte, comunidade e muito mais. Saiba mais...