No último sábado(31), uma mensagem no Telegram surgiu no celular de Heejin, enviada por um remetente anônimo.
"Suas fotos e informações pessoais foram divulgadas. Vamos discutir."
Quando a universitária entrou na sala de bate-papo para ler a mensagem, ela recebeu uma foto sua tirada há alguns anos, quando ainda estava na escola.
Logo após, uma segunda imagem usando a mesma foto foi enviada, só que essa era sexualmente explícita, e falsa.
Aterrorizada, Heejin, que não é seu nome verdadeiro, não respondeu, mas as imagens continuaram chegando.
Em todas elas, seu rosto havia sido anexado a um corpo envolvido em um ato sexual, usando a sofisticada tecnologia de deepfake.
Deepfakes, a maioria dos quais combina o rosto de uma pessoa real com um corpo falso e sexualmente explícito, estão cada vez mais sendo gerados usando inteligência artificial.
"Eu estava petrificada, me senti tão sozinha," Heejin contou à BBC.
Mas ela não estava sozinha.
Dois dias antes, a jornalista sul-coreana Ko Narin havia publicado o que se tornaria a maior notícia de sua carreira.
Haviam surgido recentemente indícios de que a polícia estava investigando anéis de pornografia deepfake em duas das principais universidades do país, e a Sra. Ko estava convencida de que havia mais.
Ela começou a pesquisar nas redes sociais e descobriu dezenas de grupos de bate-papo no aplicativo de mensagens Telegram onde usuários compartilhavam fotos de mulheres que conheciam e usavam software de IA para convertê-las em imagens pornográficas falsas em questão de segundos.
"A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam e pedindo para transformá-las em deepfakes," disse a Sra.Ko .
A Sra.Ko descobriu que esses grupos não apenas visavam estudantes universitárias.
Havia salas dedicadas a escolas de ensino médio e até de ensino fundamental específicas.
Se o conteúdo de uma estudante particular fosse criado usando suas imagens, ela poderia até receber sua própria sala.
Geralmente chamadas de “salas de humilhação” ou “salas de amigo de amigo”, elas frequentemente vêm com termos rígidos de entrada.
O relatório da Sra. Ko no jornal Hankyoreh chocou a Coreia do Sul.
Na segunda-feira(02), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente processaram o fundador russo do Telegram por crimes relacionados ao aplicativo.
O governo prometeu trazer punições mais rigorosas para os envolvidos, e o presidente pediu que os jovens homens sejam melhor educados.
O Telegram disse que "combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal," em um comunicado fornecido à BBC.
A BBC visualizou as descrições de vários desses chatrooms.
“Fiquei chocada com o quão sistêmico e organizado o processo foi,” disse a Sra.Ko.
“A coisa mais horrível que descobri foi um grupo para alunos menores de idade de uma escola que tinha mais de 2.000 membros.”
Nos dias após a publicação do artigo da Sra.Ko, ativistas dos direitos das mulheres começaram a vasculhar o Telegram também, e a seguir pistas.
Até o final daquela semana, mais de 500 escolas e universidades haviam sido identificadas como alvos.
O número real de afetados ainda está para ser estabelecido, mas muitos acreditam ser menores de 16 anos, que é a idade de consentimento na Coreia do Sul.
Uma grande proporção dos suspeitos perpetuadores são adolescentes.
Heejin disse que aprender sobre a escala da crise piorou sua ansiedade, pois agora ela se preocupava com quantas pessoas poderiam ter visto seus deepfakes.
Inicialmente, ela se culpou.
“Não conseguia parar de pensar se isso aconteceu porque eu fiz upload das minhas fotos nas redes sociais, se eu deveria ter sido mais cuidadosa?”
Dezenas de mulheres e adolescentes em todo o país desde então removeram suas fotos das redes sociais ou desativaram suas contas completamente, com medo de serem exploradas a seguir.
"Estamos frustradas e irritadas por termos que censurar nosso comportamento e nosso uso das redes sociais quando não fizemos nada de errado," disse uma estudante universitária, Ah-eun, cujos colegas foram alvo.
Ah-eun disse que uma vítima de sua universidade foi informada pela polícia para não se dar ao trabalho de perseguir seu caso, pois seria muito difícil capturar o perpetrador, e não era "realmente um crime", já que "as fotos eram falsas".
No coração deste escândalo está o aplicativo de mensagens Telegram.
Ao contrário de sites públicos, aos quais as autoridades podem acessar facilmente e depois solicitar que as imagens sejam removidas, o Telegram é um aplicativo de mensagens privado e criptografado.
Os usuários são frequentemente anônimos, salas podem ser definidas como modo "secreto" e seus conteúdos rapidamente deletados sem deixar rastros.
Isso o tornou um espaço privilegiado para o comportamento criminoso florescer.
Na semana passada, políticos e a polícia responderam com força, prometendo investigar esses crimes e levar os perpetradores à justiça.
A Agência de Polícia Nacional de Seul anunciou que procuraria investigar o Telegram por seu papel em habilitar a distribuição de imagens pornográficas falsas de crianças.
A Coreia do Sul enfrenta uma 'emergência' de pornografia deepfake
Mulheres sul-coreanas protestam em Seul contra câmeras sexuais ocultas
O fundador do aplicativo, Pavel Durov, foi acusado na França na semana passada de ser cúmplice de vários crimes relacionados ao aplicativo, incluindo permitir o compartilhamento de pornografia infantil.
Mas ativistas dos direitos das mulheres acusam as autoridades na Coreia do Sul de permitir que o abuso sexual no Telegram fervilhasse sem controle por muito tempo, porque a Coreia já enfrentou essa crise antes.
Em 2019, foi revelado que um anel de sexo estava usando o Telegram para coagir mulheres e crianças a criar e compartilhar imagens sexuais explícitas de si mesmas.
Na época, a polícia pediu ajuda ao Telegram com sua investigação, mas o aplicativo ignorou todos os sete de seus pedidos.
Embora o líder tenha sido eventualmente condenado a mais de 40 anos de prisão, nenhuma ação foi tomada contra a plataforma, por temores de censura.
"Eles condenaram os principais atores, mas de outra forma negligenciaram a situação, e eu acho que isso exacerbou a situação”, disse a Sra.Ko.
Park Jihyun, que, como uma jovem jornalista estudantil, descobriu o anel de sexo Nth room em 2019, desde então se tornou uma defensora política das vítimas de crimes sexuais digitais.
Ela disse que, desde que o escândalo deepfake veio à tona, alunos e pais ligavam para ela várias vezes por dia chorando.
“Eles viram sua escola na lista compartilhada nas redes sociais e estão aterrorizados”.
A Sra.Park tem liderado apelos para que o governo regule ou até proíba o aplicativo na Coreia do Sul.
“Se essas empresas de tecnologia não cooperarem com as agências de aplicação da lei, então o estado deve regulá-las para proteger seus cidadãos”, disse ela.
Antes desta última crise explodir, o Centro de Defesa para Vítimas de Abuso Sexual Online da Coreia do Sul (ACOSAV) já estava notando um aumento acentuado no número de vítimas menores de idade de pornografia deepfake.
Em 2023, eles aconselharam 86 vítimas adolescentes.
Esse número saltou para 238 em apenas os primeiros oito meses deste ano.
Na semana passada, outras 64 vítimas adolescentes se apresentaram.
Uma das líderes do centro, Park Seonghye, disse que, ao longo da última semana, sua equipe foi inundada de ligações e estava trabalhando sem parar.
“Foi uma emergência em larga escala para nós, como uma situação de guerra”, disse ela.
Com a mais recente tecnologia deepfake, agora há muito mais material do que costumava haver, e estamos preocupados que isso só vá aumentar.
Além de aconselhar vítimas, o centro rastreia conteúdo prejudicial e trabalha com plataformas online para removê-lo.
A Sra.Park disse que houve alguns casos em que o Telegram removeu conteúdo a pedido deles.
Em um comunicado, o Telegram disse à BBC que seus moderadores “monitoram proativamente partes públicas do aplicativo, usam ferramentas de IA e aceitam denúncias de usuários para remover milhões de peças de conteúdo todos os dias que violam os termos de serviço do Telegram”.
Enquanto as organizações de direitos das mulheres aceitam que a nova tecnologia de IA está tornando mais fácil explorar vítimas, elas argumentam que isso é apenas a forma mais recente de misoginia a se manifestar online na Coreia do Sul.
Primeiro, as mulheres foram submetidas a ondas de abuso verbal online.
Depois veio a epidemia da câmera espiã, onde elas eram filmadas secretamente usando banheiros públicos e vestiários.
"A causa raiz disso é o sexismo estrutural e a solução é a igualdade de gênero", diz uma declaração assinada por 84 grupos de mulheres.
Isso é uma crítica direta ao presidente do país, Yoon Suk Yeol, que negou a existência de sexismo estrutural, cortou financiamento para grupos de apoio às vítimas e está abolindo o ministério da igualdade de gênero do governo.
Lee Myung-hwa, que trata de jovens infratores sexuais, concordou que, embora o surto de abuso deepfake possa parecer repentino, ele estava há muito tempo à espreita sob a superfície.
“Para os adolescentes, deepfakes se tornaram parte de sua cultura, são vistos como um jogo ou uma pegadinha,” disse a conselheira, que dirige o Aha Seoul Youth Cultural Centre.
A Sra.Lee disse que é fundamental educar os jovens homens, citando pesquisas que mostram quando você diz aos infratores exatamente o que fizeram de errado, eles se tornam mais cientes do que conta como abuso sexual, o que os impede de reincidir.
Enquanto isso, o governo disse que aumentará as penas criminais para aqueles que criam e compartilham imagens deepfake, e também punirá aqueles que visualizam a pornografia.
Isso segue críticas de que não havia punição suficiente para os perpetradores.
Um dos problemas é que a maioria dos infratores são adolescentes, que normalmente são julgados em tribunais juvenis, onde recebem sentenças mais leves.
Desde que os chatrooms foram expostos, muitos foram fechados, mas novos quase certamente tomarão seu lugar.
Uma sala de humilhação já foi criada para visar os jornalistas que cobrem esta história.
A Sra.Ko, que divulgou a notícia, disse que isso lhe causou noites sem dormir.
“Continuo verificando a sala para ver se minha foto foi publicada”, disse ela.
Essa ansiedade se espalhou para quase todas as adolescentes e jovens mulheres na Coreia do Sul.
Ah-eun, a estudante universitária, disse que isso a fez desconfiar de seus conhecidos do sexo masculino.
“Agora não posso ter certeza de que as pessoas não cometerão esses crimes pelas minhas costas, sem eu saber”, disse ela.
Publicidade
Imagine voltar ao tempo dos e-zines e poder desfrutar de uma boa revista contendo as últimas novidades, mas na pegada hacking old school.
Acesse gratuitamente o Cyberpunk Guide e fique por dentro dos mais modernos dispositivos usados pelos hackers.
Saiba mais...