Já tínhamos informado aqui na semana passada sobre o conteúdo pornográfico criado por IA que utilizava a imagem de Taylor Swift.
Agora, de acordo com informações do jornal The New York Times, o conteúdo obsceno e falso foi rastreado e os atos criminosos parecem ter se originado de um fórum, o popular 4chan.
A Graphika, uma empresa de pesquisa especializada em estudar ações que disseminam desinformação, rastreou as imagens até uma comunidade no 4chan, um fórum conhecido por compartilhar discursos de ódio, teorias da conspiração e, cada vez mais, conteúdo racista e ofensivo criado com auxílio de inteligência artificial.
A Graphika também encontrou um tópico de mensagens no 4chan que incentivava as pessoas a tentar driblar as proteções implementadas por ferramentas geradoras de imagens, incluindo DALL-E da OpenAI, Microsoft Designer e Bing Image Creator.
As instruções para os usuários usarem essas tecnologias na criação de conteúdo obsceno orientavam a compartilhar "dicas e truques para encontrar novas formas de burlar filtros" e também continham mensagens de incentivo, como: "Boa sorte, seja criativo".
Em comunicado, a Graphika anunciou através de uma de suas analistas sênior, Cristina López, que a cantora pop não foi a única a ter imagens obscenas geradas.
Nessa mesma comunidade do 4chan onde a prática começou, outras cantoras, atrizes e figuras políticas teriam aparecido até com mais frequência que Swift no conteúdo inadequado.
"É importante entender a natureza gamificada desta atividade maliciosa para evitar mais abusos na fonte", acrescentou Cristina López, durante o comunicado.
Por alguns dias, o Twitter/X bloqueou pesquisas pelo nome de Taylor Swift.
"Fizemos tudo com muita cautela, para ter certeza de que estávamos limpando e removendo todas as imagens maliciosas", disse Joe Benarroch, diretor de operações comerciais da empresa.
Deepfakes de voz: como a IA engana até 73% das pessoasO que são deepfakes e qual a relação com inteligência artificial?O que é Deep Voice e como se proteger de golpes com voz clonada
Usuários do 4chan responsáveis por criar as imagens falsas da cantora fizeram isso como uma espécie de jogo, disseram os pesquisadores.
Queriam desafiar a si mesmos para ver se conseguiam criar imagens obscenas (e às vezes violentas) de figuras femininas famosas.
As imagens artificiais da cantora saíram do 4chan, se espalharam por diversas plataformas e foram vistas milhões de vezes.
Houve mobilização dos fãs para defender a cantora desses ataques, e os legisladores pediram proteções mais fortes contra imagens criadas por IA.
Publicidade
Passe por todas as principais fases de um pentest, utilizando cenários, domínios e técnicas reais utilizados no dia a dia de um hacker ético. Conte ainda com certificado e suporte, tudo 100% gratuito. Saiba mais...