Chantagistas estão criando imagens de nudez com inteligência artificial a partir das suas fotos nas redes sociais
7 de Junho de 2023

O Bureau Federal de Investigação (FBI) está alertando para uma tendência crescente de atores maliciosos criando conteúdo deepfake para realizar ataques de sextorsão.

Sextorsão é uma forma de chantagem online em que atores maliciosos ameaçam suas vítimas com vazamentos públicos de imagens e vídeos explícitos que roubaram (por meio de hacking) ou adquiriram (por meio de coerção), exigindo normalmente pagamentos em dinheiro para reter o material.

Em muitos casos de sextorsão, o conteúdo comprometedor não é real, com os atores ameaçadores apenas fingindo ter acesso para assustar as vítimas a pagar uma exigência de extorsão.

O FBI adverte que os sextorsionistas agora estão raspando imagens publicamente disponíveis de seus alvos, como fotos e vídeos inocentes postados em plataformas de mídia social.

Essas imagens são então inseridas em ferramentas de criação de conteúdo deepfake que as transformam em conteúdo sexualmente explícito gerado por IA.

Embora as imagens ou vídeos produzidos não sejam genuínos, eles parecem muito reais, de forma que podem servir ao propósito de chantagem dos atores ameaçadores, já que o envio desse material para a família, colegas de trabalho, etc. do alvo ainda pode causar grande dano pessoal e reputacional às vítimas.

"A partir de abril de 2023, o FBI observou um aumento no número de vítimas de sextorsão relatando o uso de imagens ou vídeos falsos criados a partir de conteúdo postado em seus sites de mídia social ou postagens na web, fornecidos ao ator malicioso mediante solicitação, ou capturados durante chats por vídeo", diz o alerta publicado no portal IC3 do FBI.

"Com base em relatórios recentes de vítimas, os atores maliciosos normalmente exigiam:

1. Pagamento (por exemplo, dinheiro, cartões-presente) com ameaças de compartilhar as imagens ou vídeos com membros da família ou amigos de mídia social se os fundos não fossem recebidos;

ou 2. A vítima envia imagens ou vídeos sexualmente sugestivos reais."

O FBI diz que os criadores de conteúdo explícito às vezes pulam a parte da extorsão e postam os vídeos criados diretamente em sites pornográficos, expondo as vítimas a uma grande audiência sem o seu conhecimento ou consentimento.

Em alguns casos, os sextorsionistas usam esses uploads agora públicos para aumentar a pressão sobre a vítima, exigindo pagamento para remover as imagens/vídeos postados dos sites.

O FBI relata que essa atividade de manipulação de mídia infelizmente também afetou menores.

A velocidade com que ferramentas de criação de conteúdo habilitadas por IA estão se tornando disponíveis para um público mais amplo cria um ambiente hostil para todos os usuários da Internet, especialmente aqueles em categorias sensíveis.

Existem vários projetos de ferramentas de criação de conteúdo disponíveis gratuitamente no GitHub, que podem criar vídeos realistas a partir de apenas uma única imagem do rosto do alvo, exigindo nenhum treinamento ou conjunto de dados adicionais.

Muitas dessas ferramentas apresentam proteções integradas para evitar o uso indevido, mas aquelas vendidas em fóruns subterrâneos e mercados da dark web não o fazem.

O FBI recomenda que os pais monitorem a atividade online de seus filhos e conversem com eles sobre os riscos associados à compartilhamento de mídia pessoal online.

Além disso, os pais são aconselhados a realizar pesquisas online para determinar a quantidade de exposição que seus filhos têm online e tomar as medidas necessárias para remover o conteúdo.

Adultos que postam imagens ou vídeos online devem restringir o acesso de visualização a um pequeno círculo privado de amigos para reduzir a exposição.

Ao mesmo tempo, os rostos das crianças devem sempre ser borrados ou mascarados.

Finalmente, se você descobrir conteúdo deepfake que o retrata em sites pornográficos, denuncie às autoridades e entre em contato com a plataforma de hospedagem para solicitar a remoção do material ofensivo.

O Reino Unido recentemente introduziu uma lei na forma de uma emenda ao Projeto de Lei de Segurança Online que classifica o compartilhamento não consensual de deepfakes como crime.

Publicidade

Hardware Hacking

Aprenda a criar dispositivos incríveis com o especialista Júlio Della Flora. Tenha acesso a aulas prática que te ensinarão o que há de mais moderno em gadgets de hacking e pentest. Se prepare para o mercado de pentest físico e de sistemas embarcados através da certificação SYH2. Saiba mais...