Nota do editor: este artigo contém descrições de imagens que retratam abuso sexual infantil. A discrição do leitor é fortemente recomendada.
No início do mês passado, a Meta removeu cerca de 50 anúncios publicados no Facebook, Instagram e Threads que continham diretamente material de abuso sexual infantil, conhecido pela sigla CSAM, após uma investigação sobre o conteúdo. Na ocasião, a empresa afirmou que a maior parte dos anúncios abusivos havia sido publicada antes da implementação de novas ferramentas de IA criadas para “detectar e bloquear melhor” anúncios nocivos enviados à plataforma. No entanto, esse sistema de IA não parece ter sido totalmente eficaz.
Em vez de identificar uma queda nesses anúncios abusivos nas últimas semanas, pesquisadores dizem ter encontrado agora centenas de outras peças perturbadoras com cenas sexuais explícitas envolvendo crianças, incluindo algumas idênticas às que a Meta havia removido recentemente. Mais de 250 anúncios adicionais contendo CSAM circularam pelas plataformas de mídia social da Meta desde o início de agosto, segundo pesquisadores do Tech Transparency Project, organização sem fins lucrativos. Diferentemente dos 53 anúncios inicialmente identificados pelo grupo, os pesquisadores conseguiram reconhecer imagens de crianças reais nos novos casos.
Entre os exemplos havia conteúdo sexual retratando uma menor ligada a uma família real europeia, que transformava uma foto divulgada oficialmente em um vídeo de “ato sexual explícito”. Os pesquisadores não divulgaram a identidade da pessoa para proteger a vítima e afirmaram ter acionado autoridades do país. A imagem de origem teria vindo do site oficial de uma família real.
“O que estamos descrevendo aqui não é apenas material de abuso sexual infantil gerado por IA”, afirma Katie Paul, diretora do Tech Transparency Project. Segundo a pesquisadora, algumas imagens parecem ter sido retiradas da internet antes de serem usadas nos anúncios. “Há muito dano envolvido nisso, enquanto a Meta lucra durante o processo.”
No total, os pesquisadores concluíram que a Meta publicou mais de 350 anúncios em vídeo abusivos desde o fim do ano passado, muitos deles com links para aplicativos nocivos de “nudificação” associados a desenvolvedores chineses. Em todos os casos, os pesquisadores denunciaram imediatamente os anúncios às autoridades norte-americanas de proteção infantil e também usaram as ferramentas de denúncia da própria Meta quando os conteúdos ainda estavam no ar e sendo exibidos aos usuários no momento da descoberta. Os pesquisadores também identificaram centenas de outros anúncios relacionados a “nudificação” com conteúdo explícito de adultos nas plataformas da Meta.
Embora os anúncios com abuso infantil tenham sido removidos por violarem as políticas da Meta sobre exploração infantil, exploração de adultos e nudez, todos eles foram publicados originalmente apesar de a empresa afirmar que revisa todos os anúncios exibidos em suas plataformas. Em alguns casos, os pesquisadores do TTP dizem que a Meta levou uma semana para analisar anúncios ao vivo que haviam sido reportados por conter CSAM nas ferramentas da empresa. Nesse período, segundo capturas de tela analisadas pelos pesquisadores, os anúncios acumularam centenas de visualizações adicionais.
Quando alguns anúncios contendo abuso sexual infantil foram removidos, diz o TTP, eles inicialmente não traziam avisos informando que violavam as políticas da Meta sobre abuso sexual infantil. Esses detalhes só teriam sido adicionados depois que a empresa foi questionada sobre a inconsistência.
O conjunto de anúncios em vídeo publicados no Facebook, Instagram, Messenger, Threads e na rede de publicidade mais ampla da Meta desde o fim do ano passado segue padrões semelhantes. Muitos mostram uma imagem aparentemente inofensiva de uma menina pré-adolescente ou adolescente, e apenas um deles continha um menino, segundo os pesquisadores, com textos sobrepostos dizendo que não é “apenas uma foto” e que “não há restrições” sobre o que pode ser feito com a imagem. Quando os anúncios em vídeo, com duração de poucos segundos, começam a tocar, os rostos das crianças são transformados digitalmente em vídeos sexuais explícitos, muitas vezes mostrando-as praticando atos sexuais. Ao clicar, os anúncios direcionavam os usuários para baixar aplicativos de troca de rosto por IA ou de vídeo nas lojas da Apple e do Google. “Essa é a IA que os homens realmente usam”, diziam muitos dos anúncios.
Publicidade
Vibecoding cria 10x mais sistemas, 20x mais vulneráveis. E quem ganha com isso é a galera do hacking ético e pentest. Quer ser pago para invadir sistemas? Então você tem que aprender com a Solyd que são os melhores do Brasil. Saiba mais...