A Microsoft anunciou hoje que firmou uma parceria com a StopNCII para remover proativamente imagens e vídeos íntimos prejudiciais do Bing usando hashes digitais criados pelas pessoas a partir de sua mídia sensível.
StopNCII é um projeto operado pela Revenge Porn Helpline que permite às pessoas criar hashes digitais de suas fotos e vídeos íntimos sem a necessidade de fazer upload da mídia de seu telefone.
A StopNCII, então, adiciona esses hashes a um banco de dados usado para encontrar as mesmas imagens ou similares online, as quais são posteriormente removidas por seus parceiros, incluindo Facebook, TikTok, Reddit, Pornhub, Instagram, OnlyFans e Snapchat.
Em março, a Microsoft compartilhou sua tecnologia PhotoDNA com a StopNCII, permitindo a criação aprimorada de hashes digitais sem que as imagens ou vídeos de uma pessoa deixem seu dispositivo.
"Muito parecida com a tecnologia de hashing que a StopNCII.org já usa (PDQ), a PhotoDNA é um processo adicional que possibilita que imagens prejudiciais identificadas sejam transformadas em uma impressão digital digital, que pode então ser compartilhada com plataformas da indústria para identificar e remover qualquer material de abuso íntimo não consensual", explicou o anúncio de março.
A Microsoft anunciou hoje que tem estado em fase de teste do uso do banco de dados de hashes da StopNCII para remover imagens íntimas dentro do índice de busca do Bing.
Usando esse banco de dados, a Microsoft afirma que tomou medidas em relação a 268.899 imagens até o final de agosto.
O surgimento da inteligência artificial também levou a um aumento na geração de imagens deep fake de nudez a partir de fotos não íntimas compartilhadas online.
Embora essas imagens sejam falsas, podem ser igualmente angustiantes para aqueles que estão sendo explorados.
Um relatório de 2019 da DeepTrace, agora Sensity, mostrou que 96% dos vídeos deepfake na internet são de natureza pornográfica e quase todos apresentavam o uso não consensual da imagem de uma mulher.
Muitas dessas imagens são carregadas como "pornô de vingança", para extorsão ou para gerar receita por sites inescrupulosos.
Infelizmente, imagens geradas por IA tornam mais difícil a correspondência com os hashes do PhotoDNA.
Nesses casos, os afetados devem reportar manualmente as imagens à Microsoft, Google e outras empresas de mídia online.
A Microsoft diz que as pessoas afetadas podem usar sua página de Report a Concern para solicitar que imagens reais ou sintéticas sejam removidas do índice de busca do Bing.
Enquanto o Google não se uniu a esta iniciativa, eles também fornecem diretrizes e uma maneira de remover imagens íntimas do seu índice.
Publicidade
Em 14 de janeiro a Solyd irá revolucionar a forma como pentest e hacking deve ser ensinado. Se inscreva para ser o primeiro a saber das novidades. Saiba mais...