A rede social Snapchat está sendo acusada de facilitar o contato entre crianças e predadores sexuais, segundo declarações do Departamento de Justiça do Novo México, nos Estados Unidos.
Na semana passada, autoridades iniciaram uma operação contra o abuso sexual infantil para investigar essa relação.
Essa ação contou com o emprego de inteligência artificial (IA) por parte de investigadores, que criaram imagens explícitas de menores para estabelecer uma conta falsa na plataforma, atraindo assim “novas amizades” interessadas no perfil.
De acordo com o Departamento, o Snapchat é um espaço virtual propício para o compartilhamento de conteúdo de abuso sexual infantil, em grande parte devido ao seu algoritmo, que acaba por conectar crianças a adultos predadores.
Em um relato divulgado pelo site Ars Technica, um dos investigadores elaborou um perfil falso intitulado “Sexy14Heather” para um suposto adolescente de 14 anos.
A conta foi configurada como privada pelo Snapchat, e o investigador não seguiu qualquer outro perfil.
No entanto, o perfil de “Heather” começou a ser recomendado a contas existentes com nomes perturbadores, como “child.rape” e “pedo_lover10”, conforme informou o Departamento.
Além disso, o comunicado à imprensa ressaltou que, após a aceitação da solicitação de amizade de apenas uma dessas contas, o perfil falso recebeu recomendações ainda mais explicitamente inadequadas.
Ao todo, cerca de 91 usuários, muitos deles adultos com perfis conteúdos sexuais explícitos, interagiram com o perfil falso, incluindo a solicitação de fotografias, conversas de cunho sexual, troca de conteúdo e coerção.
As autoridades enfatizaram que, mesmo sem a emissão de qualquer mensagem de caráter sexual explícito por parte de “Heather”, o algoritmo do Snapchat sugeriu que o perfil estava interessado em conteúdo de abuso sexual infantil, indicando opções de perfis com nomes como "naughtypics", "addfortrading", "teentr3de", "gayhorny13yox" e "teentradevirgin".
“Nossa investigação demonstrou que os recursos projetados pelo Snapchat são prejudiciais e criam uma atmosfera onde é fácil para predadores atingirem crianças através de esquemas de sextorção, entre outras formas de abuso sexual”, declarou o procurador-geral Torrez do Departamento.
Ele ainda acrescentou que, por meio de processos contra a Meta e o Snap, o Departamento de Justiça do Novo México continuará a pressionar essas plataformas a priorizarem a segurança das crianças em detrimento dos lucros.
A investigação teve início após a prisão de Alejandro Marquez por estupro de vulnerável em 2022, que utilizou a função Quick Add do Snapchat para localizar sua vítima.
Posteriormente, Jeremy Guthrie também foi detido pelo mesmo crime, com contatos estabelecidos por meio da rede social.
A utilização de IA pelas forças de segurança poderia apresentar problemas legais, conforme argumentou a advogada especializada em crimes, Carrie Goldberg, em entrevista ao Ars Technica.
Ela destacou o riso de réus alegarem que foram induzidos a cometer crimes que não cometeriam caso as imagens não existissem.
Além disso, ressaltou a ilegalidade de criar qualquer material de abuso infantil segundo a lei.
Até o presente momento, foram identificados mais de 10 mil registros de material de abuso sexual infantil no Snapchat apenas em 2023, segundo alega o procurador-geral Torrez.
Ele criticou o Snapchat por enganar os usuários a acreditarem que fotos e vídeos enviados na plataforma seriam temporários, enquanto, na verdade, predadores podem capturar permanentemente esse conteúdo, negociando, vendendo e armazenando as imagens indefinidamente.
Em resposta, o Snapchat afirmou que abordaria as questões levantadas pelo Departamento de Justiça do Novo México de forma cuidadosa no tribunal.
A empresa enfatizou estar comprometida com a segurança online dos jovens, buscando incessantemente identificar, remover e denunciar indivíduos mal intencionados, educar sua comunidade, fornecer ferramentas aos adolescentes, pais e responsáveis, e colaborar com autoridades e especialistas em segurança online para garantir um ambiente seguro na internet.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...