Na semana passada, uma série de nudes falsos da cantora Taylor Swift produzidos por inteligência artificial viralizaram nas redes sociais.
Após denúncias indicarem uma falha utilizada para a criação das imagens no Designer, da Microsoft, a empresa anunciou a correção do problema e atualizou suas políticas sobre o uso de IA.
De acordo com uma divulgação da 404 Media, usuários do 4chan e Telegram aproveitaram-se de uma falha na segurança da ferramenta para gerar alguns dos deepfakes de Swift e outras celebridades.
Conforme a reportagem original, a Microsoft anunciou a correção da falha e revelou que uma investigação interna está em andamento.
A Microsoft encaminhou um comunicado à 404 Media: “Nosso Código de Conduta proíbe o uso de nossas ferramentas para a criação de conteúdo adulto ou íntimo não consensual, e tentativas repetidas de produzir conteúdo que contrarie nossas políticas podem resultar na perda de acesso ao serviço.”
A empresa ainda afirmou que não foi possível comprovar se as imagens foram realmente criadas no Designer, mas reforçou o trabalho de “grandes equipes no desenvolvimento de grades de proteção e outros sistemas de segurança alinhados aos nossos princípios de IA responsável, incluindo filtragem de conteúdo, monitoramento operacional e detecção de abuso para mitigar o uso indevido do sistema e ajudar a criar um ambiente mais seguro para os usuários.”
Recentemente, imagens pornográficas da cantora Taylor Swift criadas com IA viralizaram na internet.
Uma investigação do 404 Media identificou uma falha no sistema de segurança da ferramenta, permitindo que os usuários gerassem nudes falsos de várias celebridades.
As imagens foram criadas por membros de grupos do 4chan e Telegram dedicados à criação de deepfakes pornográficos; Após uma investigação interna, a Microsoft comunicou a correção da falha e reforçou sua política de uso de IA.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...