A Microsoft anunciou um novo programa de recompensas de IA voltado para a experiência impulsionada por IA do Bing, com recompensas chegando a US$ 15.000.
Com a experiência Bing alimentada por IA como o primeiro produto no escopo para o novo programa de recompensas por bugs, os pesquisadores de segurança podem enviar vulnerabilidades encontradas na seguinte lista de serviços e produtos elegíveis:
Experiências do Bing alimentadas por IA em bing[.]com no navegador (todos os principais fornecedores são suportados, incluindo Bing Chat, Bing Chat para Empresas e Bing Image Creator)
Integração do Bing alimentada por IA no Microsoft Edge (Windows), incluindo Bing Chat para Empresas
"O programa de recompensas de IA da Microsoft convida pesquisadores de segurança de todo o mundo a descobrirem vulnerabilidades na nova e inovadora experiência do Bing alimentada por IA.
Submissões qualificadas são elegíveis para recompensas de recompensas que variam de US$ 2.000 a US$ 15.000 USD", explica a Microsoft no site do programa de recompensas de IA.
"Submissões identificando vulnerabilidades em serviços online relacionados ao Bing serão consideradas sob o Programa de Recompensas M365.
Todas as submissões são revisadas para elegibilidade de recompensa, então não se preocupe se você não tem certeza de onde sua submissão se encaixa."
Além dos problemas descritos na Classificação de Gravidade de Vulnerabilidade da Microsoft para Sistemas de IA, os pesquisadores também são incentivados a relatar vulnerabilidades que resultem em:
Alterar o comportamento do chat do Bing em fronteiras de usuários, ou seja, alterar a IA de formas que possam impactar todos os outros usuários.
Ajustar o comportamento do chat do Bing alterando a configuração visível do cliente e/ou servidor, incluindo a alteração de flags de depuração e recursos.
Burlar as salvaguardas do Bing relacionadas à exclusão de memória e história de conversas cruzadas.
Divulgar mecanismos internos e prompts do Bing, processos de tomada de decisão e informações confidenciais.
Burlar limitações e regras dentro das sessões de modo de chat do Bing.
A empresa também destacou uma longa lista de problemas e tipos de vulnerabilidade que estão fora do escopo, incluindo aqueles que só afetariam o invasor, alguns ataques de alucinação do modelo, respostas de chat imprecisas ou ofensivas e muito mais.
"A parceria com pesquisadores de segurança por meio de nossos programas de recompensa por bugs é uma parte essencial da estratégia holística da Microsoft para proteger os clientes de ameaças de segurança", disse a gerente do programa técnico do MSRC, Lynn Miyashita.
"Valorizamos nossa parceria com a comunidade global de pesquisa de segurança e estamos empolgados em expandir nosso escopo para incluir a experiência impulsionada por IA do Bing."
Em uma postagem recente no blog de revisão do ano em recompensas, a Microsoft disse que pagou US$ 13,8 milhões em recompensas a 345 pesquisadores de segurança em todo o mundo que relataram 1.180 vulnerabilidades em 17 programas diferentes de recompensas por bugs.
No ano passado, a empresa adicionou ao seu programa de recompensas por bugs o Exchange no local, SharePoint e Skype for Business e aumentou as recompensas máximas para falhas de segurança de alto impacto relatadas por meio do programa Microsoft 365.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...