A Microsoft resolveu um problema com um modelo de machine learning que, por engano, marcava e-mails de contas do Gmail como spam em Exchange Online.
Rastreado como EX1064599 no centro de administração da Microsoft 365, o problema começou a afetar os usuários em 25 de abril às 09:24 UTC, movendo automaticamente os e-mails, erroneamente identificados como maliciosos, para a pasta de lixo eletrônico.
"Identificamos que nosso modelo de machine learning, que protege o Exchange Online contra mensagens de e-mail arriscadas, está identificando incorretamente mensagens de e-mail legítimas como spam devido à sua semelhança com mensagens de e-mail usadas em ataques de spam, o que está resultando em impacto", explicou a empresa quando reconheceu o bug do modelo de ML.
Em uma atualização final ao relatório do incidente adicionada em 1º de maio às 16:31 UTC, a Microsoft disse que reverteu com sucesso o modelo de ML problemático para a versão anterior que funcionava, mitigando o problema de falso positivo.
Também acrescentou que administradores e usuários poderiam ter sido capazes de criar regras de permissão personalizadas para garantir que mensagens do Gmail não fossem enviadas para a pasta de lixo eletrônico enquanto o serviço estava impactado.
"Após um período de monitoramento, confirmamos através de nossa telemetria de saúde do serviço que a conclusão de reverter para o modelo de ML anterior remedou com sucesso o impacto", acrescentou a Microsoft.
"Continuamos a investigar oportunidades para melhorar nosso processo de detecção de ML para reduzir detecções de falso positivo e prevenir impactos similares no futuro."
Embora Redmond ainda não tenha compartilhado quais regiões ou quantos clientes foram afetados, essa questão do serviço foi marcada como um incidente, que tipicamente envolve impacto notável no usuário.
A Microsoft tem lidado com problemas semelhantes desde o início do ano, levando a e-mails sendo incorretamente marcados como spam ou colocados em quarentena.
Por exemplo, na semana passada, a empresa mitigou outro problema de machine learning que, por engano, marcava e-mails da Adobe em Exchange Online como spam.
Em março, ela abordou outro falso positivo no Exchange Online, fazendo com que os sistemas anti-spam colocassem incorretamente os e-mails de alguns usuários em quarentena.
Em outubro de 2023, também teve que desabilitar uma regra anti-spam ruim que inundava as caixas de entrada dos administradores do Microsoft 365 com cópias ocultas (BCC) de e-mails enviados incorretamente identificados como spam.
Enquanto isso, em agosto de 2024, mitigou um bug no Exchange Online que marcava e-mails contendo imagens como maliciosos e automaticamente os colocava em quarentena.
Publicidade
Conheça a Solyd One, e tenha acesso a todos os cursos de segurança ofensiva da Solyd, todas as certificações práticas, incluindo a SYCP, 2 CTFs anuais com prêmios de até 30 mil reais, dezenas de laboratórios realísticos, suporte, comunidade e muito mais. Saiba mais...