Moxie Marlinspike, defensor da privacidade e criador do aplicativo de comunicação segura Signal, além do protocolo de criptografia open source amplamente usado pelo serviço, afirmou nesta semana que sua plataforma de IA voltada à privacidade, a Confer, começará a incorporar sua tecnologia nos sistemas de IA da Meta.
Todos os dias, bilhões de mensagens trocadas pelo Signal, pelo WhatsApp da Meta e pelo Messages da Apple são protegidas por end-to-end encryption.
Esse recurso, que impede que empresas de tecnologia e qualquer outra pessoa além de quem envia e de quem recebe acessem o conteúdo das conversas, se tornou mainstream ao longo da última década.
Mas, com a explosão da popularidade das plataformas de generative AI, as pessoas agora também trocam bilhões de mensagens por dia com chatbots de IA que não oferecem a mesma proteção, o que facilita o acesso das empresas de IA ao que é discutido.
Isso acontece por design.
Em muitos casos, as plataformas querem treinar seus modelos de IA com o máximo possível de dados dos usuários e dificultam a opção de não permitir o uso dessas informações como training data.
Ainda assim, à medida que chatbots e AI agents se tornam mais capazes, alguns especialistas e empresas passaram a defender sistemas mais restritos e com foco em privacidade.
“À medida que os LLMs continuam conseguindo fazer mais, devemos esperar que ainda mais dados fluam para dentro deles”, escreveu Marlinspike em uma breve publicação no blog sobre sua colaboração com a Meta, divulgada na terça-feira.
“Neste momento, nada desses dados é privado.
Eles são compartilhados com empresas de IA, seus funcionários, hackers, subpoenas e governos.
Como acontece sempre com dados não criptografados, eles inevitavelmente acabarão nas mãos erradas.”
Marlinspike disse que vai “trabalhar para integrar a tecnologia de privacidade da Confer para que ela sustente o Meta AI”.
Ele também ressaltou que a Confer, lançada no início deste ano, continuará operando de forma independente da Meta.
O objetivo do projeto, acrescentou, é oferecer uma tecnologia que “permita que todos tenham o poder total da IA junto com a privacidade total de uma conversa criptografada”.
Em 2016, Marlinspike trabalhou com o WhatsApp, que pertence à Meta, para implementar end-to-end encryption em mais de 1 bilhão de contas ao mesmo tempo.
No último ano, o WhatsApp passou a incluir um chatbot de Meta AI no aplicativo, e esse recurso não conta com a mesma proteção aplicada às conversas individuais.
“As pessoas usam IA de maneiras profundamente pessoais e que exigem acesso a informações confidenciais”, escreveu Will Cathcart, chefe do WhatsApp, na quarta-feira, na plataforma X, ao comentar a parceria com a Confer.
“É importante que construamos essa tecnologia de forma que dê às pessoas o poder de fazer isso com privacidade.”
A adoção de IA criptografada ainda está em fase inicial.
Os esquemas criptográficos usados no end-to-end encryption da comunicação digital tradicional não são facilmente nem diretamente transferíveis para a proteção de dados em generative AI.
No caso da Confer, o projeto ainda é recente, e a publicação de Marlinspike não trouxe detalhes específicos sobre como exatamente a colaboração com a Meta vai funcionar nem quais são os objetivos concretos da integração.
Nem Marlinspike nem a Meta forneceram comentários adicionais à WIRED antes da publicação.
Mallory Knodel, pesquisadora de criptografia da New York University, afirma que seria “ótimo para pessoas que usam chatbots com Meta AI ter confidencialidade e privacidade nessa troca”.
Isso significa, de forma crucial, que a Meta não poderia acessar os dados das conversas com IA para treinamento, diz Knodel, que recentemente publicou, com colegas, um estudo sobre end-to-end encryption e IA.
“Eu realmente espero que mais chatbots de IA adotem essa abordagem.”
As avaliações preliminares de Knodel sobre a Confer indicam que a plataforma não é perfeita, mas representa um exemplo importante de como construir um chatbot de IA privado.
Publicidade
Tenha acesso aos melhores hackers éticos do mercado através de um serviço personalizado, especializado e adaptado para o seu negócio. Qualidade, confiança e especialidade em segurança ofensiva de quem já protegeu centenas de empresas. Saiba mais...