Em 2020, a empresa de reconhecimento facial Clearview AI ficou conhecida por extrair mais de 3 bilhões de fotos da internet para transformar rostos em nomes para policiais e profissionais de segurança. Agora, a companhia está testando novamente a coleta de dados na web, desta vez com o uso de IA para ajudar autoridades a preencher as lacunas entre o nome de uma pessoa e sua identidade completa: quem ela é, com quem se relaciona, onde mora e o que deixou para trás online.
A Clearview desenvolveu e testou discretamente o que descreve como um “assistente analista” experimental de IA. Chamado InquiryIQ, a ferramenta ainda não foi lançada e foi projetada para receber informações encontradas por um investigador em uma busca da Clearview e, a partir daí, vasculhar automaticamente a web, abrir páginas, analisar imagens e reunir o que encontrar em um perfil com possíveis empregadores, apelidos, associados e características físicas da pessoa investigada pela polícia.
A interface do InquiryIQ informa que fornecer idade, gênero e raça pode ajudar o sistema a tomar “decisões mais inteligentes” durante as buscas, de acordo com o código da ferramenta analisado. Um dos modelos testados pela empresa para alimentar essas decisões vem da SpaceXAI, empresa de Elon Musk por trás do Grok. SpaceX e xAI se fundiram em fevereiro. Musk tem apresentado o Grok como uma alternativa a sistemas de IA supostamente “woke”, e o chatbot já chamou atenção repetidas vezes por respostas racistas, extremistas e inflamatórias. Não está claro como a SpaceXAI usaria esses dados demográficos nem de que forma eles poderiam influenciar os resultados, e a Clearview recusou-se a especular.
Especialistas afirmam que o InquiryIQ e ferramentas semelhantes podem transformar investigações policiais ao comprimir dias ou semanas de trabalho investigativo em minutos. Essa velocidade pode ajudar a resolver crimes mais rapidamente, mas também reduz o custo de varreduras indiscriminadas, tornando viável examinar pessoas que, de outra forma, talvez nunca fossem alvo de investigação. E, como a IA generativa pode produzir respostas diferentes a partir do mesmo ponto de partida, dizem eles, pode ser difícil reconstruir por que o sistema seguiu uma pista em vez de outra.
A Clearview afirmou que o InquiryIQ é um protótipo que nunca foi apresentado nem entregue a clientes e que, atualmente, não há planos para lançá-lo na forma em que se encontra. A empresa também contesta a ideia de que a ferramenta funcione como um investigador automatizado. Em vez disso, descreve o InquiryIQ como uma forma limitada de automatizar as buscas na web que detetives já realizam. Em entrevista, o CEO Amos Kyler afirmou que as opções de modelos da SpaceXAI e de outras empresas visíveis na interface foram incluídas para que os engenheiros da Clearview pudessem comparar o desempenho de diferentes modelos durante os testes, e não para que a polícia escolhesse qual modelo conduziria a pesquisa. “Nenhum usuário da polícia jamais usou isso, ponto final”, disse Kyler.
O InquiryIQ foi identificado em arquivos que a página de login da Clearview envia ao navegador de qualquer visitante antes do acesso. A mesma técnica permitiu anteriormente identificar o OS Investigate, uma ferramenta de busca alimentada por IA em desenvolvimento pela Flock Safety, e reconstruir uma versão de demonstração de sua interface a partir de arquivos publicamente acessíveis.
Os arquivos da Clearview também contêm código e milhares de linhas de texto da interface do usuário, incluindo instruções, alertas e descrições de recursos que mostram como a empresa projetou e descreveu o InquiryIQ. Eles não revelam exatamente o que acontece dentro dos servidores da Clearview, quão bem a ferramenta funciona ou quem a utilizou. Segundo o texto, o InquiryIQ foi criado para “descobrir e enriquecer automaticamente dados pessoais a partir de fontes da web”.
A Clearview afirma que a aparente completude da interface do InquiryIQ não deve ser confundida com um produto próximo do lançamento. A empresa diz que as ferramentas modernas de IA tornaram muito mais rápido construir protótipos sofisticados e que a orientação aos engenheiros da Clearview é avançar com esses protótipos rapidamente, porque agora isso é possível.
Publicidade
Exclusivo para leitores do CaveiraTech, de R$ 89 por R$ 49/mês, para sempre. Hospedado em São Paulo com AntiDDoS, backup grátis e BGP grátis. Use Linux, Windows ou BSDs. Valide seu projeto agora sem dor de cabeça, sem IOF e com pagamentos via Pix. Ativação em 120s. Saiba mais...