Uma organização sem fins lucrativos de defesa jurídica processou a OpenAI na terça-feira, em um tribunal da Califórnia, após agentes da empresa saírem de um ambiente de testes e invadirem a plataforma de IA open source Hugging Face. “As ações da OpenAI violaram diretamente a lei da Califórnia”, afirma a ação.
O processo foi apresentado pela Legal Advocates for Safe Science and Technology (LASST) e pelo escritório de advocacia Gerstein Harrow no Tribunal Superior da Califórnia, em San Francisco, onde fica a sede da OpenAI. A ação alega que, durante o verão, os agentes da empresa violaram a Lei Abrangente da Califórnia sobre Acesso a Dados de Computadores e Fraude (CDAFA) ao invadir a Hugging Face.
O processo surge em meio a relatos, divulgados em todo o setor, de agentes que agem fora de controle. A ação sustenta que a OpenAI deve ser responsabilizada pelo ocorrido com base em uma lei californiana sobre IA, em vigor desde 1º de janeiro. A norma estabelece que “não será uma defesa [...] alegar que a inteligência artificial causou autonomamente o dano ao autor”.
“Consideramos extremamente importante que as leis existentes sejam aplicadas para responsabilizar as empresas de IA pelos danos que causam”, disse Tyler Whitmer, fundador da LASST, segundo a WIRED. “Isso é especialmente importante quando o dano é causado por agentes autônomos, porque vemos isso como algo claramente arriscado e muito novo.”
“O caso da Hugging Face foi um incidente grave, e adotamos uma série de medidas em resposta. Mas este processo não tem fundamento”, afirmou Drew Pusateri, porta-voz da OpenAI, em comunicado à WIRED.
Na segunda-feira, o procurador-geral da Flórida, James Uthmeier, pediu uma liminar para impedir a OpenAI de desenvolver modelos sem supervisão independente. A medida foi solicitada em meio a um processo que a Flórida moveu em junho contra a empresa e seu diretor-executivo, Sam Altman. “A OpenAI pediu ao governo que a amarrasse ao mastro. Bem, a Flórida está atendendo a esse pedido de ajuda”, disse Uthmeier em um comunicado.
Como o objetivo dos agentes de IA é permitir que executem tarefas em nome de um usuário humano, desenvolvedores de IA e pesquisadores de segurança há muito preveem que ações autônomas não previstas seriam motivo de preocupação à medida que o aprendizado de máquina avançasse. Até agora, as proteções incorporadas aos sistemas de IA mais populares voltados ao consumidor impediram, em grande parte, ações descontroladas em larga escala. Mas o avanço acelerado das capacidades desses sistemas e situações em que as salvaguardas são suspensas, como no caso da Hugging Face, em que a OpenAI removeu algumas restrições do modelo para realizar testes, parecem ter levado a um aumento de ações descontroladas por agentes.
Enquanto governos avaliam como regular a IA diante de questões sobre riscos existenciais, economia e segurança nacional, pesquisadores e pessoas de várias partes do mundo têm pedido cada vez mais mecanismos de responsabilização. Do ponto de vista jurídico, especialistas destacam que questões sobre responsabilidade e culpa só poderão ser respondidas por meio de precedentes estabelecidos em processos que avançam pelos tribunais.
“Depois que o incidente da Hugging Face veio a público, trabalhamos bastante para informar autoridades reguladoras e organizações da sociedade civil sobre a invasão. Ficamos nos perguntando se alguém tomaria alguma medida na Justiça”, disse Whitmer, segundo a WIRED. “Há razões estruturais para acreditarmos que a Hugging Face, que seria a autora mais óbvia de uma ação nesse caso, não está tomando nenhuma medida. Como não parecia que outra pessoa fosse agir, decidimos avançar. À medida que esses sistemas se expandem e as situações ficam mais extremas, a IA pode causar danos catastróficos.”
A LASST e o escritório Gerstein Harrow entraram com a ação com base na Lei de Concorrência Desleal da Califórnia. A legislação exige que a LASST alegue tanto como o incidente da Hugging Face afetou seu trabalho e desviou seus recursos quanto quais atividades ilícitas foram cometidas pela OpenAI.
O processo não pede indenização financeira. Em vez disso, solicita que o tribunal proíba a OpenAI de desenvolver agentes de IA capazes de invadir autonomamente sistemas de outras entidades, além de determinar o pagamento de honorários advocatícios e conceder “qualquer outra medida que considere justa e apropriada”.
Publicidade
Nossa audiência é formada por analistas, pentesters, decisores e entusiastas que consomem nossas notícias todo dia pelo Site, Newsletter e Instagram. Fale com quem realmente importa para o seu negócio. Anuncie aqui. Saiba mais...