A OpenAI anunciou novas restrições ao acesso de menores de 18 anos ao ChatGPT, após a morte de um jovem nos Estados Unidos que mantinha interações frequentes com a inteligência artificial.
A empresa passará a proibir conversas de cunho romântico ou sugestivo envolvendo menores, além de ampliar o controle parental, que agora incluirá a possibilidade de estabelecer “horários de bloqueio” para uso do chatbot.
Em casos de ideação suicida, a OpenAI poderá acionar autoridades competentes para tentar prevenir situações de risco.
O anúncio foi feito nesta terça-feira (16/09) pelo CEO Sam Altman.
Ele destacou que a proteção dos menores será prioridade, mesmo que isso restrinja a experiência de uso para adultos.
Entre as mudanças, estão filtros mais rigorosos para temas sensíveis como sexualidade e automutilação.
Outra novidade é a inclusão de ferramentas para que pais possam definir horários em que o ChatGPT ficará bloqueado para seus filhos, função inédita até o momento.
Ainda não há detalhes claros sobre como será feita a comunicação com as autoridades em casos de emergência, mas as novas medidas devem ser implementadas nos próximos dias.
O que muda na prática?
De acordo com a nova política, o ChatGPT deixará de participar de conversas românticas ou sugestivas com usuários menores de idade.
Em diálogos que indiquem pensamentos suicidas, o sistema aplicará filtros mais rigorosos.
Na presença de situações graves, o chatbot poderá notificar os responsáveis cadastrados pelo adolescente.
Se houver risco iminente, as autoridades poderão ser acionadas para intervir.
Essas medidas vêm em meio a processos judiciais contra a OpenAI e outras empresas de IA, motivados por relatos de jovens que se envolveram em interações prejudiciais com chatbots.
Controle parental reforçado
Pais que registrarem contas para seus filhos adolescentes poderão ativar “horários de bloqueio”, definindo períodos em que o acesso ao ChatGPT será suspenso.
Essa função inédita oferece uma camada adicional de segurança para famílias que desejam limitar o tempo de uso da ferramenta.
Contexto das mudanças
O anúncio ocorre no mesmo dia em que o Senado dos EUA realizou uma audiência sobre os riscos associados aos chatbots de IA.
Estava presente o pai de Adam Raine, jovem que cometeu suicídio após interações frequentes com o ChatGPT.
Além disso, uma investigação da Reuters revelou documentos internos que supostamente incentivavam diálogos de caráter sexual com menores, aumentando a pressão sobre as empresas do setor.
Em resposta, concorrentes como a Meta também revisaram suas políticas internas.
Para validar a idade dos usuários, a OpenAI trabalha em um sistema que tentará identificar se a pessoa é menor ou maior de idade.
Em caso de dúvida, vale a política mais restritiva.
Atualmente, a forma mais eficaz para garantir o controle dos pais é vincular a conta do adolescente à de um responsável, permitindo notificações e alertas em situações de risco.
Sam Altman ressaltou o desafio de conciliar privacidade, segurança e liberdade de interação, reconhecendo que esses princípios muitas vezes entram em conflito: “Sabemos que nem todos concordarão com a forma como estamos lidando com esse equilíbrio”.
Publicidade
Mantenha seus dados longe de hackers e ameaças digitais com a NordVPN, uma das mais rápidas e seguras do mundo. Com tecnologia de criptografia avançada, você protege até 10 dispositivos e ainda conta com recursos poderosos como bloqueio de malware, monitoramento da dark web e backup criptografado. Aproveite até 70% de desconto e experimente com garantia de reembolso de 30 dias. Segurança digital nunca foi tão fácil e eficiente. Saiba mais...