A OpenAI lançou uma nova ferramenta de controle parental para o ChatGPT, permitindo que pais e responsáveis monitorem e gerenciem o uso da plataforma por adolescentes.
A atualização, disponibilizada a partir desta segunda-feira (29/09), traz recursos como restrição de conteúdo, bloqueio em horários específicos, desativação de funcionalidades e alertas sobre temas sensíveis.
Essa iniciativa surge após críticas e processos judiciais relacionados à morte de um adolescente de 16 anos que usava o chatbot.
O caso ganhou repercussão quando a família revelou que o jovem manteve uma conversa prolongada com a IA, inclusive para elaborar uma carta de despedida antes de tirar a própria vida.
Para ativar os novos recursos, é necessário que os pais enviem um convite para vincular suas contas às dos filhos, com consentimento mútuo.
Depois do vínculo feito, é possível acessar uma nova seção chamada “Controle Parental” no menu do ChatGPT, onde a experiência do adolescente pode ser personalizada e monitorada.
Um dos destaques é o sistema de notificações que alerta os pais em caso de conversas envolvendo automutilação, suicídio ou outros temas delicados.
Quando o sistema identifica esses sinais, uma equipe humana de moderadores analisa o conteúdo.
Caso haja risco, os responsáveis recebem um alerta por e-mail, SMS ou notificação no aplicativo.
Se a ameaça for grave e os pais não puderem ser contatados, a OpenAI pode acionar autoridades locais.
Segundo a revista Wired, as notificações chegam em poucas horas após a identificação do problema.
No entanto, os alertas não mencionam explicitamente suicídio nem exibem o conteúdo da conversa, protegendo assim a privacidade do adolescente.
Em entrevista, Lauren Haber Jonas, chefe de bem-estar juvenil da OpenAI, destaca que o alerta informa genericamente sobre o risco, acompanhando sugestões de especialistas em saúde mental para que os pais abordem o assunto de forma adequada.
Além dos alertas, os pais ganham ferramentas para controlar o acesso, tais como:
- Restrição de conteúdo sensível: conteúdos gráficos, desafios perigosos, roleplay sexual ou violento e ideais de beleza extremos são filtrados automaticamente nas contas de adolescentes.
- Horários de restrição: possibilidade de bloquear o uso do ChatGPT em períodos determinados, como durante aulas ou à noite.
- Desativação de funcionalidades: permite desligar recursos como o modo de voz, geração de imagens e a função “Memory”, que armazena dados de conversas anteriores.
- Privacidade: os pais podem optar por impedir que as interações do adolescente sejam utilizadas para o treinamento dos modelos de IA da OpenAI.
A empresa também anunciou que está desenvolvendo uma tecnologia capaz de prever a idade dos usuários automaticamente, semelhante ao que o YouTube implementou, para aplicar as configurações de segurança exigidas a menores de 18 anos sem a necessidade de vinculação manual.
Essa atualização reflete um passo importante da OpenAI no esforço de proteger seus usuários mais jovens, respondendo a demandas por maior responsabilidade e segurança no uso da inteligência artificial.
Publicidade
Conheça a Solyd One, e tenha acesso a todos os cursos de segurança ofensiva da Solyd, todas as certificações práticas, incluindo a SYCP, 2 CTFs anuais com prêmios de até 30 mil reais, dezenas de laboratórios realísticos, suporte, comunidade e muito mais. Saiba mais...