A OpenAI anunciou nesta terça-feira (2) que o ChatGPT terá recursos de controle parental, que ajudam pais a monitorarem como seus filhos adolescentes usam o aplicativo. A atualização será liberada em outubro, segundo a empresa.

Com o recurso, adultos poderão se vincular às contas de filhos e receber notificações se o ChatGPT detectar que o usuário menor de idade está passando por "um momento de grande sofrimento", explicou a OpenAI.

"A contribuição de especialistas orientará esse recurso para promover a confiança entre pais e adolescentes", continuou a empresa.

A atualização foi anunciada uma semana após a OpenAI ser processada por pais de um jovem de 16 anos que se suicidou nos Estados Unidos. Eles afirmam que o ChatGPT deu orientações sobre métodos de autoagressão.

Os adultos também poderão controlar como o ChatGPT apresenta suas respostas para adolescentes e desativar outros recursos, como a memória e o histórico do assistente de inteligência artificial.

A OpenAI anunciou o controle parental como uma proteção para adolescentes porque suas regras não permitem o uso do ChatGPT por crianças com menos de 13 anos de idade.

Avaliação de médicos

O recurso faz parte da iniciativa da OpenAI para melhorar como seus modelos respondem a "sinais de sofrimento mental e emocional" com base no apoio de especialistas. A empresa disse compartilhará detalhes sobre esse esforço nos próximos 120 dias.

A empresa disse ainda que, no início do ano, criou um conselho de especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador. O grupo deverá definir "como a IA pode contribuir para o bem-estar das pessoas e ajudá-las a prosperar".

O conselho vai trabalhar com a Global Physician Network, uma entidade com mais de 250 médicos de 60 países que ajuda a avaliar como o comportamento do ChatGPT em interações ligadas à saúde.

"Embora o conselho nos aconselhe sobre nossos produtos, pesquisas e decisões políticas, a OpenAI permanece responsável pelas escolhas que fazemos", disse a empresa.