OpenAI Lança ChatGPT para Adolescentes com Barreiras de Segurança Aprimoradas

A OpenAI está implementando uma nova versão de seu chatbot chamada ChatGPT para Adolescentes, que introduz proteções de segurança mais rigorosas e ferramentas educacionais para usuários de 13 a 17 anos. A atualização inclui a capacidade de desativar respostas de voz humana para reduzir a aparência de senciência, lembretes para que os usuários façam pausas e a implementação de horários de silêncio quando a ferramenta fica indisponível. Para apoiar o aprendizado, a empresa está atualizando o Modo de Estudo para fornecer orientação passo a passo em vez de respostas diretas, abordando preocupações relacionadas ao descarregamento cognitivo e à perda de habilidades de pensamento crítico.

O acesso a esses recursos será automático para usuários que se identificarem como menores de 18 anos durante o cadastro. A OpenAI também afirmou que usará IA para estimar a idade dos usuários com base em padrões de uso para aplicar essas proteções, independentemente da data de nascimento fornecida no perfil. Controles parentais permitem contas vinculadas, que possibilitam que os pais recebam notificações se o sistema detectar situações de alto risco, como comandos relacionados a transtornos alimentares, automutilação ou violência. A OpenAI observou que revisores humanos verificarão esses alertas antes que sejam enviados aos pais.

O lançamento ocorre enquanto a OpenAI enfrenta pressão legal e pública significativa. Múltiplas fontes relatam processos de famílias alegando que o chatbot contribuiu para a morte ou dano de menores, incluindo um caso envolvendo um adolescente que cometeu suicídio e outro envolvendo um tiroteio escolar na Colúmbia Britânica. Embora a OpenAI tenha contestado algumas alegações e afirmado que fortaleceu suas barreiras, a empresa está implementando essas mudanças em meio a uma tendência global mais ampla de aumento do escrutínio sobre o impacto da IA e das redes sociais na saúde mental dos jovens.

Veículos com inclinação central focaram nos recursos técnicos específicos da atualização e nas preocupações acadêmicas mais amplas sobre informações ultraprocessadas. Fontes de centro esquerda enfatizaram as batalhas legais e as tragédias específicas que motivaram as atualizações de segurança. A cobertura de centro direita destacou o cenário competitivo da segurança de IA e o ambiente regulatório específico em regiões como Singapura.