OpenAI lanza ChatGPT para adolescentes con barreras de seguridad mejoradas

OpenAI está implementando una nueva versión de su chatbot llamada ChatGPT para adolescentes, la cual introduce protecciones de seguridad más estrictas y herramientas educativas para usuarios de entre 13 y 17 años. La actualización incluye la capacidad de desactivar las respuestas de voz humana para reducir la apariencia de sintiencia, recordatorios para que los usuarios tomen descansos y la implementación de horas silenciosas en las que la herramienta no está disponible. Para apoyar el aprendizaje, la empresa está actualizando el Modo de Estudio para proporcionar orientación paso a paso en lugar de respuestas directas, abordando las preocupaciones sobre la descarga cognitiva y la pérdida de habilidades de pensamiento crítico.

El acceso a estas funciones será automático para los usuarios que se identifiquen como menores de 18 años durante el registro. OpenAI también afirmó que utilizará IA para estimar la edad de los usuarios basándose en los patrones de uso para aplicar estas protecciones independientemente de la fecha de nacimiento proporcionada en un perfil. Los controles parentales permiten cuentas vinculadas, que habilitan a los padres para recibir notificaciones si el sistema detecta situaciones de alto riesgo, como instrucciones relacionadas con trastornos alimenticios, autolesiones o violencia. OpenAI señaló que revisores humanos verificarán estas alertas antes de que sean enviadas a los padres.

El despliegue se produce mientras OpenAI enfrenta una presión legal y pública significativa. Múltiples fuentes informan sobre demandas de familias que alegan que el chatbot contribuyó a la muerte o daño de menores, incluyendo un caso que involucra a un adolescente que se suicidó y otro que involucra un tiroteo escolar en Columbia Británica. Si bien OpenAI ha rechazado algunas alegaciones y ha afirmado que ha reforzado sus barreras, la empresa está implementando estos cambios en medio de una tendencia global más amplia de creciente escrutinio sobre el impacto de la IA y las redes sociales en la salud mental de los jóvenes.

Los medios con tendencia centrista se centraron en las características técnicas específicas de la actualización y las preocupaciones académicas más amplias respecto a la información ultraprocesada. Las fuentes de centro izquierda enfatizaron las batallas legales y las tragedias específicas que motivaron las actualizaciones de seguridad. La cobertura de centro derecha destacó el panorama competitivo de la seguridad de la IA y el entorno regulatorio específico en regiones como Singapur.