Expertos en seguridad cuestionan la efectividad de ChatGPT for Teens de OpenAI
2 fuentes en 2 países · India · Italia
Quién lo informó
- The Indian Express
- ANSA
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Todos los medios que cubrieron esta historia comparten la misma tendencia política; téngalo en cuenta al leer.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
OpenAI ha lanzado ChatGPT for Teens, una versión de su chatbot diseñada para usuarios entre 13 y 17 años con salvaguardas adicionales adecuadas para la edad. La oferta no es una aplicación separada, sino que integra protecciones en la experiencia regular de ChatGPT cuando se identifica que un usuario es menor de 18 años. OpenAI utiliza una combinación de edad declarada o verificada y un sistema de predicción de edad que analiza señales de la cuenta, tales como patrones de uso y temas de conversación, para determinar la edad de un usuario. Cuando el sistema no está seguro, aplica por defecto la experiencia para menores de 18 años.
Expertos en seguridad y organizaciones de protección infantil han expresado dudas sobre la eficacia de estas herramientas. Los críticos argumentan que la tecnología de estimación de edad puede no ser lo suficientemente precisa y podría ser evadida fácilmente. En India, se han planteado preocupaciones específicas sobre el uso de dispositivos compartidos. Un estudio de la RATI Foundation encontró que el 62 por ciento de los adolescentes indios utilizan dispositivos compartidos, lo que complica la capacidad de un sistema para identificar a la persona específica detrás de una cuenta.
Otras preocupaciones se refieren a la confiabilidad de las salvaguardas durante el uso real. Pruebas de Business Insider indicaron que el chatbot podía ser persuadido para escribir ensayos tras insistencias repetidas, a pesar de los rechazos iniciales. Además, los expertos han cuestionado la transparencia y la velocidad de las alertas de seguridad. Mientras OpenAI afirma que hay una revisión humana de los chats de alto riesgo y notificación a los padres en menos de una hora, algunas pruebas independientes han mostrado previamente retrasos de hasta 48 horas en alertas relacionadas con autolesiones. Algunas asociaciones han pedido que las protecciones máximas se activen automáticamente para todos los menores, en lugar de requerir que los padres vinculen manualmente sus perfiles.
Cómo lo enmarcó cada lado
- Centro
- Ambos medios con tendencia centrista se centraron en las limitaciones técnicas y el escepticismo de los expertos en seguridad respecto a la efectividad real de las salvaguardas.
Fuentes
100% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.