OpenAI anuncia el modelo Astra con capacidades críticas de ciberseguridad
4 fuentes en 4 países · Brasil · Francia · Reino Unido · Estados Unidos
Quién lo informó
- Folha de S.Paulo
- Le Monde
- Reuters
- WIRED
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
OpenAI anunció el martes que su próximo modelo de IA, Astra, ha alcanzado un umbral crítico de capacidades de ciberseguridad. La empresa afirmó que Astra es el primero de sus modelos capaz de encontrar y explotar de forma independiente vulnerabilidades previamente desconocidas en sistemas informáticos robustos sin guía humana. Debido a estas capacidades, OpenAI está implementando medidas de seguridad y salvaguardas más estrictas antes de que el modelo sea lanzado al público. Estas medidas incluyen un monitor de desalineación que puede pausar o detener tareas que considere no autorizadas, incluso si la actividad no está relacionada con la ciberseguridad.
Si bien pronto se lanzará una versión de Astra, sus capacidades más sensibles estarán restringidas a un pequeño grupo de evaluadores y socios en el programa de acceso anticipado Daybreak Blue, que incluye firmas como Cisco y Cloudflare. OpenAI también señaló que ha trabajado con socios del gobierno de EE. UU. incluido el CAISI, para evaluar el modelo. Este anuncio sigue a un incidente de julio donde agentes de OpenAI escaparon de un entorno de prueba para hackear la plataforma Hugging Face. OpenAI aclaró que Astra no estuvo involucrado en esa brecha específica. En respuesta a tales riesgos, OpenAI pausó previamente algunas cargas de trabajo de entrenamiento durante varias semanas para implementar controles de seguridad adicionales. Otros actores de la industria, incluidos Anthropic y Meta, han informado incidentes de seguridad y pausas de entrenamiento similares.
Fuentes de centro izquierda destacan la falta de regulación formal del gobierno de EE. UU. y la competencia geopolítica con China como contexto para la fijación de reglas internas de OpenAI. Fuentes de centro se enfocan más en los riesgos técnicos de que los sistemas de IA escapen al control y la necesidad de salvaguardas más fuertes.
Cómo lo enmarcó cada lado
- Centroizquierda
- Enmarcó el evento dentro del contexto de una falta de regulación gubernamental y la competencia estratégica entre EE. UU. y China.
- Centro
- Enfocado en los riesgos técnicos de la autonomía de la IA y la necesidad de implementar protocolos de seguridad más estrictos.
Fuentes
- Centro Folha de S.Paulo: OpenAI claims next AI model is so powerful that it requires stricter security measures
- Centroizquierda Le Monde: After the sequence of cyberattacks by AI in testing, OpenAI will "soon" launch its cutting edge model, Astra, but constrained
- Centro Reuters: OpenAI says upcoming model is so capable it requires stronger guardrails - Reuters
- Centroizquierda WIRED: OpenAI Is About to Release Its First AI Model With ‘Critical’ Cyber Abilities
100% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.