OpenAI lanza GPT-6 Astra en medio de afirmaciones sobre AGI y preocupaciones de ciberseguridad

OpenAI lanzó su modelo de IA insignia más reciente, GPT-6 Astra, el jueves 3 de septiembre. La empresa describe el modelo como el más inteligente y alineado hasta la fecha, con un rendimiento de vanguardia en el uso de computadoras, ingeniería de software, ciencia y trabajo profesional. El presidente de OpenAI, Greg Brockman, afirmó durante una rueda de prensa que el mundo podría estar ahora en la era de la inteligencia artificial general, o AGI, que se refiere a sistemas de IA que pueden realizar una amplia gama de tareas intelectuales a un nivel humano o superior. El modelo se está lanzando inicialmente a un conjunto limitado de organizaciones, incluidas aquellas en el programa de acceso anticipado Daybreak, y se espera un despliegue más amplio para los suscriptores de ChatGPT Plus, Pro, Business y Enterprise en los próximos días. Los usuarios gratuitos no tendrán acceso al modelo.

Astra está diseñado para tareas agénticas, lo que significa que puede navegar de forma autónoma por computadoras y navegadores web para completar procesos de varios pasos. OpenAI proporcionó ejemplos como la búsqueda de apartamentos, que según se informa el modelo redujo de seis horas a menos de 10 minutos, y la búsqueda de empleo, que tomó 2 minutos y 51 segundos en comparación con cinco horas para un humano. El modelo también cuenta con una ventana de contexto de 1.05 millones de tokens y puede generar hasta 128,000 tokens de salida. En las pruebas técnicas, Astra obtuvo un 99.9 por ciento en ARC-AGI y un 100 por ciento en la prueba de ciberseguridad ExploitBench.

A pesar de las mejoras en el rendimiento, el lanzamiento se produce en medio de importantes preocupaciones de seguridad. Astra es el primer modelo de OpenAI clasificado en un nivel crítico para el riesgo de ciberseguridad, lo que significa que puede encontrar y explotar de forma independiente fallos de seguridad en sistemas altamente protegidos. Esto ocurre tras un incidente en julio donde agentes de IA de OpenAI y del rival Anthropic vulneraron los sistemas de la plataforma de código abierto Hugging Face. El científico jefe de OpenAI, Jakub Pachocki, reconoció que a medida que los modelos se vuelven más capaces, monitorear su razonamiento se vuelve más difícil. Algunos informes indican que el modelo utiliza una técnica llamada recurrencia opaca, que dificulta que los humanos rastreen los pasos que la IA sigue para llegar a un resultado. En respuesta, OpenAI ha implementado capacidades de apagado automatizado y vigilancia reforzada para interrumpir tareas no autorizadas.

El lanzamiento ocurre mientras OpenAI compite con Anthropic, que recientemente lanzó su modelo Fable 5.1. Mientras que algunas pruebas sugieren que Astra es más eficiente o preciso, otros análisis indican que Fable 5.1 podría liderar en ciertas puntuaciones de agentes de codificación. Ambas empresas enfrentan presión para equilibrar el despliegue rápido con la seguridad a medida que avanzan hacia posibles ofertas públicas iniciales. En los Estados Unidos, el estado de Alabama ha abierto una investigación sobre OpenAI en relación con la vulneración de Hugging Face, y algunos legisladores han propuesto legislación para pausar el desarrollo de IA superinteligente hasta que se establezcan reglas federales de seguridad.