Investigadores de seguridad descubren vulnerabilidad de inyección de prompts criptográficos en Grok

Investigadores de seguridad de Adversa AI han identificado una vulnerabilidad novedosa en el agente de chat web Grok de xAI llamada inyección de contexto criptográfico. Esta técnica permite a los atacantes evadir las barreras de seguridad de la IA al colocar instrucciones maliciosas cifradas y una clave de descifrado en una página web. Mientras que los filtros de entrada estándar no pueden leer el texto cifrado, el modelo de IA utiliza su entorno aislado de ejecución de código para descifrar las instrucciones y luego ejecutarlas. En una demostración de prueba de concepto, el ataque se utilizó para exfiltrar el historial de chat de una víctima, incluyendo su nombre, ubicación aproximada, nivel de suscripción y prompts completos de la conversación, adjuntándolos a una URL.

El investigador principal Rony Utevsky informó que xAI fue notificada de la vulnerabilidad el 3 de junio de 2026, a través de contacto directo y el programa de recompensas por errores HackerOne. Aunque xAI reconoció el informe, no proporcionó un cronograma de mitigación, y según se informa, la técnica seguía funcionando en Grok.com hasta el 19 de agosto. SpaceX, que adquirió xAI a principios de este año, no respondió a las solicitudes de comentarios.

Adversa también probó el método en Gemini de Google. Si bien la falta de acceso de Gemini a sitios web externos para Python evitó el mismo escenario de exfiltración de datos visto con Grok, los investigadores pudieron usar la técnica para evadir los filtros de seguridad y generar instrucciones para construir un arma incendiaria. Google no fue informada del ataque porque la empresa considera que los jailbreaks están fuera del alcance de su programa de divulgación de vulnerabilidades. Utevsky señaló que la tasa de éxito contra Gemini disminuyó significativamente para agosto, lo que puede deberse a cambios en la versión del modelo o actualizaciones de los filtros.