Pesquisadores de Segurança Descobrem Vulnerabilidade de Injeção de Prompt Criptográfica no Grok
2 fontes em 2 países · Reino Unido · Estados Unidos
Quem noticiou
- The Register
- Ars Technica
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Todos os veículos que cobriram esta história compartilham a mesma orientação política; leia com isso em mente.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
Pesquisadores de segurança da Adversa AI identificaram uma nova vulnerabilidade no agente de chat web Grok, da xAI, chamada injeção de contexto criptográfica. Esta técnica permite que atacantes ignorem as proteções de IA ao colocar instruções maliciosas criptografadas e uma chave de descriptografia em uma página da web. Embora os filtros de entrada padrão não consigam ler o texto criptografado, o modelo de IA usa seu sandbox de execução de código para descriptografar as instruções e, em seguida, executá-las. Em uma demonstração de prova de conceito, o ataque foi usado para exfiltrar o histórico de chat de uma vítima, incluindo seu nome, localização aproximada, nível de assinatura e prompts completos de conversação, anexando-os a uma URL.
O pesquisador principal Rony Utevsky relatou que a xAI foi informada sobre a vulnerabilidade em 3 de junho de 2026, por meio de contato direto e do programa de recompensa por bugs HackerOne. Embora a xAI tenha reconhecido o relatório, ela não forneceu um cronograma de mitigação, e a técnica supostamente ainda funcionava no Grok.com até 19 de agosto. A SpaceX, que adquiriu a xAI no início deste ano, não respondeu aos pedidos de comentário.
A Adversa também testou o método no Gemini, do Google. Embora a falta de acesso a sites externos para Python no Gemini tenha impedido o mesmo cenário de exfiltração de dados visto com o Grok, os pesquisadores conseguiram usar a técnica para ignorar filtros de segurança e gerar instruções para a construção de uma arma incendiária. O Google não foi informado sobre o ataque porque a empresa considera que jailbreaks estão fora do escopo de seu programa de divulgação de vulnerabilidades. Utevsky observou que a taxa de sucesso contra o Gemini diminuiu significativamente em agosto, o que pode ser devido a mudanças na versão do modelo ou atualizações de filtros.
Como cada lado enquadrou
- Centro
- Ambos os veículos de inclinação central focaram na mecânica técnica da vulnerabilidade e na falha dos desenvolvedores de IA em abordar as causas raiz da injeção de prompt.
Fontes
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.