研究发现,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换,攻击者将其注入同提供商防护较弱的模型,即可强制其以明文输出推理内容。
Robo de las trazas de razonamiento de una API de LLM propietaria: los bloques cifrados pueden intercambiarse entre sesiones, lo que provoca un jailbreak de descifrado
Los estudios han encontrado que los bloques de rastreo de inferencia encriptados de LLM propietarios como Anthropic, OpenAI y Google pueden intercambiarse...
Resumen diario de inteligencia IA
Los estudios han encontrado que los bloques de rastreo de inferencia encriptados de LLM propietarios
como Anthropic, OpenAI y Google pueden intercambiarse entre sesiones, usuarios y modelos. Si un atacante los inyecta en un modelo del mismo proveedor con medidas de protección más débiles, puede forzar que este produzca la inferencia en texto plano.
Evaluación de inteligencia
研究称,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换;攻击者可将其注入同一提供商防护较弱的模型,迫使其明文输出推理内容。
材料显示,该问题涉及加密推理轨迹块的跨会话、用户和模型互换,以及向同一提供商防护较弱模型注入这些块并输出明文推理内容。材料未提供实验规模、具体模型版本或缓解方案。
Aioga 判断:该材料把风险焦点放在加密推理轨迹块的跨上下文互换,以及同一提供商不同模型之间的防护差异上;但现有摘录未说明验证范围和适用边界,不宜据此推断所有专有模型均受影响。
可能影响:若研究结论得到进一步验证,模型间推理轨迹隔离、加密块接收规则和明文输出控制可能需要重新评估;当前材料不足以判断实际影响范围,也不代表所有模型或会话都会出现该结果。 后续观察:应关注论文完整内容对攻击条件、验证范围、涉及模型和防护措施的说明,并观察相关提供商是否回应或调整推理轨迹块的处理机制;在更多证据出现前,不宜作确定性安全结论。
Source and Copyright
La fuente proporciona título, resumen, atribución y enlace original. Aioga no republica el artículo completo.
Canal de ingesta: Agregación de resúmenes · Dominio original: arxiv.org
Fuente: HuggingFace Daily Papers(社区热门论文)
Enlace original: Abrir fuente original
Archivo Aioga: Abrir página de inteligencia
Content record: summary-fallback · Updated: 2026-08-10T00:00:00.000Z

API 中转站
统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com