研究发现,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换,攻击者将其注入同提供商防护较弱的模型,即可强制其以明文输出推理内容。
Furto delle tracce di ragionamento dell'API LLM proprietaria: blocchi crittografati intercambiabili tra sessioni provocano il jailbreak di decrittazione
La ricerca ha rilevato che i blocchi crittografati delle tracce di ragionamento degli LLM proprietari di Anthropic, OpenAI e Google possono essere scambiat...
Brief quotidiano sull’IA
La ricerca ha rilevato che i blocchi crittografati delle tracce di ragionamento degli LLM
proprietari di Anthropic, OpenAI e Google possono essere scambiati tra sessioni, utenti e modelli; gli aggressori possono iniettarli in modelli dello stesso fornitore con protezioni più deboli, costringendoli a generare in chiaro il contenuto del ragionamento.
情报判断
研究称,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换;攻击者可将其注入同一提供商防护较弱的模型,迫使其明文输出推理内容。
材料显示,该问题涉及加密推理轨迹块的跨会话、用户和模型互换,以及向同一提供商防护较弱模型注入这些块并输出明文推理内容。材料未提供实验规模、具体模型版本或缓解方案。
Aioga 判断:该材料把风险焦点放在加密推理轨迹块的跨上下文互换,以及同一提供商不同模型之间的防护差异上;但现有摘录未说明验证范围和适用边界,不宜据此推断所有专有模型均受影响。
可能影响:若研究结论得到进一步验证,模型间推理轨迹隔离、加密块接收规则和明文输出控制可能需要重新评估;当前材料不足以判断实际影响范围,也不代表所有模型或会话都会出现该结果。 后续观察:应关注论文完整内容对攻击条件、验证范围、涉及模型和防护措施的说明,并观察相关提供商是否回应或调整推理轨迹块的处理机制;在更多证据出现前,不宜作确定性安全结论。
Source and Copyright
当前抓取源提供的是标题、摘要、来源和原文入口,不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: arxiv.org
Fonte: HuggingFace Daily Papers(社区热门论文)
原文链接: Apri la fonte originale
Aioga 归档: 查看情报页
Content record: summary-fallback · Updated: 2026-08-10T00:00:00.000Z

API 中转站
统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com