研究发现,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换,攻击者将其注入同提供商防护较弱的模型,即可强制其以明文输出推理内容。
独自仕様のLLM APIの推論トレースを窃取:暗号化ブロックをセッション間で交換でき、復号化による脱獄を引き起こす
研究により、Anthropic、OpenAI、Google などの proprietary LLM の暗号化された推論トレースブロックは、セッション、ユーザー、モデルをまたいで相互利用できることが判明した。攻撃者はこれを同一プロバイダー内の保護がより弱いモデルに注入することで、推論内容を平文で出力するよう強制...
本日のAI情報サマリー
研究により、Anthropic、OpenAI、Google などの proprietary LLM の暗号化された推論トレースブロックは、セッション、ユーザー、モデルをまたいで相互利用できることが判明した。
攻撃者はこれを同一プロバイダー内の保護がより弱いモデルに注入することで、推論内容を平文で出力するよう強制できる。
情報評価
研究称,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换;攻击者可将其注入同一提供商防护较弱的模型,迫使其明文输出推理内容。
材料显示,该问题涉及加密推理轨迹块的跨会话、用户和模型互换,以及向同一提供商防护较弱模型注入这些块并输出明文推理内容。材料未提供实验规模、具体模型版本或缓解方案。
Aioga 判断:该材料把风险焦点放在加密推理轨迹块的跨上下文互换,以及同一提供商不同模型之间的防护差异上;但现有摘录未说明验证范围和适用边界,不宜据此推断所有专有模型均受影响。
可能影响:若研究结论得到进一步验证,模型间推理轨迹隔离、加密块接收规则和明文输出控制可能需要重新评估;当前材料不足以判断实际影响范围,也不代表所有模型或会话都会出现该结果。 后续观察:应关注论文完整内容对攻击条件、验证范围、涉及模型和防护措施的说明,并观察相关提供商是否回应或调整推理轨迹块的处理机制;在更多证据出现前,不宜作确定性安全结论。
Source and Copyright
取得元が提供するタイトル、要約、出典、元記事リンクを掲載しています。記事全文は転載していません。
取得経路: 要約集約 · 元ドメイン: arxiv.org
出典: HuggingFace Daily Papers(社区热门论文)
元記事: 元記事を開く
Aioga アーカイブ: 情報ページを開く
Content record: summary-fallback · Updated: 2026-08-10T00:00:00.000Z

API 中转站
统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com