研究发现,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换,攻击者将其注入同提供商防护较弱的模型,即可强制其以明文输出推理内容。
سرقة مسار الاستدلال لواجهة برمجة تطبيقات LLM الخاصة: يمكن تبادل الكتل المشفرة عبر الجلسات مما يسبب كسر التشفير
أظهرت الأبحاث أن كتل مسار الاستدلال المشفر للنماذج اللغوية الكبيرة المملوكة، مثل Anthropic و OpenAI و Google، يمكن تبادلها بين الجلسات والمستخدمين والنماذج...
ملخص معلومات AI اليوم
أظهرت الأبحاث أن كتل مسار الاستدلال المشفر للنماذج اللغوية الكبيرة المملوكة، مثل Anthropic و OpenAI
و Google، يمكن تبادلها بين الجلسات والمستخدمين والنماذج، ويمكن للمهاجمين حقنها في النماذج التي لديها حماية أضعف من نفس المزود لإجبارها على إخراج محتوى الاستدلال بنص واضح.
情报判断
研究称,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换;攻击者可将其注入同一提供商防护较弱的模型,迫使其明文输出推理内容。
材料显示,该问题涉及加密推理轨迹块的跨会话、用户和模型互换,以及向同一提供商防护较弱模型注入这些块并输出明文推理内容。材料未提供实验规模、具体模型版本或缓解方案。
Aioga 判断:该材料把风险焦点放在加密推理轨迹块的跨上下文互换,以及同一提供商不同模型之间的防护差异上;但现有摘录未说明验证范围和适用边界,不宜据此推断所有专有模型均受影响。
可能影响:若研究结论得到进一步验证,模型间推理轨迹隔离、加密块接收规则和明文输出控制可能需要重新评估;当前材料不足以判断实际影响范围,也不代表所有模型或会话都会出现该结果。 后续观察:应关注论文完整内容对攻击条件、验证范围、涉及模型和防护措施的说明,并观察相关提供商是否回应或调整推理轨迹块的处理机制;在更多证据出现前,不宜作确定性安全结论。
Source and Copyright
当前抓取源提供的是标题、摘要、来源和原文入口,不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: arxiv.org
المصدر: HuggingFace Daily Papers(社区热门论文)
原文链接: فتح المصدر الأصلي
Aioga 归档: 查看情报页
Content record: summary-fallback · Updated: 2026-08-10T00:00:00.000Z

API 中转站
统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com