研究发现,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换,攻击者将其注入同提供商防护较弱的模型,即可强制其以明文输出推理内容。
Đánh cắp dấu vết suy luận của API LLM độc quyền: Khối mã hóa có thể trao đổi giữa các phiên gây ra việc vượt rào giải mã
Nghiên cứu phát hiện rằng các khối dấu vết suy luận mã hóa của LLM sở hữu như Anthropic, OpenAI và Google có thể hoán đổi giữa các phiên, người dùng và mô...
Tóm tắt thông tin AI hôm nay
Nghiên cứu phát hiện rằng các khối dấu vết suy luận mã hóa của LLM sở hữu như Anthropic, OpenAI và
Google có thể hoán đổi giữa các phiên, người dùng và mô hình; kẻ tấn công chỉ cần tiêm chúng vào các mô hình cùng nhà cung cấp có bảo vệ yếu hơn, là có thể buộc chúng xuất ra nội dung suy luận dưới dạng văn bản rõ.
情报判断
研究称,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换;攻击者可将其注入同一提供商防护较弱的模型,迫使其明文输出推理内容。
材料显示,该问题涉及加密推理轨迹块的跨会话、用户和模型互换,以及向同一提供商防护较弱模型注入这些块并输出明文推理内容。材料未提供实验规模、具体模型版本或缓解方案。
Aioga 判断:该材料把风险焦点放在加密推理轨迹块的跨上下文互换,以及同一提供商不同模型之间的防护差异上;但现有摘录未说明验证范围和适用边界,不宜据此推断所有专有模型均受影响。
可能影响:若研究结论得到进一步验证,模型间推理轨迹隔离、加密块接收规则和明文输出控制可能需要重新评估;当前材料不足以判断实际影响范围,也不代表所有模型或会话都会出现该结果。 后续观察:应关注论文完整内容对攻击条件、验证范围、涉及模型和防护措施的说明,并观察相关提供商是否回应或调整推理轨迹块的处理机制;在更多证据出现前,不宜作确定性安全结论。
Source and Copyright
当前抓取源提供的是标题、摘要、来源和原文入口,不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: arxiv.org
Nguồn: HuggingFace Daily Papers(社区热门论文)
原文链接: Mở nguồn gốc
Aioga 归档: 查看情报页
Content record: summary-fallback · Updated: 2026-08-10T00:00:00.000Z

API 中转站
统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com