研究发现,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换,攻击者将其注入同提供商防护较弱的模型,即可强制其以明文输出推理内容。
독점 LLM API의 추론 궤적 탈취: 암호화된 블록을 세션 간에 서로 교환할 수 있어 복호화 탈옥을 유발
연구에 따르면 Anthropic, OpenAI 및 Google과 같은 독점 LLM의 암호화된 추론 과정 블록은 세션, 사용자 및 모델 간에 서로 교환할 수 있으며, 공격자는 이를 동일한 제공업체의 보호 기능이 더 취약한 모델에 주입해 해당 모델이 추론 내용을 평문으로 출력하도록...
오늘의 AI 정보 요약
연구에 따르면 Anthropic, OpenAI 및 Google과 같은 독점 LLM의 암호화된 추론 과정 블록은 세션, 사용자 및 모델 간에 서로 교환할 수 있으며, 공격자는 이를
동일한 제공업체의 보호 기능이 더 취약한 모델에 주입해 해당 모델이 추론 내용을 평문으로 출력하도록 강제할 수 있습니다.
정보 평가
研究称,Anthropic、OpenAI 和 Google 等专有 LLM 的加密推理轨迹块可跨会话、用户和模型互换;攻击者可将其注入同一提供商防护较弱的模型,迫使其明文输出推理内容。
材料显示,该问题涉及加密推理轨迹块的跨会话、用户和模型互换,以及向同一提供商防护较弱模型注入这些块并输出明文推理内容。材料未提供实验规模、具体模型版本或缓解方案。
Aioga 判断:该材料把风险焦点放在加密推理轨迹块的跨上下文互换,以及同一提供商不同模型之间的防护差异上;但现有摘录未说明验证范围和适用边界,不宜据此推断所有专有模型均受影响。
可能影响:若研究结论得到进一步验证,模型间推理轨迹隔离、加密块接收规则和明文输出控制可能需要重新评估;当前材料不足以判断实际影响范围,也不代表所有模型或会话都会出现该结果。 后续观察:应关注论文完整内容对攻击条件、验证范围、涉及模型和防护措施的说明,并观察相关提供商是否回应或调整推理轨迹块的处理机制;在更多证据出现前,不宜作确定性安全结论。
Source and Copyright
수집 피드는 제목, 요약, 출처와 원문 링크를 제공합니다. Aioga는 원문 전체를 재게시하지 않습니다.
수집 채널: 요약 집계 · 원본 도메인: arxiv.org
출처: HuggingFace Daily Papers(社区热门论文)
원문 링크: 원문 열기
Aioga 아카이브: 정보 페이지 보기
Content record: summary-fallback · Updated: 2026-08-10T00:00:00.000Z

API 中转站
统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com