Badania wykazały, że wyniki rekonstrukcji w naturalnych językowych autoenkoderach (NLA) nie mogą weryfikować wierności poszczególnych twierdzeń; model może...
Badania wykazały, że wyniki rekonstrukcji w naturalnych językowych autoenkoderach (NLA) nie mogą
weryfikować wierności poszczególnych twierdzeń; model może polegać na „tajnym kodzie” zamiast na rzeczywistych podstawach. Autorzy zaproponowali metodę RECAP, która polega na wspólnym trenowaniu liniowej głowy na docelowym modelu w celu zachowania możliwości dekodowania określonych treści. Na Pythia-160M niezależny detektor był w stanie niezawodnie rozróżniać prawdziwe i fałszywe twierdzenia (AUC 0,96) i nadal oznaczać kłamstwa w obliczu modyfikacji adwersarialnych (AUC 0,95).
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs ：https://info.arxiv.org/labs/index.html.
论文提出RECAP，通过在目标模型上联合训练线性头，监督指定内容保持可解码，以检验激活解释是否逐声明忠实。摘要称其在Pythia-160M上取得较高真假声明区分效果。
研究指出，自然语言自编码器的重建分数不能验证逐声明忠实性，模型可能依赖“私密代码”而不是真实依据。RECAP试图以内容可解码性补充这一验证路径。
Aioga判断，RECAP的重点不只是提高重建表现，而是把“指定内容能否被独立解码”作为可检验标准。摘要中的结果显示，该思路值得关注，但材料未说明其适用范围。
若相关方法在更多模型和任务中成立，激活解释评估可能从整体重建分数转向逐声明核验。当前材料仅报告Pythia-160M结果，不能据此推断普遍有效性。 值得关注后续研究是否报告更大规模模型、不同数据与更多对抗编辑设置下的表现，并进一步说明独立探针如何区分真实依据、私密代码与其他可解码信号。
当前抓取源提供的是标题、摘要、来源和原文入口，不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: arxiv.org
Źródło: HuggingFace Daily Papers（社区热门论文）
原文链接: Otwórz źródło oryginalne
Aioga 归档: 查看情报页
Content record: source-page · Updated: 2026-07-22T00:00:00.000Z
统一接入主流 AI 模型 API，为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com
Scan to open this articleAioga 自动聚合全球 AI 动态，并保留来源信息用于核验与引用。