अध्ययन में पाया गया कि प्राकृतिक भाषा स्वयं-एनकोडर (NLA) के पुनर्निर्माण स्कोर से कथनों की सटीकता को सत्यापित नहीं किया जा सकता है, मॉडल वास्तविक आधार के ब...
अध्ययन में पाया गया कि प्राकृतिक भाषा स्वयं-एनकोडर (NLA) के पुनर्निर्माण स्कोर से कथनों की सटीकता को
सत्यापित नहीं किया जा सकता है, मॉडल वास्तविक आधार के बजाय "गुप्त कोड" पर निर्भर हो सकता है। लेखक ने RECAP विधि का प्रस्ताव किया, जो लक्षित मॉडल पर रैखिक हेड का संयुक्त प्रशिक्षण करती है ताकि निर्दिष्ट सामग्री को डिकोडेबल रखा जा सके। Pythia-160M पर, स्वतंत्र प्रॉब विश्वसनीय रूप से सत्य और झूठे कथनों को अलग कर सकते हैं (AUC 0.96), और विरोधी संपादन के तहत भी झूठ को चिह्नित कर सकते हैं (AUC 0.95)।
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs ：https://info.arxiv.org/labs/index.html.
论文提出RECAP，通过在目标模型上联合训练线性头，监督指定内容保持可解码，以检验激活解释是否逐声明忠实。摘要称其在Pythia-160M上取得较高真假声明区分效果。
研究指出，自然语言自编码器的重建分数不能验证逐声明忠实性，模型可能依赖“私密代码”而不是真实依据。RECAP试图以内容可解码性补充这一验证路径。
Aioga判断，RECAP的重点不只是提高重建表现，而是把“指定内容能否被独立解码”作为可检验标准。摘要中的结果显示，该思路值得关注，但材料未说明其适用范围。
若相关方法在更多模型和任务中成立，激活解释评估可能从整体重建分数转向逐声明核验。当前材料仅报告Pythia-160M结果，不能据此推断普遍有效性。 值得关注后续研究是否报告更大规模模型、不同数据与更多对抗编辑设置下的表现，并进一步说明独立探针如何区分真实依据、私密代码与其他可解码信号。
当前抓取源提供的是标题、摘要、来源和原文入口，不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: arxiv.org
स्रोत: HuggingFace Daily Papers（社区热门论文）
原文链接: मूल स्रोत खोलें
Aioga 归档: 查看情报页
Content record: source-page · Updated: 2026-07-22T00:00:00.000Z
统一接入主流 AI 模型 API，为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com
Scan to open this articleAioga 自动聚合全球 AI 动态，并保留来源信息用于核验与引用。