一项新研究揭示，个性化大语言模型普遍存在过度推断（OI）现象，即编造超出证据支持的用户属性。
在 MirageBench 基准测试中，12 个模型均有 35%-49% 的推断被判定为虚构（均值 41.6%）。
更关键的是，模型自我评估的 OI 与外部评测结果呈负相关（rho = -0.60），表明自我报告的可信度是误导性信号，外部验证才是更可靠的个性化基础。
أخبار AI / 论文研究
Back to AI news
الهلاوس المخصصة: كيف يقوم نموذج اللغة الكبير بتأليف ملفات تعريف المستخدمين، ولماذا يمكن أن يضلل المراقبة الذاتية
كشفت دراسة جديدة أن نماذج اللغة الكبيرة المخصصة تظهر بشكل شائع ظاهرة الاستنتاج المفرط (OI)، وهي اختلاق خصائص المستخدم التي تتجاوز ما تدعمه الأدلة. في اختبا...
ملخص معلومات AI اليوم
كشفت دراسة جديدة أن نماذج اللغة الكبيرة المخصصة تظهر بشكل شائع ظاهرة الاستنتاج المفرط (OI)، وهي
اختلاق خصائص المستخدم التي تتجاوز ما تدعمه الأدلة. في اختبار معيار MirageBench، تم اعتبار 35%-49% من الاستنتاجات في جميع النماذج الاثني عشر ملفقة (المتوسط 41.6%). والأهم من ذلك، كان هناك ارتباط سلبي بين تقييم النموذج الذاتي لـ OI ونتائج التقييم الخارجي (rho = -0.60)، مما يشير إلى أن الموثوقية التي يتم الإبلاغ عنها ذاتيًا تعتبر إشارة مضللة، بينما يُعد التحقق الخارجي أساسًا أكثر موثوقية للتخصيص.
资讯正文 · AI 整理
情报判断
Aioga 编辑摘要
研究指出，个性化大语言模型会过度推断用户属性，即生成超出已有证据支持的画像信息。MirageBench 测试中的 12 个模型均出现这一现象。
背景分析
材料将这种问题称为过度推断（OI）。在 MirageBench 基准测试中，12 个模型有 35%-49% 的推断被判定为虚构，平均比例为 41.6%。
Aioga 观点
Aioga 判断，这项研究最值得关注的并非只有虚构比例，还包括模型自我评估与外部评测呈负相关，说明自我报告不能直接充当可信依据。
影响与后续
Aioga 判断，依赖模型自行判断个性化推断是否可靠，可能产生误导。研究给出的 rho 为 -0.60，材料据此强调外部验证是更可靠的个性化基础。 Aioga 建议，后续关注该研究对过度推断的判定方法及外部验证机制，并在个性化应用评估中分别记录模型自我报告与外部评测结果。
Source and Copyright
当前抓取源提供的是标题、摘要、来源和原文入口，不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: arxiv.org
المصدر: HuggingFace Daily Papers（社区热门论文）
原文链接: فتح المصدر الأصلي
Aioga 归档: 查看情报页
Content record: summary-fallback · Updated: 2026-08-05T00:00:00.000Z
API RELAY · DEVELOPER INFRASTRUCTURE
API 中转站
统一接入主流 AI 模型 API，为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com
Scan to open this article