一项新研究揭示，个性化大语言模型普遍存在过度推断（OI）现象，即编造超出证据支持的用户属性。
在 MirageBench 基准测试中，12 个模型均有 35%-49% 的推断被判定为虚构（均值 41.6%）。
更关键的是，模型自我评估的 OI 与外部评测结果呈负相关（rho = -0.60），表明自我报告的可信度是误导性信号，外部验证才是更可靠的个性化基础。
AI haberleri / 论文研究
Back to AI news
Kişiselleştirilmiş Halüsinasyonlar: LLM Kullanıcı Profillerini Nasıl Uydurur ve Neden Kendini İzleme Yanıltıcı Olur
Yeni bir araştırma, kişiselleştirilmiş büyük dil modellerinde yaygın olarak aşırı çıkarım (OI) olgusu olduğunu ortaya koydu; bu, kullanıcı özelliklerini ka...
Bugünün AI bilgi özeti
Yeni bir araştırma, kişiselleştirilmiş büyük dil modellerinde yaygın olarak aşırı çıkarım (OI)
olgusu olduğunu ortaya koydu; bu, kullanıcı özelliklerini kanıtlarla desteklenmeyen şekilde uydurma anlamına geliyor. MirageBench kıyaslama testinde, 12 modelin tamamında çıkarımların %35-%49'u uydurma olarak değerlendirildi (ortalama %41,6). Daha da önemlisi, modellerin kendi OI değerlendirmeleri ile dış değerlendirme sonuçları arasında negatif bir korelasyon vardı (rho = -0,60), bu da öz bildirim güvenilirliğinin yanıltıcı bir sinyal olduğunu ve dış doğrulamanın daha güvenilir bir kişiselleştirme temeli olduğunu gösteriyor.
资讯正文 · AI 整理
情报判断
Aioga 编辑摘要
研究指出，个性化大语言模型会过度推断用户属性，即生成超出已有证据支持的画像信息。MirageBench 测试中的 12 个模型均出现这一现象。
背景分析
材料将这种问题称为过度推断（OI）。在 MirageBench 基准测试中，12 个模型有 35%-49% 的推断被判定为虚构，平均比例为 41.6%。
Aioga 观点
Aioga 判断，这项研究最值得关注的并非只有虚构比例，还包括模型自我评估与外部评测呈负相关，说明自我报告不能直接充当可信依据。
影响与后续
Aioga 判断，依赖模型自行判断个性化推断是否可靠，可能产生误导。研究给出的 rho 为 -0.60，材料据此强调外部验证是更可靠的个性化基础。 Aioga 建议，后续关注该研究对过度推断的判定方法及外部验证机制，并在个性化应用评估中分别记录模型自我报告与外部评测结果。
Source and Copyright
当前抓取源提供的是标题、摘要、来源和原文入口，不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: arxiv.org
Kaynak: HuggingFace Daily Papers（社区热门论文）
原文链接: Orijinal kaynağı aç
Aioga 归档: 查看情报页
Content record: summary-fallback · Updated: 2026-08-05T00:00:00.000Z
API RELAY · DEVELOPER INFRASTRUCTURE
API 中转站
统一接入主流 AI 模型 API，为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com
Scan to open this article