个性化幻觉：LLM 如何编造用户画像，以及为何自我监控会误导

个性化幻觉：LLM 如何编造用户画像，以及为何自我监控会误导 这条更新来自 arxiv.org，发布时间为 2026-08-05，Aioga 保留原文入口以便核验。

摘要：一项新研究揭示，个性化大语言模型普遍存在过度推断（OI）现象，即编造超出证据支持的用户属性。在 MirageBench 基准测试中，12 个模型均有 35%-49% 的推断被判定为虚构（均值 41.6%）。更关键的是，模型自我评估的 OI 与外部评测结果呈负相关（rho = -0.60），表明自我报告的可信度是误导性信号，外部验证才是更可靠的个性化基础。

背景：材料将这种问题称为过度推断（OI）。在 MirageBench 基准测试中，12 个模型有 35%-49% 的推断被判定为虚构，平均比例为 41.6%。

Aioga 观察：Aioga 判断，这项研究最值得关注的并非只有虚构比例，还包括模型自我评估与外部评测呈负相关，说明自我报告不能直接充当可信依据。

影响与后续：Aioga 判断，依赖模型自行判断个性化推断是否可靠，可能产生误导。研究给出的 rho 为 -0.60，材料据此强调外部验证是更可靠的个性化基础。 Aioga 建议，后续关注该研究对过度推断的判定方法及外部验证机制，并在个性化应用评估中分别记录模型自我报告与外部评测结果。

一项新研究揭示，个性化大语言模型普遍存在过度推断（OI）现象，即编造超出证据支持的用户属性。

在 MirageBench 基准测试中，12 个模型均有 35%-49% 的推断被判定为虚构（均值 41.6%）。

更关键的是，模型自我评估的 OI 与外部评测结果呈负相关（rho = -0.60），表明自我报告的可信度是误导性信号，外部验证才是更可靠的个性化基础。