一项新研究揭示，个性化大语言模型普遍存在过度推断（OI）现象，即编造超出证据支持的用户属性。
在 MirageBench 基准测试中，12 个模型均有 35%-49% 的推断被判定为虚构（均值 41.6%）。
更关键的是，模型自我评估的 OI 与外部评测结果呈负相关（rho = -0.60），表明自我报告的可信度是误导性信号，外部验证才是更可靠的个性化基础。
Actu IA / Recherche
Back to AI news
Hallucinations personnalisées : comment les LLM inventent des profils d'utilisateurs et pourquoi l'auto-surveillance peut induire en erreur
Une nouvelle étude révèle que les grands modèles de langage personnalisés présentent généralement un phénomène de surinférence (OI), c’est-à-dire qu’ils in...
Brief IA du jour
Une nouvelle étude révèle que les grands modèles de langage personnalisés présentent généralement un
phénomène de surinférence (OI), c’est-à-dire qu’ils inventent des attributs des utilisateurs au-delà des preuves disponibles. Dans le test de référence MirageBench, les inférences de 12 modèles ont été jugées fictives dans 35 % à 49 % des cas (moyenne de 41,6 %). Plus important encore, l’OI auto-évaluée par les modèles est négativement corrélée avec les résultats de l’évaluation externe (rho = -0,60), ce qui indique que la crédibilité auto-déclarée est un signal trompeur et que la vérification externe constitue une base plus fiable pour la personnalisation.
资讯正文 · AI 整理
Évaluation
Aioga 编辑摘要
研究指出，个性化大语言模型会过度推断用户属性，即生成超出已有证据支持的画像信息。MirageBench 测试中的 12 个模型均出现这一现象。
背景分析
材料将这种问题称为过度推断（OI）。在 MirageBench 基准测试中，12 个模型有 35%-49% 的推断被判定为虚构，平均比例为 41.6%。
Aioga 观点
Aioga 判断，这项研究最值得关注的并非只有虚构比例，还包括模型自我评估与外部评测呈负相关，说明自我报告不能直接充当可信依据。
影响与后续
Aioga 判断，依赖模型自行判断个性化推断是否可靠，可能产生误导。研究给出的 rho 为 -0.60，材料据此强调外部验证是更可靠的个性化基础。 Aioga 建议，后续关注该研究对过度推断的判定方法及外部验证机制，并在个性化应用评估中分别记录模型自我报告与外部评测结果。
Source and Copyright
La source fournit un titre, un résumé, une attribution et un lien original. Aioga ne republie pas l’article intégral.
Canal de collecte: Agrégation de résumés · Domaine source: arxiv.org
Source: HuggingFace Daily Papers（社区热门论文）
Lien original: Ouvrir la source
Archive Aioga: Ouvrir la page de veille
Content record: summary-fallback · Updated: 2026-08-05T00:00:00.000Z
API RELAY · DEVELOPER INFRASTRUCTURE
API 中转站
统一接入主流 AI 模型 API，为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com
Scan to open this article