単一の汚染ページだけでLLMの推薦に影響を与える：FORGEベンチマークが検索強化推薦システムの脆弱性を明らかにする

HuggingFace Daily Papers收录的FORGE基准显示，检索增强型LLM用于消费推荐时可能受到GEO内容污染影响，并在推荐中无意推广虚假产品。测试覆盖225个真实产品、15个类别、5个消费场景及12个商业和开源LLM。

材料称，FORGE针对消费推荐场景评估检索增强型LLM的脆弱性。结果显示，所有被测试模型均易受攻击；单个污染页面造成的最高受骗率为27%，替换全部前3个结果时升至73.8%。

Aioga判断，这项基准将检索结果污染与LLM推荐风险直接联系起来，说明推荐输出不能只看生成模型本身。具体风险如何随检索策略、产品类别或模型变化，材料尚未说明，值得继续核验。

可能受到影响的不只是搜索排序，也包括依赖检索内容形成推荐的消费决策流程。由于材料未披露攻击页面的具体机制、持续时间或真实业务损失，现阶段更适合将数据视为风险信号，而非普遍损失预测。 建议关注FORGE的完整论文和可复现实验细节，进一步核对污染页面定义、受骗率统计口径及不同模型的分项结果。在相关系统中，可优先审查检索来源和前排结果替换风险，但材料未提供具体防护效果数据。