一项新研究通过"影子评估"测试前沿 AI 智能体能否独立完成开放式 AI 研究。
智能体在六天和数千美元算力下完成了全部工程任务,但未能对两项未发表的 NeurIPS 2026 论文的核心研究问题取得实质性进展,被原作者明确拒稿。
研究识别出五大失败模式,包括对发表标准判断不足、研究设计缺乏创意、无法有效回溯死胡同、资源意识差和指令漂移。
A new study tested whether advanced AI agents could independently conduct open-ended AI research through a 'shadow evaluation'. The agent completed all eng...
A new study tested whether advanced AI agents could independently conduct open-ended AI research
through a 'shadow evaluation'. The agent completed all engineering tasks in six days with computational costs of a few thousand dollars but did not achieve substantive progress on the core research questions of two unpublished NeurIPS 2026 papers and was explicitly rejected by the original authors. The study identified five major failure patterns, including insufficient judgment of publication standards, lack of creativity in research design, inability to effectively backtrack dead ends, poor resource awareness, and instruction drift.
一项新研究通过"影子评估"测试前沿 AI 智能体能否独立完成开放式 AI 研究。
智能体在六天和数千美元算力下完成了全部工程任务,但未能对两项未发表的 NeurIPS 2026 论文的核心研究问题取得实质性进展,被原作者明确拒稿。
研究识别出五大失败模式,包括对发表标准判断不足、研究设计缺乏创意、无法有效回溯死胡同、资源意识差和指令漂移。
研究以“影子评估”检验前沿 AI 智能体独立开展开放式 AI 研究的能力。智能体虽在六天内完成全部工程任务,却未对两项核心研究问题取得实质性进展。
评估对象涉及两项未发表的 NeurIPS 2026 论文,实验投入为六天和数千美元算力。最终成果被原作者明确拒稿,显示工程任务完成不等于达到论文发表标准。
Aioga 判断,这项早期证据揭示了研究自动化中的关键落差:智能体能够推进工程执行,但在选题判断、研究创意与失败后的路线调整方面仍可能难以胜任开放式研究。
值得关注的是,研究归纳的五类失败模式同时涉及判断、创意、回溯、资源意识和指令遵循。这可能意味着,评估研究型智能体不能只看任务完成率,还需检查成果质量与过程稳定性。 Aioga 判断,后续应重点观察更多研究案例能否复现这些失败模式,并分别评估发表标准判断、研究设计、死胡同回溯、资源管理和指令稳定性,而非据两项案例作普遍结论。
The readable text on this page was extracted from the public source and organized with attribution, publication time and the original link. Copyright remains with the original author and publisher.
Ingestion channel: Summary aggregation · Source domain: arxiv.org
Source: HuggingFace Daily Papers(社区热门论文)
Original link: Open original source
Aioga archive: Open intelligence page
Content record: summary-fallback · Updated: 2026-07-29T00:00:00.000Z

统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.comAioga aggregates global AI updates and preserves source information for verification and citation.