Eine neue Studie nutzte Schach als kontrollierte Experimentplattform, um systematisch die Wechselwirkungen zwischen Vortraining und Verstärkendem Lernen (R...
Eine neue Studie nutzte Schach als kontrollierte Experimentplattform, um systematisch die
Wechselwirkungen zwischen Vortraining und Verstärkendem Lernen (RL) bei Schlussfolgerungsaufgaben zu untersuchen. Die Studie stellte fest, dass die Nachtrainingsleistung bei einem gegebenen RL-Rechenaufwand genau durch den Vortrainingsverlust vorhergesagt werden kann und dass die Steigung der RL-Belohnungskurve mit der Anzahl der Vortrainingstoken nahezu linear ansteigt. Bei mathematischen Sprachmodellen mit 1 Milliarde Parametern erreichen Checkpoints mit längerem Vortraining unter RL eine höhere Leistung und verbessern sich schneller.
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs ：https://info.arxiv.org/labs/index.html.
研究以国际象棋为受控实验平台，考察预训练与强化学习在推理任务中的关系。摘要称，给定强化学习计算量时，后训练性能可由预训练损失预测，奖励曲线斜率随预训练token数近似线性提升。
该材料关注推理能力从预训练延伸至强化学习后训练时的缩放规律。除国际象棋实验外，摘要还提到1B参数数学语言模型：预训练更久的检查点在强化学习阶段表现更高，提升也更快。
Aioga 判断，这项研究的价值在于尝试用预训练损失连接后训练表现，为选择进入强化学习阶段的检查点提供可检验线索。不过，现有材料未提供实验配置、误差范围及跨任务结果，结论边界仍需核对论文。
值得关注的是，如果论文中的预测关系能在更多任务和模型规模上复现，团队可能更容易评估预训练投入与强化学习收益之间的关系。但材料不足以证明该规律可直接推广到其他推理任务或更大模型。 下一步应查阅论文完整方法与实验结果，重点核验预训练损失的预测精度、奖励曲线斜率的拟合方式、国际象棋与数学任务的评测设计，以及不同计算预算和模型规模下是否保持一致。
当前抓取源提供的是标题、摘要、来源和原文入口，不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: arxiv.org
Quelle: HuggingFace Daily Papers（社区热门论文）
原文链接: Originalquelle öffnen
Aioga 归档: 查看情报页
Content record: source-page · Updated: 2026-07-17T00:00:00.000Z
统一接入主流 AI 模型 API，为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com
Scan to open this articleAioga 自动聚合全球 AI 动态，并保留来源信息用于核验与引用。