SkewAdam ने MoE मॉडल के लिए स्तरित ऑप्टिमाइज़र स्टेट असाइनमेंट प्रस्तावित किया: डेंस बैकबोन नेटवर्क के लिए float32 मोमेंटम और फैक्टराइज्ड सेकंड-ऑर्डर मैट्र...
SkewAdam ने MoE मॉडल के लिए स्तरित ऑप्टिमाइज़र स्टेट असाइनमेंट प्रस्तावित किया: डेंस बैकबोन नेटवर्क
के लिए float32 मोमेंटम और फैक्टराइज्ड सेकंड-ऑर्डर मैट्रिक्स सुरक्षित रखें, विशेषज्ञ स्तर के लिए केवल फैक्टराइज्ड सेकंड-ऑर्डर मैट्रिक्स और राउटर के लिए सटीक सेकंड-ऑर्डर मैट्रिक्स सुरक्षित रखें। 6.78B पैरामीटर MoE पर, ऑप्टिमाइज़र स्टेट केवल 1.29 GB रखता है (AdamW का 2.6%), पीक ट्रेनिंग मेमोरी 81.4 GB से घटकर 31.3 GB हो गई, और इसे 40 GB एक्सेलेरेटर में डाल सकते हैं।
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs ：https://info.arxiv.org/labs/index.html.
Aioga 编辑摘要：SkewAdam针对MoE模型提出分层优化器状态分配：为密集骨干网络保留float32动量与分解二阶矩，为专家层仅保留分解二阶矩，为路由器保留精确二阶矩。 Aioga 将其归入「论文研究」方向，重点关注它对真实使用和行业竞争的影响。
背景分析：模型与研究类动态需要结合能力边界、开放方式、成本、可用性和真实任务表现判断，单项指标领先不等于已经形成稳定采用。
Aioga 判断：这条动态更适合作为行业观察信号，当前信息足以建立线索，但不足以推导长期结论。
影响分析：对相关团队而言，短期应先核对来源、可用范围和实际成本，再判断是否值得接入或跟进。 后续观察：继续观察官方文档、实际可用性、价格变化、开发者反馈和竞品回应。
当前抓取源提供的是标题、摘要、来源和原文入口，不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: arxiv.org
स्रोत: HuggingFace Daily Papers（社区热门论文）
原文链接: मूल स्रोत खोलें
Aioga 归档: 查看情报页
Content record: source-page · Updated: 2026-07-21T00:00:00.000Z
统一接入主流 AI 模型 API，为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com
Scan to open this articleAioga 自动聚合全球 AI 动态，并保留来源信息用于核验与引用。