SkewAdam은 MoE 모델을 위해 계층별 옵티마이저 상태 할당을 제안합니다: 밀집 백본 네트워크에는 float32 모멘텀과 분해된 2차 모멘트를 유지하고, 전문가 층에는 분해된 2차 모멘트만 유지하며, 라우터에는 정확한 2차 모멘트를 유지합니다. 6.78B 파라미터 MoE에...
SkewAdam은 MoE 모델을 위해 계층별 옵티마이저 상태 할당을 제안합니다: 밀집 백본 네트워크에는 float32 모멘텀과 분해된 2차 모멘트를 유지하고, 전문가 층에는 분해된
2차 모멘트만 유지하며, 라우터에는 정확한 2차 모멘트를 유지합니다. 6.78B 파라미터 MoE에서 옵티마이저 상태는 단지 1.29 GB(AdamW의 2.6%)를 차지하고, 최고 훈련 메모리는 81.4 GB에서 31.3 GB로 감소하여 40 GB 가속기에 적재할 수 있습니다.
arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.
Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs ：https://info.arxiv.org/labs/index.html.
Aioga 编辑摘要：SkewAdam针对MoE模型提出分层优化器状态分配：为密集骨干网络保留float32动量与分解二阶矩，为专家层仅保留分解二阶矩，为路由器保留精确二阶矩。 Aioga 将其归入「论文研究」方向，重点关注它对真实使用和行业竞争的影响。
背景分析：模型与研究类动态需要结合能力边界、开放方式、成本、可用性和真实任务表现判断，单项指标领先不等于已经形成稳定采用。
Aioga 判断：这条动态更适合作为行业观察信号，当前信息足以建立线索，但不足以推导长期结论。
影响分析：对相关团队而言，短期应先核对来源、可用范围和实际成本，再判断是否值得接入或跟进。 后续观察：继续观察官方文档、实际可用性、价格变化、开发者反馈和竞品回应。
수집 피드는 제목, 요약, 출처와 원문 링크를 제공합니다. Aioga는 원문 전체를 재게시하지 않습니다.
수집 채널: 요약 집계 · 원본 도메인: arxiv.org
출처: HuggingFace Daily Papers（社区热门论文）
원문 링크: 원문 열기
Aioga 아카이브: 정보 페이지 보기
Content record: source-page · Updated: 2026-07-21T00:00:00.000Z
统一接入主流 AI 模型 API，为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com
Scan to open this articleAioga는 전 세계 AI 동향을 집계하고 확인과 인용을 위해 출처 정보를 보존합니다.