小红书技术团队开源 BigMac，一种针对多模态大模型训练的依赖安全嵌套流水线新范式。
它以 LLM 流水线为主干，在不打乱执行顺序的前提下嵌入编码器和生成器计算，相比基线实现 1.08x-1.9x 加速，同时保持激活显存有界。
BigMac 已作为 dots 多模态模型训练的核心组件投入生产。
أخبار AI / 产品更新
Back to AI news
شياو هونغ شو تفتح المصدر BigMac: نموذج تدريب جديد للنماذج الكبيرة متعددة الوسائط
أصدر فريق التكنولوجيا في XiaoHongShu مشروع BigMac مفتوح المصدر، وهو نموذج جديد لسلسلة معالجة متداخلة آمنة للاعتماديات لتدريب النماذج الكبيرة متعددة الوسائط...
ملخص معلومات AI اليوم
أصدر فريق التكنولوجيا في XiaoHongShu مشروع BigMac مفتوح المصدر، وهو نموذج جديد لسلسلة معالجة متداخلة
آمنة للاعتماديات لتدريب النماذج الكبيرة متعددة الوسائط. يعتمد على سلسلة معالجة LLM كهيكل رئيسي، ويقوم بإدراج حسابات المشفر والمولّد دون تعطيل ترتيب التنفيذ، بالمقارنة مع الأساسيات يحقق تسريعاً بمعدل 1.08x-1.9x، مع الحفاظ على ذاكرة التفعيل محدودة. تم استخدام BigMac بالفعل كعنصر أساسي في تدريب نموذج dots متعدد الوسائط في الإنتاج.
资讯正文 · AI 整理
情报判断
Aioga 编辑摘要
小红书技术团队开源 BigMac，将其定位为多模态大模型训练的依赖安全嵌套流水线范式。该方案以 LLM 流水线为主干，嵌入编码器和生成器计算，并已用于 dots 多模态模型训练。
背景分析
公开材料显示，BigMac 面向多模态大模型训练中的流水线组织问题，在不打乱执行顺序的前提下嵌入编码器和生成器计算，同时保持激活显存有界。材料未披露具体硬件、基线配置及测试条件。
Aioga 观点
Aioga 判断，BigMac 的主要看点不是单一加速数字，而是以依赖安全方式组织多类计算，并进入实际生产训练流程。其公开价值可能在于为多模态训练流水线提供一种可复用的实现思路。
影响与后续
值得关注的是，公开材料给出的相对基线加速范围为 1.08x-1.9x，但缺少不同模型、硬件和任务下的细分结果。Aioga 判断，外部团队能否获得相近收益，仍可能取决于具体训练配置。 后续值得关注开源代码、配置和复现实验是否完整披露，以及不同模型规模、编码器与生成器组合下的表现。Aioga 判断，对该方案的进一步评价应以可复现基线、显存数据和适用边界为依据。
Source and Copyright
当前抓取源提供的是标题、摘要、来源和原文入口，不直接搬运完整原文。完整报道请通过下方原文链接前往来源站点查看。
抓取通道: 摘要聚合 · 原始域名: mp.weixin.qq.com
المصدر: 公众号：小红书技术（dots.llm）
原文链接: فتح المصدر الأصلي
Aioga 归档: 查看情报页
Content record: summary-fallback · Updated: 2026-07-22T10:04:51.000Z
API RELAY · DEVELOPER INFRASTRUCTURE
API 中转站
统一接入主流 AI 模型 API，为开发、测试与生产环境提供稳定调用入口。
立即访问 api.w173.com
Scan to open this article