Aioga
AI资讯 / 模型更新
返回 AI资讯

NVIDIA 发布 Cosmos 3 Edge:40 亿参数开放世界模型,可在设备端推理并生成机器人动作

MarkTechPost(RSS)Aioga 编辑团队2026-07-21T07:48:28.000Z热度 56

NVIDIA 发布 Cosmos 3 Edge,一款 40 亿参数的开放世界模型,专为设备端运行设计。该模型可帮助机器人和视觉 AI 智能体理解环境、实时推理并在本地生成机器人...

模型更新MarkTechPost(RSS)

今日 AI 情报摘要

NVIDIA 发布 Cosmos 3 Edge,一款 40 亿参数的开放世界模型,专为设备端运行设计。

该模型可帮助机器人和视觉 AI 智能体理解环境、实时推理并在本地生成机器人动作。 Cosmos 3 系列此前已于 2026 年 5 月 31 日在 GTC Taipei 推出 Cosmos 3 Nano(160 亿参数)和 Cosmos 3 Super(640 亿参数)。

中文正文 · AI 翻译

英伟达发布了 Cosmos 3 Edge:https://huggingface.co/blog/nvidia/cosmos3edge,这是一款拥有 40 亿参数的开放世界模型,旨在在设备端运行。它帮助机器人和视觉 AI 代理理解周围环境,实时推理,并在本地生成机器人动作。

Cosmos 3 系列:https://huggingface.co/collections/nvidia/cosmos3 包括 Cosmos 3 Nano(16B)和 Cosmos 3 Super(64B),于 2026 年 5 月 31 日在 GTC 台北发布:https://www.marktechpost.com/2026/06/03/nvidia-releases-cosmos-3-a-two-tower-mixture-of-transformers-foundation-model-unifying-physical-reasoning-world-generation-and-action-generation/。Edge 是第三个也是最小的等级,大约是 Super 的六分之一大小。

问题是具体的。机器在工厂、仓库和医院的边缘运行。它们需要在内存受限的系统上达到数据中心级别的性能。Cosmos 3 Edge 针对这一空白。

世界模型学习环境随时间变化的方式。它表示物体、运动、空间关系以及动作的影响。

考虑一个机器人去抓取一个物体。识别物体只是第一步。机器人还必须跟踪物体的位置、夹爪的运动以及接触时发生的情况。世界模型会对这些关系进行推理。它可以预测动作的视觉结果,推断导致变化的动作,或生成达成目标的动作。

Cosmos 3 Edge 将这些能力整合到一个设备端模型中。它的共享表示使系统能够理解当前的世界状态、模拟可能的未来,并将这些未来与动作连接起来。

Cosmos 3 使用具有两座塔的 Mixture-of-Transformers 架构,详见英伟达的技术报告:https://research.nvidia.com/labs/cosmos-lab/cosmos3/technical-report.pdf。

自回归塔处理视觉和文本标记,以实现理解和推理。扩散塔处理视觉、音频和动作标记,用于预测、生成和神经模拟。

这两座塔保持独立的归一化层和多层感知器。它们共享多模态注意力层,用于跨语言、视频、音频和动作对齐信息。这使模型能够在生成输出之前对场景进行推理。

注意力模式会根据不同模态进行调整。语言使用因果注意力,每个 token 关注之前的 token。扩散 token 则会更广泛地关注可用上下文,以支持连贯的预测和生成。根据任务的不同,模型会从自回归塔发出推理 token,或者从扩散塔发出去噪视频和动作 token。

Cosmos 3 Edge 的推理器使用一个 2B 的密集变换器,并按照 Cosmos GitHub 仓库中的说明,遵循 Qwen3-VL 兼容的图像和视频输入消息约定:https://github.com/nvidia/cosmos。

物理系统对动作的描述各不相同。车辆使用自身姿态和运动。相机使用相机运动。机械臂使用末端执行器的姿态,而夹爪则添加抓取状态。

Cosmos 3 将这些体现形式映射到一个通用的动作表示中。动作被编码为紧凑的几何向量,捕捉平移、旋转和操作状态。

这将控制与世界的视觉结构连接起来。模型将像素变化与物理运动和控制输入相关联。生成的视频因此不仅仅是预测,它表示世界应如何响应动作而发生变化。

支持的动作维度取决于体现形式。Cosmos GitHub 仓库:https://github.com/nvidia/cosmos 列出了相机运动(9D)、自动驾驶车辆(9D)、自我中心运动(57D)、单臂机器人(10D)、双臂机器人(20D)和类人机器人(29D)。

作为一种策略,Cosmos 3 Edge 会同时预测动作及其预期的视觉结果。当前状态输入;输出为动作及其可能的视觉结果。

动作的流动是双向的。模型可以预测某个动作的效果,或者从效果中推断动作。这将世界建模直接与机器人策略训练和评估连接起来。

NVIDIA 还发布了 Cosmos 3 Edge Policy(DROID)。它是一种机器人操作策略,在 DROID 数据集上进行了取放任务的后训练,并包含后训练脚本。开发者可以在小型 H100 集群或 NVIDIA DGX Station 上进行微调,然后再部署。

Cosmos 3 Edge 在 NVIDIA 边缘计算机上提供高效内存推理。目标设备包括 NVIDIA RTX PRO GPU、NVIDIA DGX、GeForce RTX GPU 以及 NVIDIA Jetson:https://blogs.nvidia.com/blog/jetson-thor-robotics-edge-ai-agent/,包括新发布的 Jetson T2000 和 T3000 模块。

作为一个后训练世界动作模型(WAM),该模型以 640×360 分辨率的机器人控制观测进行运行。在 NVIDIA Jetson Thor 上,它每次推理生成 32 个动作,同时在 15 Hz 实现实时控制。对于生成任务,Edge 级别支持 256p 和 480p 分辨率,帧率为 12–30 fps,以及 50–150 帧。

使用开放的 Cosmos 框架,开发者可以在大约一天内针对特定的实体和传感器集完成 Cosmos 3 Edge 的后训练。NVIDIA 建议 GeForce RTX 3070 或更高版本作为原型设计的本地入门设备。

来源:Hugging Face 发布文章:https://huggingface.co/blog/nvidia/cosmos3edge, Cosmos3-Edge 模型卡:https://huggingface.co/nvidia/Cosmos3-Edge, Cosmos 3 系列:https://huggingface.co/collections/nvidia/cosmos3, NVIDIA 技术报告 (PDF):https://research.nvidia.com/labs/cosmos-lab/cosmos3/technical-report.pdf, Cosmos GitHub:https://github.com/nvidia/cosmos, NVIDIA 开发者博客:https://developer.nvidia.com/blog/develop-physical-ai-reasoning-world-and-action-models-with-nvidia-cosmos-3/, Jetson Thor 博客:https://blogs.nvidia.com/blog/jetson-thor-robotics-edge-ai-agent/ 以及 NVIDIA 新闻中心:日本联盟:https://nvidianews.nvidia.com/news/japans-robotics-and-manufacturing-leaders-build-on-nvidia-cosmos-to-advance-physical-ai-frontier

NVIDIA 发布 Cosmos 3 Edge:40 亿参数开放世界模型,可在设备端推理并生成机器人动作

Asif Razzaq 是 Marktechpost Media Inc. 的首席执行官。作为一位有远见的企业家和工程师,Asif 致力于利用人工智能的潜力造福社会。他最近的项目是推出人工智能媒体平台 Marktechpost,该平台以对机器学习和深度学习新闻的深入报道而著称,内容既技术可靠又易于广大受众理解。该平台每月浏览量超过 200 万次,显示了其受欢迎程度。

Google Releases Gemini 3.6 Flash, 3.5 Flash-Lite, and 3.5 Flash Cyber

构建一个能动事件场馆运营商 [完整代码]:https://pxllnk.co/twdn5

谢谢!我们的团队将很快与您联系 🙌

情报判断

Aioga 编辑摘要

Aioga 编辑摘要:NVIDIA 发布 Cosmos 3 Edge,一款 40 亿参数的开放世界模型,专为设备端运行设计。 Aioga 将其归入「模型更新」方向,重点关注它对真实使用和行业竞争的影响。

背景分析

背景分析:模型与研究类动态需要结合能力边界、开放方式、成本、可用性和真实任务表现判断,单项指标领先不等于已经形成稳定采用。

Aioga 观点

Aioga 判断:这条动态更适合作为行业观察信号,当前信息足以建立线索,但不足以推导长期结论。

影响与后续

影响分析:对相关团队而言,短期应先核对来源、可用范围和实际成本,再判断是否值得接入或跟进。 后续观察:继续观察官方文档、实际可用性、价格变化、开发者反馈和竞品回应。

来源与版权说明

本页正文由公开来源页面提取并按原有信息整理,同时保留来源、发布时间和原文入口。版权归原作者及来源网站所有,请通过原文链接核验和阅读来源版本。

抓取通道: RSS · 原始域名: marktechpost.com

来源: MarkTechPost(RSS)

原文链接: 打开原始来源

Aioga 归档: 查看情报页

Content record: source-page · Updated: 2026-07-21T07:48:28.000Z

API 中转站
API RELAY · DEVELOPER INFRASTRUCTURE

API 中转站

统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。

立即访问 api.w173.com
AIOGA SHARE POSTER

分享这篇 AI 情报

NVIDIA 发布 Cosmos 3 Edge,一款 40 亿参数的开放世界模型,专为设备端运行设计。该模型可帮助机器人和视觉 AI 智能体理解环境、实时推理并在本地生成机器人...

MarkTechPost(RSS)2026-07-21T07:48:28.000Z
扫码打开文章详情扫码直达文章详情

Aioga 自动聚合全球 AI 动态,并保留来源信息用于核验与引用。