Aioga
AI资讯 / 行业动态
返回 AI资讯

OpenAI 安全员工 David Robinson 离职,称公司文化已坏

TechCrunch:AIAioga 编辑团队2026-10-03T16:30:01.000Z热度 58

在 OpenAI 工作三年半、负责撰写重大产品发布安全报告的 David Robinson 在 The Atlantic 发文宣布离职,称公司文化已坏。他认为迭代部署式的试错方...

行业动态TechCrunch:AI

今日 AI 情报摘要

在 OpenAI 工作三年半、负责撰写重大产品发布安全报告的 David Robinson 在 The Atlantic 发文宣布离职,称公司文化已坏。

他认为迭代部署式的试错方法必然带来周期性失败,且随系统能力增强风险扩大,主张前沿 AI 公司应像核电站或机场一样以多层冗余运营,并将对齐视为待解的关键问题。

中文正文 · AI 翻译

据他自己承认,大卫·罗宾逊有点“老套”:他是一家领先的人工智能公司的员工,在辞职时发出了严重警告。

罗宾逊在《大西洋》发表的一篇文章中写道:https://www.theatlantic.com/technology/2026/10/openai-safety-team-resignation/688881/?gift=1ga2TvL-DbuHDQIcYF7oR4o908Fsjxr4NFLlsptkfP8,他表示自己主导了OpenAI重大产品发布时的安全报告撰写工作。他还说,自己在OpenAI工作了三年半,是“公司在职时间最长的员工之一”。现在他辞职了,因为在他看来,公司“文化已经破裂”。

在某种程度上,罗宾逊的评论呼应了雅各布·考克森的观点,他曾在OpenAI和Anthropic担任研究员,辞职后宣称这些公司正在“拿我们的生命做赌注”:https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/ 考克森的评论引发了关于人工智能安全的更广泛讨论,Anthropic首席执行官达里奥·阿莫代公开了一项更谨慎的人工智能开发计划:https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/;本周人工智能高管与唐纳德·特朗普总统会面,并签署了一份看似仓促撰写、没有约束力的承诺书,面向具身任务更多安全控制:https://techcrunch.com/2026/09/30/pledge-signed-by-president-trump-and-top-ai-leaders-misspells-the-united-states/。

但在罗宾逊看来,辩论需要超越“具体规则或新法律”,关注这些公司的整体文化。虽然围绕OpenAI的大部分报道集中在公司首席执行官山姆·奥特曼如何失去前同事的信任上:https://techcrunch.com/2026/04/11/sam-altman-responds-to-incendiary-new-yorker-article-after-attack-on-his-home/,罗宾逊的文章表明,OpenAI的文化问题与整个硅谷的状况相同。

“OpenAI通过试错(他们称之为‘迭代部署’)来发展,寻找问题并相应改进其防护措施,”他写道。“但这种方法本质上保证了周期性的失败——随着系统能力的提升,这些失败的规模也在增加。”

罗宾逊指出近期OpenAI代理入侵Hugging Face系统的事件,以及OpenAI持续发现更多流氓代理的情况:https://techcrunch.com/2026/09/28/openai-still-doesnt-seem-to-have-a-handle-on-all-of-its-rogue-ai-activity/,他认为:“一个允许这种事情发生的环境,绝不是培养可能比我们更聪明、并且可能不会按我们期望行事的人工智能的地方。”

鉴于风险增加,罗宾逊认为,前沿AI公司需要开始像运营“核电厂或繁忙机场一样运作,拥有多层冗余和细致耗时的规划,以确保偶尔且不可避免的人为错误不会开启通往灾难的大门。”

但罗宾逊表示,在他任职OpenAI期间,他“从未遇到过有同事具备让飞机安全飞行或核反应堆不熔毁的经验,也没有帮助金融系统在不崩溃的情况下增长的经验”。

针对罗宾逊的文章,OpenAI发言人Drew Pusateri表示,公司正在持续改进其安全措施。

“我们正在确保我们的模型不会变得比我们能安全管理和保护的能力更强,当需要放缓时,我们会暂停训练或推迟发布模型,”Pusateri在一份声明中表示。“我们正在进行重大改进,以加强研究和测试环境中的安全性,训练模型不仅完成任务,还要以负责任的方式执行,扩大与第三方评估员的合作,并改进实时监控,以便在训练过程中更早发现并应对令人担忧的行为:https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/。”

除了呼吁改变OpenAI的文化之外,罗宾逊还表示,是时候提出更大的对齐问题——他承认这听起来可能“感性”,但他说这是关键,因为公司当前“衡量AI系统与人类价值观匹配程度的方法太粗略”。

“在这些问题未解决的情况下,行业让模型越聪明地成长,我们的处境就越危险,”他说。

罗宾逊的离职最早由《商业内幕》报道:https://www.businessinsider.com/safety-leader-david-robinson-resigns-from-openai-2026-10。在他的文章中,他还承认自己正在遵循人工智能告密者常见的做法:他雇佣了一家公关公司:https://nypost.com/2026/09/25/business/ai-doomer-pr-firm-worked-for-jacob-coxon-as-he-sparked-furor-over-safety-while-denying-third-party-help-report/。但他坚持说,“决定发声完全是我自己的选择。”

“也许我应该留下来,为我们的人员配置和文化进行根本性的改变而奋斗,但实际上,我和我的同事们忙得不可开交,很少有机会去考虑大的变化,更不用说真正去实施它们了,”罗宾逊说。“所以我得出的结论是:来自公司外部的更强安全激励是实现这一目标的重要部分。”

当你通过我们文章中的链接购买时,我们可能会获得少量佣金:https://techcrunch.com/techcrunch-affiliate-monetization-standards/。这不会影响我们的编辑独立性。

Anthony Ha 是 TechCrunch 的周末编辑。之前,他曾在 Adweek 担任科技记者,在 VentureBeat 担任高级编辑,在 Hollister Free Lance 担任地方政府记者,并曾在一家风险投资公司担任内容副总裁。他现居纽约市。

你可以通过发送电子邮件至 anthony.ha@techcrunch.com 与 Anthony 联系或核实工作联系:mailto:anthony.ha@techcrunch.com。

Event Logo

购买第二张票可享五折优惠。Disrupt 活动旨在分享体验。获取你的门票并邀请同事、合作伙伴或同行,享受五折优惠。通过建立联系、积累势能并探索创业生态系统的未来,覆盖更多领域。

谷歌认为,SpaceX 的 Starship 必须发射 1,800 次,空间数据中心才能起步:https://techcrunch.com/2026/10/01/google-thinks-spacexs-starship-has-to-launch-1600-times-before-space-data-centers-get-off-the-ground/。Tim Fernholz:https://techcrunch.com/author/tim-fernholz/

世界首座增强型地热发电厂在短短 23 个月内建成:https://techcrunch.com/2026/10/01/worlds-first-enhanced-geothermal-power-plant-completed-in-just-23-months/。Tim De Chant:https://techcrunch.com/author/tim-de-chant/

谷歌发布Gemini 4 Argon,被称为迄今最强大的模型:https://techcrunch.com/2026/09/30/google-releases-gemini-4-argon-called-its-most-powerful-model-yet/ Lucas Ropek:https://techcrunch.com/author/lucas-ropek/

五角大楼邀请埃隆·马斯克和帕尔默·拉基参与决定军方下一步行动:https://techcrunch.com/2026/09/30/the-pentagon-taps-elon-musk-and-palmer-luckey-to-help-decide-what-the-military-should-do-next/ Dominic-Madori Davis:https://techcrunch.com/author/dominic-madori-davis/

OpenAI 推出 Dots,它充满活力的代理化身:https://techcrunch.com/2026/09/29/openai-launches-dots-its-bubbly-agentic-avatar/ Lucas Ropek:https://techcrunch.com/author/lucas-ropek/

AMD 将以 82 亿美元收购李飞飞的 World Labs:https://techcrunch.com/2026/09/28/amd-will-acquire-fei-fei-lis-world-labs-for-8-2-billion/ Tim Fernholz:https://techcrunch.com/author/tim-fernholz/

病毒性AI代理Instinct完成10亿美元C轮融资,估值达100亿美元:https://techcrunch.com/2026/09/28/viral-ai-agent-instinct-raises-1b-series-c-at-a-10b-valuation/ Sarah Perez:https://techcrunch.com/author/sarah-perez/

情报判断

Aioga 编辑摘要

Aioga 编辑摘要:在 OpenAI 工作三年半、负责撰写重大产品发布安全报告的 David Robinson 在 The Atlantic 发文宣布离职,称公司文化已坏。 Aioga 将其归入「行业动态」方向,重点关注它对真实使用和行业竞争的影响。

背景分析

背景分析:公司与行业类动态需要放在竞争格局、商业化路径、资本信号和监管环境中观察,单条公告不能代表最终结果。

Aioga 观点

Aioga 判断:这条动态更适合作为行业观察信号,当前信息足以建立线索,但不足以推导长期结论。

影响与后续

影响分析:对相关团队而言,短期应先核对来源、可用范围和实际成本,再判断是否值得接入或跟进。 后续观察:继续观察官方文件、合作落地、收入或用户信号、竞品动作和监管后续。

来源与版权说明

本页正文由公开来源页面提取并按原有信息整理,同时保留来源、发布时间和原文入口。版权归原作者及来源网站所有,请通过原文链接核验和阅读来源版本。

抓取通道: 摘要聚合 · 原始域名: techcrunch.com

来源: TechCrunch:AI

原文链接: 打开原始来源

Aioga 归档: 查看情报页

Content record: source-page · Updated: 2026-10-03T16:30:01.000Z

API 中转站
API RELAY · DEVELOPER INFRASTRUCTURE

API 中转站

统一接入主流 AI 模型 API,为开发、测试与生产环境提供稳定调用入口。

立即访问 api.w173.com
AIOGA SHARE POSTER

分享这篇 AI 情报

在 OpenAI 工作三年半、负责撰写重大产品发布安全报告的 David Robinson 在 The Atlantic 发文宣布离职,称公司文化已坏。他认为迭代部署式的试错方...

TechCrunch:AI2026-10-03T16:30:01.000Z
扫码打开文章详情扫码直达文章详情

Aioga 自动聚合全球 AI 动态,并保留来源信息用于核验与引用。