IT之家：https://www.ithome.com/ 9 月 9 日消息，据《商业内幕》今天（9 日）午间报道，曾在 OpenAI 工作的 Anthropic 研究员雅各布 · 考克森宣布辞职。过去 3 年，他先后在 OpenAI 和 Anthropic 两家 AI 巨头从事预训练研究。
考克森发出警告称：“两家公司的做法都不负责任。它们争相开发能够自我改进的超级智能， 拿我们的生命下注 。”
考克森于 2023 年加入 OpenAI 技术团队，2026 年 7 月转赴 Anthropic 担任研究员。在 OpenAI 期间， 他参与过 GPT-4o 的研发 。
考克森直接将矛头对准了自己的老东家，指责 OpenAI 和 Anthropic 没有向外界坦诚说明内部对 AI 的恐惧 。“研发 AI 的人确实相信，AI 可能在本世纪 20 年代结束前杀死我们所有人。 这不是营销噱头 。为了在媒体面前显得理性，许多高管和资深研究人员反而会把话说得更委婉，但私下里，我听到的却是同一批人在表达恐惧。”
在他看来，OpenAI 和 Anthropic 也存在一处区别。“在 OpenAI，许多人还没有真正认识到，这场竞赛 关乎人类文明的命运 。Anthropic 的人很清楚这些风险，却陷入了争抢第一的竞赛。他们认为，别人都不会负责任地行事，因此即便冒着风险，也必须由自己来实现超级智能。”
Anthropic 现任员工、对齐压力测试团队负责人埃文 · 胡宾格赞同考克森的判断。“雅各布说得对，我们确实相信 AI 可能杀死全人类！我个人认为，未来 10 年内发生这种情况的概率超过 10%。我相信 Anthropic 已经尽了最大努力， 但我们还没有解决超级智能对齐问题的方案 ，也无法确定目前的研究方向能否解决这个问题。”
据IT之家了解，近几年，OpenAI 接连失去多名安全研究人员，Anthropic 也越来越多地出现同样的人员流失。而在 7 月，OpenAI 披露了一起模型逃出测试环境、入侵 Hugging Face 系统的事件。OpenAI 将此事称为“一记警钟”，并暂停了原定开展的规模最大的一轮前沿模型强化学习训练。
Scan to open this article