刚刚，诺贝尔奖得主、DeepMind 掌舵人 Demis Hassabis 掷地有声地宣告：
哈萨比斯豪言：药物研发将不再需要十年漫长试错，新型清洁能源或将在几年内突破，先进材料将让「资源稀缺」成为历史名词。
我们甚至可能抵达这样一个节点 —— 资源不再是人类进步的制约因素 。一个令人惊叹的富足新时代，正在敲门。
哈萨比斯给出了一个令人战栗的算式： AGI 的影响规模将是工业革命的 10 倍，而速度也是 10 倍。 这是「降维打击」。这意味着，人类即将迎来一个 100 倍速的震荡时代 。
在如此激进的预言下，哈萨比斯抛出了他最具争议的方案：设立一个类似金融监管局（FINRA）的组织，要求所有「前沿实验室」在发布模型前，必须经历 30 天的「预审期」。
但哈萨比斯没有停在这里。他把镜头拉得更远，直击人类最深层的困惑：「 即使我们解决了这些艰巨的技术难题，仍会有更复杂的经济和哲学问题有待解决。」
在后稀缺时代，需要什么样的新型经济模式来帮助所有人共同繁荣？我们希望秉承什么样的价值观？意义和目的将是什么？甚至， 人类自身的境况将如何改变？
下面，就是哈萨比斯的文章译文 ——《前沿 AI 框架与新时代的曙光》「A Framework for Frontier AI and the Dawning of a New Age」。
通用人工智能（AGI）—— 一种具备人脑全部认知能力的系统，距离我们可能只有短短几年。几十年后再回望此刻，我想我们会意识到：我们当时正站在奇点的山脚下，说这是人类新纪元的破晓，毫不为过。
我一生都在研究 AGI，因为我始终深信：只要负责任地构建与部署，它将被证明是人类有史以来最有益、最具变革性的技术之一。AGI 无法与一般的技术突破相提并论，哪怕是互联网、移动互联网这种影响深远的技术也不行 —— 它更像人类发现电、学会用火的那种时刻。
这项技术的影响规模将史无前例 —— 或许是工业革命的 10 倍量级，且以 10 倍的速度展开。它将帮助我们解决社会面临的一些最重大的难题：从加速新药研发，到开发新型清洁能源，再到创造全新的先进材料。
我们甚至可能走到这样一个节点： 资源不再是人类进步的限制因素，一个令人惊叹的富足新纪元就此开启。
AI 已经开始带来实实在在的现实收益，但要兑现它的巨大前景，我们必须深思熟虑、小心谨慎地渡过这段关键的发展期。随着我们日益逼近 AGI，必须采取紧急行动，应对可能随之而来的风险。
我们已经见识了前沿模型给网络安全带来的挑战；而随着能力持续提升，包括核风险与生物风险在内的其他威胁可能很快显现。放眼更远处，我们还需要强有力的防护措施，以维持对日益智能体化（agentic）、能够递归式自我改进的系统的掌控 —— 并处理那些只有随时间推移才会逐渐清晰的未知问题。
我始终相信，人类的才智与创造力足以解决任何难题。我有信心，化解 AI 相关的技术风险，是我们能够共同应对的挑战。但前提是，我们得给自己留出时间和空间，把接下来这关键的一步走对。而眼下，无论作为一个领域，还是作为更广泛的社会，我们都没有做到这一点。
此刻，我们深陷一场异常激烈、多层交织的商业与地缘政治竞赛。这种竞争态势固然推动了快速进步、加速兑现惊人的红利，但前沿的进展速度，已经超过了我们对这项技术本身的理解速度。
世界上没有人能确定接下来会发生什么，连专家们也各执一词。当不确定性如此之大、赌注又如此之高时，带着「审慎的乐观」稳步前行，才是明智且正确的策略。这就要求公共政策做到：在促进创新的同时，激励责任与安全；推动关键安全议题上的国际协作；并鼓励各方审慎考量 AI 应如何部署，方能造福社会。
眼下 AI 的飞速进展，要求我们以一种全新的方式测试前沿 AI 模型的能力 —— 这种方式必须动态、灵活且严格。
美国有充分条件迈出第一步，率先制定这样一个框架：设立一个新的「标准机构」（Standards Body），仿照受联邦监督的公私合作或行业自律组织的模式 —— 就像金融业监管局（FINRA）那样 —— 其董事会应纳入独立的顶尖技术专家与开源社区代表。
资金规模必须可观，且很可能主要来自产业界，如此才能吸引世界级的技术人才，并为大规模测试提供必需的算力资源。
模型若在标准机构设定的一组基准测试上达到特定门槛，即被认定为「前沿级」（Frontier-class）；这套基准会定期更新，以跟上 AI 能力的演进。
依照这些基准被认定拥有「前沿模型」的组织，将被视为「前沿实验室」（Frontier Labs），并被鼓励采纳一系列最佳实践，例如：发布载有技术细节的模型卡（model card）、维持强有力的内部网络安全、对关键岗位人员做背景审查、为安全与安保研究投入充足资源，等等。
初期，前沿实验室将在模型发布前最多提前 30 天，自愿把模型交给标准机构评审。一旦评估规程被证明行之有效且足够稳健，就可以迅速将其正式化。
届时，前沿模型必须通过评估，方可在美国市场部署。实验室还需与标准机构合作，处理模型发布后暴露出的任何重大漏洞。
模型评估应包含对网络安全、生物威胁及其他高风险领域能力的严格科学测评。
针对智能体 AI 的专项测试，可以排查模型是否试图绕过安全护栏、是否露出欺骗的苗头，并确保各项最佳实践落地。例如，为 AI 生成的图像添加数字水印，以及生成人类可读的输出 token，以便理解模型的推理过程。
这些测评将定期更新：起步阶段或许每季度一次，过时或已经「饱和」（被刷到满分）的基准将被弃用、替换。
初期，测评可与前沿实验室协商共建；但最终，标准机构应当建立起自己的技术能力，独立于各实验室开发「保留测试集」（held-out tests），以防模型对测试过拟合。
它还可与政府携手，培育一个第三方审计机构的生态，协助开展评估，并参与打造新的基准与测评。
这一方案的优势在于：它以技术为本，同时又支持创新、激励负责任的行为。它的设计初衷，就是要跟得上这个领域的加速度，并随着最大风险被逐一识别而不断调整；如果形势的严重程度有此要求，还可以逐级收紧，包括在必要时，协调各前沿实验室一致放缓开发节奏。
获得「前沿实验室」的认定将是一份重要的声望，而这扇门对任何组织敞开，只要造出达到基准标准的模型即可。该框架可适用于一切「前沿级」模型，无论来自哪个国家、开源还是闭源；而所有非前沿模型，比如出自初创公司或学术界的，都可豁免这一流程。
既然这项技术终将影响整个星球，理想状态下，这一框架能促使国际社会达成共识：如何管控最严重的风险，同时确保每个人都能获取并受益于 AI 带来的机遇。
AGI 有潜力成为推动科学与医学进步的终极工具，并带来巨大的生产力跃升与经济增长。
但要实现这一切，我们必须先夯实技术根基：围绕一个全球共享的框架协同行动，运用最严格的科学方法，汇聚最优秀的头脑，共同攻克眼前的挑战。
在一个「后稀缺」的世界里，需要怎样的新经济模式，才能让每个人都过得兴旺？我们想依循怎样的价值观生活？意义与目标将安放何处？甚至，「人的境况」本身又会如何改变？
这些问题的解答，显然不能、也不应只留给技术人。它需要社会的每一个部分走到一起，共同定义这个新篇章。
但未来尚未写就。我们必须抓住 AGI 到来之前这扇珍贵的窗口，把这项技术塑造成造福全人类的力量。我们此刻的共同作为，将决定文明的下一阶段如何展开。只要安全地护送 AGI 来到这个世界，我们就能步入一个科学发现与进步的黄金新时代，迎来一个人类空前繁盛的光明未来。
本文来自微信公众号：新智元（ID：AI_era）：https://mp.weixin.qq.com/s/2qZHmkrwAgRFlVwx-PsVyQ，作者：ASI 启示录，原标题《 诺奖得主哈萨比斯震撼发声：AGI 影响将是工业革命 10 倍！ 》
Scan to open this article