Demis Hassabis, Mitbegründer von Google DeepMind, schrieb, dass AGI in nur wenigen Jahren realisiert
werden könnte, mit einer Wirkung zehnmal größer als die der Industriellen Revolution und viel schneller. Er wies darauf hin, dass Frontier-Modelle bereits Herausforderungen in Cybersicherheit, nuklearen und biologischen Risiken darstellen und robuste Abwehrmechanismen für zunehmend agentenbasierte, sich wiederholende selbstverbessernde Systeme in Zukunft aufgebaut werden müssen. Hassabis fordert die USA auf, die Führung bei der Einrichtung eines hochmodernen KI-Standardisierungsorgans ähnlich dem FINRA zu übernehmen, indem ein bundesstaatlich überwachtes Modell der öffentlich-privaten Partnerschaft oder einer Selbstregulierungsorganisation eingeführt wird, mit einem Gremium aus unabhängigen technischen Experten und Open-Source-Vertretern, die hauptsächlich von der Industrie finanziert werden, um Top-Talente und Rechenleistungen anzuziehen. Er betonte, dass der aktuelle geschäftliche und geopolitische Wettbewerb den technologischen Fortschritt schneller bewirkt, als man vermutet, und dass die öffentliche Politik mit Vorsicht und
Google DeepMind 联合创始人 Demis Hassabis 发文称,AGI 可能仅需数年即可实现,其影响将达工业革命的10倍且速度更快。
他指出,前沿模型在网络安全、核与生物风险方面已构成挑战,未来需对日益智能体化、递归自我改进的系统建立稳健防护。
Hassabis 呼吁美国率先建立类似 FINRA 的前沿AI标准机构,采用联邦监督下的公私合作或自律组织模式,由独立技术专家和开源代表组成董事会,资金主要来自行业以吸引顶尖人才和算力。
他强调,当前商业与地缘竞赛导致技术进步快于理解,需以谨慎乐观态度推进公共政策,兼顾创新与安全。