Demis Hassabis, oprichter en CEO van Google DeepMind, vindt dat de Amerikaanse overheid een wereldwijd AI-toezichtsorgaan moet oprichten om "de rem te trap...
行业动态IT之家(RSS)
Dagelijkse AI-briefing
Demis Hassabis, oprichter en CEO van Google DeepMind, vindt dat de Amerikaanse overheid een
wereldwijd AI-toezichtsorgaan moet oprichten om "de rem te trappen" wanneer toonaangevende AI-modellen risico's ondervinden. Hassabis stelde voor dat de instantie zich zou verwijzen naar de Amerikaanse Financial Industry Regulatory Authority (FINRA), onafhankelijke experts en vertegenwoordigers van de open source gemeenschap zou samenbrengen om beveiligingsbeoordelingen uit te voeren voordat geavanceerde modellen worden gelanceerd, of de sector zou coördineren om het releasetempo te vertragen wanneer een model te risicovol is. Hij heeft de afgelopen maanden gelobbyd bij de Amerikaanse overheid, andere AI-laboratoria en Europese functionarissen, in de hoop dat de instelling tegen het einde van dit jaar operationeel zal zijn.
Fragment uit het originele artikel
IT之家:https://www.ithome.com/ 7 月 14 日消息,据科技媒体 The Verge 今天报道,谷歌 DeepMind 创始人兼 CEO 德米斯 · 哈萨比斯(Demis Hassabis)认为,美国政府应成立全球 AI 监督机构, 让人们能够在前沿 AI 模型发生险情时踩下“刹车” 。
哈萨比斯认为,美国应该主导这一倡议并制定全球标准。他认为这个设想中的机构可以参考美国金融业监管局(IT之家注:FINRA),汇聚独立专家和开源社区代表,并在前沿 AI 模型发布前进行安全评估;或在某款模型风险过高时,协调整个行业放缓发布节奏。
据悉,哈萨比斯已经在过去几个月推进这一提案,并在美国政府、其他 AI 实验室和欧洲官员之间奔走,希望这一机构能够在今年年底前投入运作。
情报判断
Aioga 编辑摘要
谷歌 DeepMind 创始人兼 CEO 德米斯·哈萨比斯提出,由美国牵头建立全球 AI 监督机构,在前沿模型发布前开展安全评估,并在模型风险过高时协调行业放缓发布节奏。
背景分析
该设想参考美国金融业监管局模式,计划汇聚独立专家和开源社区代表。哈萨比斯过去几个月已同美国政府、其他 AI 实验室及欧洲官员沟通,希望机构在今年年底前投入运作。
Aioga 观点
Aioga 判断,这一提议的核心是为前沿 AI 模型建立跨机构的风险评估与协调机制,但材料仅呈现哈萨比斯的主张及推动情况,尚未说明有关政府或行业是否正式接受。
影响与后续
值得关注的是,若相关设想获得推进,前沿模型发布前的安全评估和高风险情况下的行业协调可能成为讨论重点;但机构权限、参与范围及具体执行方式,材料均未明确。 后续可关注美国政府、欧洲官员及其他 AI 实验室是否公开回应,以及该机构能否按哈萨比斯所希望的时间投入运作。还应核实其组织形式、安全评估流程与协调机制。
Demis Hassabis, oprichter en CEO van Google DeepMind, vindt dat de Amerikaanse overheid een wereldwijd AI-toezichtsorgaan moet oprichten om "de rem te trap...