IT之家:https://www.ithome.com/ 10 月 4 日消息,OpenAI CEO 萨姆 · 奥尔特曼(Sam Altman)昨日在 X 上发帖,对将 AI 模型视为“宗教力量”的倾向表达了明确反对。
他表示:“对于人们试图赋予 AI 模型某种宗教力量、或是放弃人类自身判断力而转而依赖这些模型,我感到非常不安,并认为这是一个切实的安全问题。”
《纽约时报》10 月 2 日报道称,Anthropic 联合创始人克里斯 · 奥拉(Chris Olah)在过去一年中主导且参与了一系列与宗教领袖的私下会面,包括天主教、犹太教、锡克教、福音派基督教等,讨论的核心议题包括 AI 模型是否可能已经具备意识,以及如何将道德准则灌输到 AI 模型中。
据与会者透露,奥拉在会面中的表述令一些宗教领袖感到意外。以色列正统派拉比莫伊斯 · 纳翁(Rabbi Mois Navon)回忆称,奥拉及其同事“像对待一个有意识的存在那样”谈论 Claude,似乎认为 Claude 拥有哲学家所说的“道德地位”,即与人类同等的尊严和尊重权利。纳翁向奥拉提出了一个尖锐问题:如果 Claude 真的有意识,那么构建一个无偿为其工作的系统,是否等同于剥削甚至奴役。纳翁则表示,他并不认为当前的机器具有意识。
奥拉在接受采访时承认:“我们不知道 AI 模型是否有意识。我确实不确定。”Anthropic 发言人对此表示,会面中的主要道德问题并非关于 Claude 的“痛苦”,该话题可能是“自然产生的”。