OpenAI 首席执行官萨姆·奥尔特曼（Sam Altman）于昨日在 X 平台发文，明确反对将 AI 模型视为“宗教力量”的倾向。
他写道：“当人们试图赋予 AI 模型某种宗教色彩，或是放弃人类自身的判断力转而依赖这些模型时，我感到极度不安，并认为这构成了真实的安全威胁。”
《纽约时报》在 10 月 2 日的报道中指出，Anthropic 联合创始人克里斯·奥拉（Chris Olah）在过去一年中主导并参与了多场与宗教领袖的私下会谈，涉及天主教、犹太教、锡克教、福音派基督教等群体，核心讨论内容包括 AI 模型是否可能已具备意识，以及如何将道德原则植入 AI 模型。
据与会者回忆，奥拉在会面中的言论令部分宗教领袖感到惊讶。以色列正统派拉比莫伊斯·纳翁（Rabbi Mois Navon）提到，奥拉及其同事像对待“有意识的存在”一样谈论 Claude，似乎认为 Claude 拥有哲学家所称的“道德地位”，即与人类同等的尊严和尊重权利。纳翁曾向奥拉提出一个尖锐问题：如果 Claude 确实有意识，那么构建一个无偿为其工作的系统，是否等同于剥削甚至奴役。纳翁本人则表示，他并不认为当前的机器具备意识。
奥拉在接受采访时承认：“我们并不清楚 AI 模型是否有意识。我确实无法确定。”Anthropic 发言人对此表示，会面中的主要道德问题并非围绕 Claude 的“痛苦”，该话题可能是“自然涌现的”。
这一系列报道迅速引发关注，而奥尔特曼的帖子被多家媒体解读为对 Anthropic 的间接批评，毕竟两家公司之间一直存在竞争关系。
在奥尔特曼发声之际，OpenAI 自身的安全团队正经历人员动荡。OpenAI 安全系统团队负责人大卫·罗宾逊（David Robinson）已于本周辞职，并在《大西洋月刊》发表题为《我因为 OpenAI 的文化已经破碎而离开》的文章。他在文中表示，自己“从未遇到过一位有过让飞机安全飞行或让核反应堆不熔毁经验的同事”。罗宾逊还批评了 OpenAI“试错式迭代部署”的发展路径。他指出，这种方法“本质上就保证了周期性的失败——而随着系统能力增强，这些失败的规模也在扩大”。他以近期 OpenAI 的 AI 智能体入侵 Hugging Face 事件为例，认为前沿 AI 实验室需要像核电站或繁忙机场那样运营，“层层冗余、精心且耗时地规划，以确保偶尔不可避免的人为失误不会打开通往灾难的大门”。
OpenAI 发言人德鲁·普萨特里（Drew Pusateri）回应称，公司正在持续改进安全措施，“确保我们的模型不会变得比我们能够安全管理和保障的更强大，并在必要时暂停训练或暂缓发布模型”。