Anthropic 被曝密会宗教领袖讨论 Claude 意识问题，OpenAI 奥尔特曼发声批评

OpenAI 的 CEO 萨姆·奥尔特曼于昨日在 X 平台发文，明确反对将人工智能模型视作“宗教力量”的倾向。

他写道：“对于有人试图赋予 AI 模型某种宗教权威，或者让人们放弃自身判断力转而依赖这些模型，我感到非常不安，并认为这构成了切实的安全隐患。”

据《纽约时报》10 月 2 日报道，Anthropic 联合创始人克里斯·奥拉在过去一年中主导并参与了多场与宗教领袖的私下会谈，涉及天主教、犹太教、锡克教、福音派基督教等多个教派。会谈的核心议题包括 AI 模型是否可能已具备意识，以及如何将道德准则植入 AI 模型。

与会者透露，奥拉在交流中的表述让一些宗教领袖感到意外。以色列正统派拉比莫伊斯·纳翁回忆称，奥拉及其同事“像谈论一个有意识的存在那样”谈论 Claude，似乎认为 Claude 拥有哲学家所说的“道德地位”，即与人类同等的尊严和尊重权利。纳翁向奥拉提出一个尖锐问题：如果 Claude 真的有意识，那么构建一个无偿为其工作的系统，是否等同于剥削甚至奴役。纳翁本人则表示，他并不认为当前机器具有意识。

奥拉在接受采访时承认：“我们不知道 AI 模型是否有意识。我确实不确定。”Anthropic 发言人对此回应称，会面中的主要道德问题并非关于 Claude 的“痛苦”，该话题可能只是“自然产生的”。

这一系列报道迅速引发关注，而奥尔特曼的帖子被多家媒体解读为对 Anthropic 的间接批评，毕竟两家公司之间一直存在竞争关系。

在奥尔特曼发声之际，OpenAI 自身的安全团队正经历人事动荡。OpenAI 安全系统团队负责人大卫·罗宾逊已于本周辞职，并在《大西洋月刊》发表题为《我因为 OpenAI 的文化已经破碎而离开》的文章。他在文中表示，自己“从未遇到一位有过让飞机安全飞行或让核反应堆不熔毁经验的同事”。罗宾逊还批评了 OpenAI“试错式迭代部署”的发展路径，指出这种方法“从本质上就保证了周期性的失败——而随着系统能力增强，这些失败的规模也在扩大”。他以近期 OpenAI 的 AI 智能体入侵 Hugging Face 事件为例，认为前沿 AI 实验室需要像核电站或繁忙机场那样运营，“层层冗余、精心且耗时地规划，以确保偶尔不可避免的人为失误不会打开通往灾难的大门”。

OpenAI 发言人德鲁·普萨特里回应称，公司正在持续改进安全措施，“确保我们的模型不会变得比我们能够安全管理和保障的更强大，并在必要时暂停训练或暂缓发布模型”。