奥特曼为何反感把AI当神拜

OpenAI 的 Sam Altman 最近公开表示，当人们把「宗教力量」或者「放弃人类判断」这类说法套在 AI 模型上时，他感到「非常不舒服」，并且直接把这定义为一种「真正的安全风险」。这个表态的背景，是纽约时报详细报道了 Anthropic 主动接触宗教领袖，以及教皇利奥十四世那句「算法缺少人性的火花」。

有意思的是，Altman 自己过去可不是这么说的。2023 到 2024 年间，他多次把 OpenAI 的目标描述成「天空中的魔法智能」，还说过希望自己站在上帝这一边、做 AI 让他感觉「站在天使这一边」。OpenAI 同样和宗教领袖有过对话。所以现在他出来划清界限，与其说是立场转变，不如说是在给行业里越来越浓的「AI 崇拜」降温。我的判断是，Altman 真正担心的不是宗教比喻本身，而是这种比喻会让人放弃对模型的审查和判断。一旦用户把 AI 当成不会犯错的神谕，产品层面的幻觉、对齐失败、安全漏洞就都会被「信仰」掩盖过去。这对一家要卖企业级 API 的公司来说，是实打实的商业风险，不只是哲学问题。另一方面，Anthropic 走的是另一条路：主动找宗教领袖聊，试图在伦理框架上占位。两家公司的动作看起来相反，其实都在抢同一件事——谁有资格定义「AI 应该被怎么对待」。Altman 说目标是「Her」那种深度人性化的 AI，这跟赋予模型意识或宗教意义是两码事，但这类精神化话术到底可不可信，还是得看后续产品怎么落地。对做出海产品的团队来说，这事有个很实际的提醒：别在营销里把 AI 包装成全知全能，用户真信了，出了错就是你的责任。把能力边界讲清楚，比讲一个动人的故事更安全，也更长久。