奥特曼为何急着给AI去神化
看到 Sam Altman 公开说,当人们把宗教式的力量或者对人类判断力的放弃投射到 AI 模型上时,他会感到「非常不舒服」,并且把这称为一个真实的安全问题。这个表态挺有意思,因为过去几年他自己就是最擅长给 AI 加神话滤镜的人之一。
他之前说过 OpenAI 的目标是造出「天空中的魔法智能」,也说过希望自己站在上帝这一边、做 AI 让他感觉「站在天使这一侧」。OpenAI 同样和宗教领袖有过接触。现在他反过来提醒大家别把模型当神,这个转向本身值得琢磨。背景是《纽约时报》详细报道了 Anthropic 向宗教领袖伸出橄榄枝,以及教皇利奥十四世表态说「算法缺少人性的火花」。也就是说,AI 公司和宗教话语的纠缠已经不是个别现象,而是一种行业性的公关与伦理姿态。我的判断是,Altman 反对的未必是宗教隐喻本身,而是反对用户把最终判断权交出去。把模型当成有意识、有神性的存在,会让人放弃验证和质疑,这才是他说的安全风险。但问题在于,一边讲「天空中的魔法智能」,一边又要求大家保持清醒,这种话术很难不让人怀疑是在挑选对自己有利的叙事。对做出海产品的团队来说,这其实是个提醒:别在文案和交互里把 AI 包装成全知全能的存在。用户一旦真的信了,出了错就是你的责任,而且这种信任反噬起来比技术故障更难收拾。
他之前说过 OpenAI 的目标是造出「天空中的魔法智能」,也说过希望自己站在上帝这一边、做 AI 让他感觉「站在天使这一侧」。OpenAI 同样和宗教领袖有过接触。现在他反过来提醒大家别把模型当神,这个转向本身值得琢磨。背景是《纽约时报》详细报道了 Anthropic 向宗教领袖伸出橄榄枝,以及教皇利奥十四世表态说「算法缺少人性的火花」。也就是说,AI 公司和宗教话语的纠缠已经不是个别现象,而是一种行业性的公关与伦理姿态。我的判断是,Altman 反对的未必是宗教隐喻本身,而是反对用户把最终判断权交出去。把模型当成有意识、有神性的存在,会让人放弃验证和质疑,这才是他说的安全风险。但问题在于,一边讲「天空中的魔法智能」,一边又要求大家保持清醒,这种话术很难不让人怀疑是在挑选对自己有利的叙事。对做出海产品的团队来说,这其实是个提醒:别在文案和交互里把 AI 包装成全知全能的存在。用户一旦真的信了,出了错就是你的责任,而且这种信任反噬起来比技术故障更难收拾。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼