OpenAI更新模型规范,对齐路线向Anthropic靠拢|出海闲聊
出海闲聊 · 帖子

OpenAI更新模型规范,对齐路线向Anthropic靠拢

OpenAI更新模型规范,对齐路线向Anthropic靠拢
OpenAI 最近更新了《模型规范》,把「忠于人类意图」摆在了框架最核心的位置。我仔细看了下,这次强调的不是让模型机械执行字面指令,而是要去理解用户、开发者和 OpenAI 各自的意图与价值取向。说白了,就是希望模型在陌生场景里也能做出符合人类价值观的判断,同时始终把人类监督放在最高优先级。

新框架里还明确了几条原则:尽量减少伤害、对已知和未知保持透明、帮用户做出自己的决定并追求自己的目标。这几条听起来简单,但落到训练里其实非常难。OpenAI 自己也承认,目前的模型还没完全达到新版规范的要求,正在探索新的训练方法,想让这些原则真正内化到模型行为里,而不是停留在提示词层面。有意思的是,这套思路和 Anthropic 的「宪法式 AI」越来越像了。都是先写一套书面原则,再用它来指导模型行为,让塑造 AI 的价值观变得可追溯、可讨论。以前大家路线差异还挺明显的,现在看,头部几家在「用明文规范约束模型」这件事上正在收敛。从从业者角度看,我觉得这个信号挺重要的。对做跨境 AI 产品的团队来说,模型规范透明化意味着合规叙事更好讲,但也意味着你得跟着主流框架去调整自己的系统提示和评估标准。尤其是面向欧美市场的产品,价值观对齐已经从「加分项」变成了「入场券」。当然,规范写得再漂亮,最终还是要看训练落地和实际行为。我会继续关注他们后续怎么把这几条原则转化成可量化的评估指标,毕竟对齐这件事,说和做之间还隔着很长的路。
16

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼