OpenAI 年底前或再发新模型
最近看到一条消息,说 OpenAI 正在赶工下一代旗舰模型,员工透露年底前很可能再发一到两个新模型,但那个「重大升级版」能不能赶上这班车还不好说。消息来自 The Information 的线人,听起来不是空穴来风,但也没有板上钉钉。
这次比较有意思的是技术路线。据说新旗舰用的是和 Astra 同款的「循环 Transformer」结构,简单说就是让模型在推理时反复跑几遍同一套层,用算力换效果。好处很直接:数学和代码能力能明显往上抬一截,这也是目前各家拼得最凶的两个方向。但代价也很现实——安全监控会变得更难。循环结构让内部计算路径变长、变复杂,想解释模型为什么给出某个答案,比传统前馈网络费劲得多。对一家把「安全」挂在嘴边的公司来说,这等于给自己出了道难题:性能上去了,可解释性和对齐验证的难度也跟着上去了。还有个绕不开的环节是合规。按特朗普那份针对先进 AI 系统评估的行政令,OpenAI 已经答应在新模型发布前最多 30 天让美国政府提前接触。也就是说,就算内部安全评估过了,还得再等政府这一关,时间表上多了一层不确定性。我的判断是,年底前那一到两个模型,大概率是现有产品线的小步快跑,真正的旗舰还得再等等。对齐没做完、测试基础设施没补齐、政府审查没走完,这三件事任何一件拖住,发布就得往后挪。对做应用层的人来说,与其盯着旗舰什么时候来,不如先把现有模型的能力边界摸透,毕竟能落地的产品从来不靠等最强模型。
这次比较有意思的是技术路线。据说新旗舰用的是和 Astra 同款的「循环 Transformer」结构,简单说就是让模型在推理时反复跑几遍同一套层,用算力换效果。好处很直接:数学和代码能力能明显往上抬一截,这也是目前各家拼得最凶的两个方向。但代价也很现实——安全监控会变得更难。循环结构让内部计算路径变长、变复杂,想解释模型为什么给出某个答案,比传统前馈网络费劲得多。对一家把「安全」挂在嘴边的公司来说,这等于给自己出了道难题:性能上去了,可解释性和对齐验证的难度也跟着上去了。还有个绕不开的环节是合规。按特朗普那份针对先进 AI 系统评估的行政令,OpenAI 已经答应在新模型发布前最多 30 天让美国政府提前接触。也就是说,就算内部安全评估过了,还得再等政府这一关,时间表上多了一层不确定性。我的判断是,年底前那一到两个模型,大概率是现有产品线的小步快跑,真正的旗舰还得再等等。对齐没做完、测试基础设施没补齐、政府审查没走完,这三件事任何一件拖住,发布就得往后挪。对做应用层的人来说,与其盯着旗舰什么时候来,不如先把现有模型的能力边界摸透,毕竟能落地的产品从来不靠等最强模型。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼