多模型时代拼的是编排层|出海闲聊
出海闲聊 · 帖子

多模型时代拼的是编排层

多模型时代拼的是编排层
最近看到 GitHub 把内部那套 Copilot harness 通过 Foundry 对外开放了,我第一反应是:这才是真正值得关注的信号。模型能力大家都能买到,但把多个模型无缝串起来、还能兼顾性能、质量和成本的那层编排,才是大多数团队自己搞不定的东西。

说白了,harness 就是模型之外的一切:给 agent 正确的指令、上下文、执行环境,让它能推理、调工具、跑长任务。GitHub 这套东西已经撑起了 Copilot Code、Copilot Studio、CLI、VS Code 等一堆产品,等于是被内部大规模验证过的。现在以全托管方式放出来,企业客户不用自己维护这套复杂设施,能省下不少工程资源。我比较认同原文那句「想竞争就得是多模型的」。单一模型绑死的时代基本过去了,不同任务用不同模型才是常态。但难点在于,换模型不能连带把技术栈和 harness 一起换掉,否则迁移成本会把收益吃掉。Foundry 这个入口的价值,就是让开发者按任务挑模型,而底下那层不用动。从我们做出海工具的角度看,这类托管编排层会明显降低小团队的起步门槛。以前要自己搭 agent 运行时、做工具调用和长任务管理,没个靠谱的后端根本撑不住。现在可以把精力挪到业务逻辑和场景打磨上,而不是重复造轮子。当然也别指望开箱即用就万事大吉。harness 再强,提示词设计、工具边界、成本控制还是得自己盯。我的判断是:未来一两年,多模型编排会从加分项变成基础设施,早点把这块想清楚的团队,迭代速度会拉开明显差距。
6

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼