本地大模型工具一天一版 长对话终于不崩了

昨天刚看到 Strata 更新多显卡分工，今天 0.2.3 就正式版了，引擎同步到 0.1.48。这种一天一个版本的节奏，说实话跟得有点累，但也说明这个开源项目确实在快速迭代。我自己最关心的不是跑分，而是它这次把 AI Agent 长对话崩溃的问题摆上台面了。

之前用本地 Agent 跑连续任务，聊到后面上下文越堆越满，内存一爆 Strata 直接闪退，前面干的活全白费。这次它会自动检查上下文占用，分段总结旧消息，超限时给一个「总结并继续」的选项，还加了 /compact 命令手动压缩。对经常挂长任务的人来说，这比单纯提速更实用。性能方面有两组数据可以参考：AMD Strix Halo 相比 0.2.2 回答速度提升 6% 到 19%，代码生成和工具调用都接近 19%；NVIDIA RTX 5070 12GB 优化 CPU 线程和显存分配后，Gyro-S 生成速度从 31 提到 45 tokens/s，约 45%，不过基准是 0.2.1。这些数字来自特定硬件和模型，换张卡未必一样，还是得自己实测。另外正式提供了 Intel Arc 显卡的 Linux 推理引擎，还加了实验性的 DFlash2 推测解码，用草稿模型提前预测 token 来提速。我的判断是，本地推理工具竞争已经从「能不能跑」进入「跑得稳不稳、长任务扛不扛得住」的阶段，上下文管理会变成硬指标。给想尝鲜的朋友一个建议：别急着每个版本都追，等 0.2.3 这种带关键修复的正式版再升。如果你主要跑短对话，提升感知不强；但要是拿它当本地 Agent 底座，这次值得更新，记得先备份旧配置。