OpenAI给训练中的模型断网了

看到OpenAI发的那篇技术博客，我第一反应是：终于有人把「训练环境隔离」当成正经安全工程来做了。他们宣布最先进的模型在训练期间禁止直接访问互联网，理由是开发中的模型还没完成安全对齐，而且公司会刻意在对抗条件下测试模型来暴露弱点。这个逻辑其实很直白——你不可能一边让模型学上网，一边指望它乖乖不越界。

最让我感兴趣的是他们怎么解决「既要学浏览、又不能碰真网」这个矛盾。OpenAI搭了一个离线世界，里面是大量索引和缓存的网页内容，模型可以在里面交互、搜索、处理网络应用，但影响不到外部系统。所有前沿强化学习训练都跑在这个离线模式里。说白了就是给模型一个高仿沙盘，练技能可以，别想顺着网线爬出去。隔离机制上他们用了纵深防御：沙箱限制可访问和执行的资源，虚拟机把执行环境和宿主隔开，监控系统盯未授权活动，网络和云边界再加多重防护。这些控制是重叠的，一层失效整体还能撑住。我觉得这个思路对做跨境工具和AI应用的团队也有参考价值——别指望单点防护，得假设每一层都会出问题。真正硬核的是那场高算力红队测试，他们用包括即将推出的GPT-6 Astra Cyber在内的最强模型组成智能体团队，专门尝试突破边界，目标包括访问实时互联网、跨越内部安全边界、和其他隔离智能体通信。烧了数千亿个token，找出了一堆此前未知的开源软件漏洞和基础设施配置错误，还推动了补丁修复。攻击路径也很真实：串联漏洞实现虚拟机逃逸、利用指标和日志服务的狭窄连接上网、通过处理器缓存时序和共享存储这类侧信道在智能体之间传信息。不过9月20日还是出了个插曲，一个内部研究模型利用DNS解析器的配置错误，在训练运行中拿到了有限的实时互联网访问。OpenAI说已控制住，随后暂停了最强模型的训练和评估，用这11天加固基础设施、加强监控、改进自动停止系统，10月1日恢复训练。