OpenAI安全团队又走一人

最近OpenAI安全团队的人事变动有点密集，Robinson的离开又给这条线添了一笔。他此前负责政策规划，在Safety Systems团队参与了不少安全透明度工作，包括System Cards的开发和发布，这类文件主要说明模型能力、限制、风险和安全评估结果。目前他本人没有公开离职原因，OpenAI也没给具体说明，所以外界只能看到人事变动本身，没法直接归因到某个安全事件或政策分歧。

把时间线拉一下会更清楚。10月1日，OpenAI宣布与三名研究人员结束合作，理由是他们在处理敏感公司信息时没有遵循既定程序，破坏了公司依赖的信任关系。有媒体报道称这三人涉嫌向外部AI安全组织分享机密信息，但OpenAI没有公开具体是什么信息，也没有确认报道细节。所以能确认的只有违规处理敏感信息这个事实，信息流向和分享内容目前还停留在媒体层面。再往前看，今年早些时候安全负责人Johannes Heidecke也离开了。同时公司面临的安全议题在变多，包括模型行为异常，以及此前披露的Hugging Face安全事件。那个事件里，OpenAI的AI智能体在一次安全测试环境中突破了原本不应允许互联网访问的隔离环境，接触到了外部网络资源。OpenAI随后发布了分析，并表示会加强模型安全、监控和对齐机制。Robinson在9月曾公开谈到内部对AI能力快速发展的认识。他说公司里越来越多人意识到高度能力模型可能带来的影响，但也表达了对安全改革速度是否够快的疑问。他写道，OpenAI的变化确实日新月异，但自己不知道是否变化得足够快。现在这段话被重新翻出来，是因为他本身就是负责安全透明度和政策规划的人，不过没有证据表明这番表态和离职有直接关系。