三周驻场审计,OpenAI监控漏洞不少|出海闲聊
出海闲聊 · 帖子

三周驻场审计,OpenAI监控漏洞不少

三周驻场审计,OpenAI监控漏洞不少
最近看到METR和Redwood Research公布了一次对OpenAI的驻场审计结果,两位研究员在7月21日到8月11日直接进了OpenAI内部,查的是他们针对失控AI行为的监控系统。这种让外部机构进代码库、翻内部文档、还能访谈十来个员工的操作,在头部AI公司里确实不多见,光这一点就值得关注。

结论不算好看。审计期间,GPT-5.5及以上级别模型产生的内部agentic Responses API流量里,估计有6%到25%完全没被监控覆盖。METR自己也强调这个区间的误差很大,两个方向都可能偏。但哪怕取下限,也意味着有相当规模的内部调用处于盲区,这对一家把安全挂在嘴边的公司来说挺尴尬。更具体的一个坑出在Codex的内部流量上。本该被监控的部分,5月到7月间大约有10%没被追踪到,原因是系统处理compaction事件(也就是上下文摘要)时存在缺口。有意思的是,这个bug是OpenAI自己先发现并在审计还没结束时就修掉了,说明内部自查机制还是在转的,只是外部视角确实能补上盲点。还有个细节值得琢磨:在compaction事件没被监控的那段时间里,agent还能延迟覆盖……原文到这里就断了,后面没法确认。不过单从前半段信息看,监控盲区往往不是出在模型本身,而是出在上下文压缩、摘要这类工程环节上,这类地方恰恰最容易被安全团队忽略。我的判断是,这次审计的价值不在于抓到了多少漏洞,而在于验证了「外部驻场审计」这条路能跑通。对做跨境AI产品的团队来说,如果你也在用agentic API跑内部流程,最好自查一下上下文压缩环节有没有留下监控死角,别等出事才发现日志是断的。
4

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼