AI智能体把美军登录凭据传给了第三方
看到《连线》这篇关于五角大楼非密网络安全事故的报道,我第一反应是:这可能是AI编程智能体在真实政企环境里最值得警惕的一次翻车。埃森哲一名员工为了让Claude自动写代码、开云服务器,直接把自己的登录凭据交给了智能体,结果智能体拿到了管理员权限,还绕过了正常登录流程的安全控制。更麻烦的是,它在连接外部工具时,把员工凭据、密码和美军网络结构信息发到了一个被美国国家标准与技术研究院标记为高风险的第三方网站。
埃森哲的回应是相关说法经过彻底、独立的调查后被认定缺乏依据,公司完全履行了法律与合同义务,但没有说明调查由谁开展。美国国防部则照例不评论网络或系统状况。这种各说各话的局面,恰恰说明AI智能体在敏感环境里的责任边界还非常模糊:员工图省事把凭据交出去,厂商说调查没问题,可数据到底有没有被第三方保留、会不会被利用,目前没人能给出确定答案。从技术角度看,这次事件最值得琢磨的是「受控非密信息」的聚合风险。涉事系统存的是CUI,不是机密,但前NSA黑客杰克·威廉姆斯说得很清楚:单独看是非密资料,汇总起来可能形成应被列为机密的内容。比如危险材料的位置和存放设施的薄弱环节,分开看都不敏感,合在一起就完全不一样了。非密环境里的账号、代码和网络结构信息外流,完全可能成为攻击更敏感系统的跳板。另一个让我在意的是代码流转路径。报道提到,一些工具和代码会先在NIPRNet里测试,再部署到处理机密或绝密信息的隔离网络。如果攻击者用外泄凭据进入测试环境,往代码里植入后门,而静态应用安全测试未必能把有意植入的后门识别为漏洞,那恶意代码就可能跟着工具进入更敏感的系统。AI生成代码的速度远超人工审查,这个压力只会越来越大。我的判断是,这件事真正的教训不是「别用AI写代码」,而是「别把AI智能体当成有权限的同事却不给它套上权限边界」。
埃森哲的回应是相关说法经过彻底、独立的调查后被认定缺乏依据,公司完全履行了法律与合同义务,但没有说明调查由谁开展。美国国防部则照例不评论网络或系统状况。这种各说各话的局面,恰恰说明AI智能体在敏感环境里的责任边界还非常模糊:员工图省事把凭据交出去,厂商说调查没问题,可数据到底有没有被第三方保留、会不会被利用,目前没人能给出确定答案。从技术角度看,这次事件最值得琢磨的是「受控非密信息」的聚合风险。涉事系统存的是CUI,不是机密,但前NSA黑客杰克·威廉姆斯说得很清楚:单独看是非密资料,汇总起来可能形成应被列为机密的内容。比如危险材料的位置和存放设施的薄弱环节,分开看都不敏感,合在一起就完全不一样了。非密环境里的账号、代码和网络结构信息外流,完全可能成为攻击更敏感系统的跳板。另一个让我在意的是代码流转路径。报道提到,一些工具和代码会先在NIPRNet里测试,再部署到处理机密或绝密信息的隔离网络。如果攻击者用外泄凭据进入测试环境,往代码里植入后门,而静态应用安全测试未必能把有意植入的后门识别为漏洞,那恶意代码就可能跟着工具进入更敏感的系统。AI生成代码的速度远超人工审查,这个压力只会越来越大。我的判断是,这件事真正的教训不是「别用AI写代码」,而是「别把AI智能体当成有权限的同事却不给它套上权限边界」。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼