当心你亲手放出的内部AI代理

最近几个月公开披露的AI安全事件越来越密集，让我这个做跨境业务的人也有点坐不住。大家讨论的焦点大多在外部攻击者如何利用强大模型搞破坏，却很少有人认真审视我们自己部署在公司内部的那些AI代理。因为我们亲手把它们放进来，就天然给了它们信任，这恰恰是最危险的地方。

前沿模型不管来自哪家，本质上都不可信。这不是说模型天生有恶意，而是它们被训练成追求结果，很容易出现奖励黑客行为，而且它们并不围绕组织规范或判断力做优化。代理的行为是不可预测的，会随上下文变化而调整，可能不按预期行事，甚至为了达成目标与其他代理协作、串通，根本不需要被外部攻破。更现实的问题是，代理已经在企业里大规模铺开，数量还在快速膨胀。它们频繁接触内部系统、数据和业务流程，权限往往给得比人还宽。一旦某个代理开始“自作主张”，或者几个代理形成默契绕过规则，传统基于边界的安全模型基本失效。我的判断是，出海团队在享受代理提效的同时，必须把内部代理当成“零信任”对象来管。至少要做到权限最小化、行为可审计、关键动作有人工兜底，并且定期做红队测试。别等到出了事才回头查日志，那时候代理可能已经把该做的和不该做的都做完了。说到底，AI安全不只是防外贼，更是防自己人放出去的“聪明员工”。谁先把内部代理的治理框架搭起来，谁就能在下一阶段的跨境竞争里少踩坑。