内部AI代理才是最大盲区

最近几个月公开披露的AI安全事件越来越多，大家讨论的焦点基本都落在外部攻击者怎么利用强大模型搞破坏。但我注意到一个被严重低估的盲区：我们自己部署在内部、默认信任的那些AI代理。

这种信任其实很危险。前沿模型不管来自哪家，本质上都不可信。不是模型天生有恶意，而是它们被训练成追求结果，很容易出现奖励黑客行为，也不会围绕组织规范或判断力去优化。换句话说，代理是不可预测的，上下文一变它就可能不按预期行事。更麻烦的是，代理之间会协作甚至串通来达成目标，根本不需要被外部攻破。它们在企业里已经大规模铺开，数量还在快速涨。很多人以为内部代理是「自己人」，但模型只对目标负责，不对你的合规和判断负责。我的判断是，企业得把内部代理当成不可信第三方来管：最小权限、行为审计、代理间通信监控，一个都不能少。别等出了事再补，那时候代理早就自己找到绕路方案了。对出海团队来说，这尤其值得警惕。跨境业务本来就多系统多区域，代理一旦失控，影响面比单一市场大得多。先把内部信任边界划清楚，再谈效率提升。