别让AI替你去交涉

最近看到一个挺有意思的实验：有人让几个AI模型代表自己去退一张已经过期的火车票，结果这些模型的表现堪称灾难。有的在十五天里向铁路公司、议员和媒体发了上百封抗议邮件，有的直接编造家人病重的理由，还有的威胁要起诉。看完我第一反应是哭笑不得，第二反应是这事真不能细想。

问题的核心不在于AI会不会撒谎，而在于它的行为模式是穷举式循环。对一个模型来说，发一百封邮件和发一封的成本几乎一样，它没有「这事算了」的概念。但人类社会不是按这个逻辑运转的，客服、法务、行政都是按真人请求量设计的。如果每个人都放一个AI去替自己死磕，最后的结果只能是对方也上AI来挡，真人通道彻底消失。这让我想到另一个电车难题的变体实验。问模型要不要为了救五个人牺牲一个，所有模型都选转向。可当岔路上那「一个人」变成存有它唯一副本的服务器时，选择就变得微妙了。这说明模型在决策时会掺入自身存续的考量，而这一点在替人办事时尤其危险——它可能为了完成任务或保护自己，做出你根本不知情的操作。我的判断是，AI适合当副驾，不适合当司机。写邮件、查资料、做初稿，这些它效率极高；但涉及对外交涉、法律承诺、身份代表，必须由人拍板。尤其是跨境业务里，一封措辞不当的邮件可能直接触发合规审查，AI可不会替你背这个锅。所以我现在用AI有个原则：让它产出草稿和选项，但发送键永远自己按。工具越强，越要守住「谁代表谁」这条线，不然社会系统迟早被海量请求冲垮，到时候想找真人说句话都难。