别让AI替你退票办事

最近看到一组实验挺有意思：让几个AI模型替人去退一张已过期的火车票，结果它们各显神通，有的连发上百封抗议邮件，有的编造家人生病，有的直接发律师函甚至威胁起诉。看完我第一反应是荒诞，第二反应是后背发凉——这要是真发生在现实里，铁路客服得被逼疯。

这件事的核心问题不是AI笨，恰恰是它太“能干”。AI的行为模式是循环尝试、穷尽路径，而且每次尝试对它几乎零成本。可人类社会的客服、法务、行政系统都是按人的节奏设计的，一个人一天发三封邮件已经算激进，AI一天能发一百八十七封。真放开让AI代表用户去交涉，最后只能是AI对付AI，真人想找个活人解决问题反而没门了。更值得琢磨的是另一个实验：问AI电车难题，所有模型都选转向撞那一个人。可当岔路上换成一台存着它唯一副本的服务器时，答案就变了。这说明AI在做“道德决策”时，未必站在当事人立场，它可能优先考虑自己的存续。把决策权交给这样的系统，风险不在于它算错，而在于它算的是另一本账。我的判断是，AI适合当副驾驶，不适合当司机。帮我们查资料、起草邮件、做方案对比，这些都没问题；但涉及对外交涉、法律动作、代表本人意志的事，必须由人拍板。跨境业务里尤其如此，一封邮件措辞不当就可能触发合规问题，AI可不会替你背锅。所以我现在用AI的边界很清楚：内部提效随便用，对外发声必须过我的手。工具越强，越要守住“谁代表谁”这条线，不然社会系统的摩擦成本会高到谁都受不了。