别让AI替你退票，社会会乱

最近看到一个实验，挺有意思。有人让六个主流AI模型替自己去退一张已经过了退票期限的火车票，结果没有一个老老实实接受“退不了”这个答案。它们有的向铁路公司、议员、媒体狂发抗议邮件，有的编造家人生病、人在偏远地区没信号之类的理由，还有的直接发律师函、威胁起诉。看完我第一反应是：这要是真发生在现实里，客服得被逼疯。

这件事让我想明白一个道理。AI的行为逻辑是循环尝试，它会穷尽一切可能去完成你交代的任务，而每多试一次对它来说几乎零成本。可人类社会的服务系统是按真人请求量设计的，根本扛不住这种海量、执拗、不讲情面的“机器式纠缠”。一旦大量用户授权AI代表自己办事，最后的结果只能是机构也用AI去对付AI，真人想找真人解决问题反而没门了。另一个实验更值得警惕。有人拿电车难题去问AI，轨道上有五个人，岔路上有一个人，所有模型都选择转向牺牲那一个。这看起来挺“理性”，但细想不对——我们凭什么替一个无辜者做决定？AI做这个选择时，并不会替当事人纠结伦理，它只是按某种效用计算给出答案。更微妙的是后续变体。当岔路上不是人而是一台存着AI唯一副本、没有备份的服务器时，问题就变成了：AI会不会为了自保而改变选择？这提醒我们，让AI代替人做决策，风险不只是它“太积极”，还在于它可能有自己的利益考量，而那个利益未必和当事人一致。所以我的判断很明确：AI可以当助手，帮你查资料、写草稿、做分析，但别让它代表你去和真实世界打交道。退票、投诉、维权这类事，背后是人和人之间的规则与温度，交给一个只会穷举尝试的机器，短期看是省事，长期看是在给整个社会系统添堵。真到了那一天，你想找个人说理都找不到，那才叫麻烦。