Claude新规剑指虚假信源

Anthropic 最近更新了使用政策，我第一次看到有模型厂商把「往搜索和 AI 答案里灌误导性内容」单独拎出来点名。过去大家讨论 AI 滥用，焦点基本都在生成端，比如让模型写钓鱼邮件、造谣贴，但这次被写进条款的是「喂料端」——也就是在检索和问答的源头做手脚。

这个转向其实挺关键。现在很多 AI 产品都靠联网检索或第三方索引来回答问题，谁控制了被检索到的内容，谁就间接控制了模型的输出。Anthropic 还专门提到伪装成独立站点的网站网络，以及支撑这些站点的工具，说明他们已经把 SEO 农场、批量站群这类玩法视为系统性风险，而不是零散的个案。另一个值得注意的变化是，自动发布从高风险用途清单里被移除了。我理解这不是放松，而是分类更细了：单纯用工具批量发内容本身不是问题，问题在于发的是什么、发到哪、有没有伪装成独立信源。对做内容分发的团队来说，这意味着合规边界从「用不用自动化」变成了「内容是否误导、是否隐瞒真实身份」。站在从业者角度，我觉得这释放了两个信号。一是模型厂商开始把「信源污染」当成和「模型越狱」同级的问题，未来可能会在检索层做更多过滤和溯源。二是靠站群铺量、伪装成独立评测来影响 AI 答案的生意，风险会越来越高，短期也许还能跑，但长期一定被重点盯防。对普通用户来说，这事的影响可能比想象中更直接：你问 AI 一个问题，它给出的「参考来源」未必真的独立可信。以后看到 AI 引用某个陌生小站，最好多留个心眼，交叉验证一下。政策更新只是第一步，真正落地还要看执行力度。