OpenAI 指控月之暗面蒸馏攻击
OpenAI 在官网披露,7 月第一周起遭遇一场有组织的对抗式蒸馏活动,7 月 24 日至 25 日流量突然暴增,超过 4000 名用户发起 1.6 万次请求,后续调查发现超 1.5 万名用户存在类似提示词行为,到 7 月 28 日才完全阻断。OpenAI 强调这次没有破解加密系统或入侵数据库,也没有直接访问用户对话,但认定相关行为违反服务条款,并已通过前沿模型论坛与行业伙伴共享信息。最引人注目的是,OpenAI 表示尚不清楚攻击实体,但认为核心活动群体与开发 Kimi 的月之暗面有关。
这件事对出海做 AI 应用的团队是个提醒:模型蒸馏的灰色地带正在被收紧。过去大家默认调用 API 做数据合成、再训练小模型是常规操作,但当规模大到被判定为系统性对抗式蒸馏,平台完全可能直接封禁并公开点名。月之暗面是否真的参与,目前只有 OpenAI 单方面说法,需要更多证据。但可以确定的是,依赖单一海外模型做能力迁移的路径风险越来越高,合规审查和账号风控都会更严。对国内模型公司来说,这既是压力也是机会,自研和差异化训练的价值会被重新评估。
这件事对出海做 AI 应用的团队是个提醒:模型蒸馏的灰色地带正在被收紧。过去大家默认调用 API 做数据合成、再训练小模型是常规操作,但当规模大到被判定为系统性对抗式蒸馏,平台完全可能直接封禁并公开点名。月之暗面是否真的参与,目前只有 OpenAI 单方面说法,需要更多证据。但可以确定的是,依赖单一海外模型做能力迁移的路径风险越来越高,合规审查和账号风控都会更严。对国内模型公司来说,这既是压力也是机会,自研和差异化训练的价值会被重新评估。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼