TikTok被曝给青少年假安全开关
今天看到一条让我后背发凉的消息。纽约州对TikTok的诉讼里披露,平台曾在一项实验中,让数千名用户(包括青少年和儿童)以为自己在使用「Algo Refresh」这个安全功能,但实际上他们拿到的是一个安慰剂版本。也就是说,用户以为自己重置了推荐、屏蔽了不想看的内容,可信息流根本没变,而对照组用的却是真正能生效的版本。
这件事最让人不舒服的地方,不是功能没做好,而是它被做成了「看起来做好了」。对家长和青少年来说,安全开关意味着一种承诺:我按下去,算法就会收敛。可如果这个承诺在实验里被故意做成空壳,那用户交出去的信任就变成了实验数据。TikTok回应说,公司会定期测试新功能来验证体验,这个说法本身没错,但测试和误导之间的边界,恰恰是监管最该盯住的地方。从行业视角看,这已经不是单个功能的问题,而是平台治理逻辑的问题。纽约这起诉讼只是全美二十多个州针对TikTok的案子之一,核心指控都指向同一件事:平台被设计成鼓励未成年人成瘾式使用,同时在安全机制上误导用户。如果这些指控成立,那它动摇的就不只是某一项功能,而是「平台自己管自己」这套模式的合法性。我自己的判断是,接下来监管会越来越不满足于看平台的自查报告,而是要求可验证、可审计的安全机制。对出海做社交产品的团队来说,这也是个提醒:安全功能一旦上线,就不能只当成公关素材,它得真的能改变推荐结果,否则迟早会被用户和监管一起算账。- Algo Refresh:用户以为能重置推荐,实验中部分人拿到的是无效版本
- 受影响范围:数千名用户,包含青少年和儿童
- 诉讼规模:纽约一案之外,全美还有二十多个州提起类似诉讼
- 平台回应:称定期测试新功能以验证真实体验
- 核心争议:安全功能是否被当成安慰剂,以及平台是否误导了用户
这件事最让人不舒服的地方,不是功能没做好,而是它被做成了「看起来做好了」。对家长和青少年来说,安全开关意味着一种承诺:我按下去,算法就会收敛。可如果这个承诺在实验里被故意做成空壳,那用户交出去的信任就变成了实验数据。TikTok回应说,公司会定期测试新功能来验证体验,这个说法本身没错,但测试和误导之间的边界,恰恰是监管最该盯住的地方。从行业视角看,这已经不是单个功能的问题,而是平台治理逻辑的问题。纽约这起诉讼只是全美二十多个州针对TikTok的案子之一,核心指控都指向同一件事:平台被设计成鼓励未成年人成瘾式使用,同时在安全机制上误导用户。如果这些指控成立,那它动摇的就不只是某一项功能,而是「平台自己管自己」这套模式的合法性。我自己的判断是,接下来监管会越来越不满足于看平台的自查报告,而是要求可验证、可审计的安全机制。对出海做社交产品的团队来说,这也是个提醒:安全功能一旦上线,就不能只当成公关素材,它得真的能改变推荐结果,否则迟早会被用户和监管一起算账。- Algo Refresh:用户以为能重置推荐,实验中部分人拿到的是无效版本
- 受影响范围:数千名用户,包含青少年和儿童
- 诉讼规模:纽约一案之外,全美还有二十多个州提起类似诉讼
- 平台回应:称定期测试新功能以验证真实体验
- 核心争议:安全功能是否被当成安慰剂,以及平台是否误导了用户
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼