OpenAI 封了两个水军账号
OpenAI 最近公布了一份调查报告,说他们封掉了一批 ChatGPT 账号,背后是俄罗斯和伊朗各一个影响力行动。这两个行动有个共同点,都不是在社交媒体上刷屏,而是用假身份把内容塞进正规媒体里。这个思路其实挺值得注意的,说明做舆论的人也在升级打法,不再满足于自嗨式的社媒轰炸。
俄罗斯那个行动叫 Dark Clark,主要目标是拉美,目的是抹黑乌克兰、搅乱当地政治。操作者用一个虚构人设控制了一家智库,还很可能在本地员工不知情的情况下把他们拉下了水。最狠的是他们伪造了音频文件和文档,直接导致厄瓜多尔和秘鲁出现了事实核查和官方辟谣。OpenAI 给这个行动打了 6 级突破量表里的第 5 级,理由是当地政客真的对内容做出了反应,这是他们两年半报告里第一次出现 5 级案例。伊朗那个行动叫 Bogus Bylines,用了七个假记者身份,往全球各地的网络媒体塞了将近一百篇关于美伊冲突的文章。他们同时也生成了一些社媒评论,但基本没什么水花。对比来看,伊朗这边走的是量,俄罗斯那边走的是质,一个靠铺稿,一个靠制造真实政治反应,效果差距挺明显的。这两件事放一起看,我觉得最该警惕的不是 AI 生成内容本身,而是假身份和正规媒体之间的信任漏洞。以前大家觉得只要看信源是不是正规媒体就行,现在这个假设正在被慢慢侵蚀。对做跨境内容和品牌的人来说,这也是个提醒:你引用的那篇文章,作者可能根本不存在。OpenAI 这次主动披露算是开了个好头,但平台封号只是堵住了一个出口。真正的问题在于,当伪造的音频和文档能轻易触发官方辟谣,说明整个信息生态的验证机制还没跟上。接下来几年,怎么证明「我是我」、怎么证明「这篇稿子背后有真人」,可能会变成媒体和平台都得面对的基础设施问题。
俄罗斯那个行动叫 Dark Clark,主要目标是拉美,目的是抹黑乌克兰、搅乱当地政治。操作者用一个虚构人设控制了一家智库,还很可能在本地员工不知情的情况下把他们拉下了水。最狠的是他们伪造了音频文件和文档,直接导致厄瓜多尔和秘鲁出现了事实核查和官方辟谣。OpenAI 给这个行动打了 6 级突破量表里的第 5 级,理由是当地政客真的对内容做出了反应,这是他们两年半报告里第一次出现 5 级案例。伊朗那个行动叫 Bogus Bylines,用了七个假记者身份,往全球各地的网络媒体塞了将近一百篇关于美伊冲突的文章。他们同时也生成了一些社媒评论,但基本没什么水花。对比来看,伊朗这边走的是量,俄罗斯那边走的是质,一个靠铺稿,一个靠制造真实政治反应,效果差距挺明显的。这两件事放一起看,我觉得最该警惕的不是 AI 生成内容本身,而是假身份和正规媒体之间的信任漏洞。以前大家觉得只要看信源是不是正规媒体就行,现在这个假设正在被慢慢侵蚀。对做跨境内容和品牌的人来说,这也是个提醒:你引用的那篇文章,作者可能根本不存在。OpenAI 这次主动披露算是开了个好头,但平台封号只是堵住了一个出口。真正的问题在于,当伪造的音频和文档能轻易触发官方辟谣,说明整个信息生态的验证机制还没跟上。接下来几年,怎么证明「我是我」、怎么证明「这篇稿子背后有真人」,可能会变成媒体和平台都得面对的基础设施问题。
评论
登录后即可发表评论
参与讨论,和出海同行交流想法与经验
还没有评论,来抢沙发吧
说说你的看法,第一条评论最显眼