@阑夕: 发了 DeepSeek 编造的信息正在污染中文互联网这条微博后,我又调查了一段时间,发现情况远比我想的还要严重。
比如有些时政类自媒体已经拿 DeepSeek 去写涉军涉政的东西了,同时因为推理模型在具体的案例细节上非常容易绘声绘色的胡编乱造,以致于这些内容往往具有独家性,然后引起特别广泛的转载,甚至我关注的大 V 博主里都有不少上当的。
比如图 1 这个号,全部都是用 DeepSeek 生成文章,虽然确实有喂一些参考资料,但 DeepSeek 的运作模式决定了它不是简单的洗稿,而是会自行创造一些会让文章更加像是「故事」,最后的结果就是真假参杂,迷惑性反而更大了。
其中有一篇写军工打虎谭瑞松的选题,标题是《军工虎谭瑞松, 从 “道德标兵” 到 “猎艳狂魔”,“国之重器” 沦为私人金库》,原文现在已经被删了,应该是被被转得太广作者害怕了,但很多「金句」的截图还在到处传,什么直升机的设计图纸在暗网里开价 200 比特币出售、收受金条贿赂时要求熔成发动机叶片形状、某总师离职时留言这里不是造飞机的地方而是造孽的工厂等等,全 tm 是 DeepSeek 自己编的,然而因其全网独家和生动现场的效果,真能引起很多传播和讨论。
流量大了之后,这作者后来会偷偷加上图 2 这样的声明,但只能说聊胜于无,很少有人会注意到并理解这句话的意思 —— 上面的内容有一半是我编的,但我不告诉你们是哪一半。
胆子真的很大,回报也真的很高,不管有没有用,我还是要再喊一声,不管是平台还是博主,一定要重视这种公网污染的大面积蔓延,这种造谣形式是没办法追究到具体的动机、过程和名字的,而且因为是 AI 工业化的批量生产出来,它的破坏速度非常可怕,手伸得也很长,越是公共讨论聚集的地方,比如时政、历史、文化、娱乐等领域,越是重灾区。
2025年3月6日星期四
AI 编造的信息正在污染中文互联网
订阅:
博文评论 (Atom)
没有评论:
发表评论