近日,上海警方在涉企网络谣言专项打击整治行动中,破获一起利用人工智能技术批量生成并散布涉企谣言的刑事案件。两名主要犯罪嫌疑人通过AI工具“洗稿”编造小米、蔚来、沃尔沃等多家车企的不实信息,非法获利8万余元,目前已被依法采取刑事强制措施。
据央视4月8日晚报道,该案源于今年3月多家车企的报案。小米、蔚来、沃尔沃等公司相继发现,网络平台上出现大量关于其汽车销量下滑的虚假信息,内容高度雷同,疑似有组织操控。上海嘉定警方接报后迅速展开侦查,发现背后涉及4家MCN机构控制的4000余个自媒体账号,围绕汽车、财经等话题持续发布不实内容。
警方查明,犯罪嫌疑人梁某、郭某购买了4000余个自媒体账号,利用AI工具对网络热搜话题进行“洗稿”加工,生成图文并茂的帖文,随机分配给不同账号发布。整个过程仅需5分钟即可完成百余篇文章的生成,全程无需人工审核。这些帖文既包含凭空捏造的谣言,也包含对真实事件的恶意曲解和夸大,目的只有一个——博取流量、获取平台发放的收益。
据统计,截至案发,这些账号共发布各类稿件70万篇,累计获得阅读量超过8000万次。其中,一则关于“小米汽车SOS 1秒接通”的谣言通过P图技术广泛传播,引发社会关注,小米公司随后已明确辟谣。
上海嘉定警方表示,涉案MCN机构仅用5台电脑和3台虚拟服务器便操控了整个造谣网络。目前,梁某、郭某因涉嫌非法经营罪已被采取刑事强制措施,警方正对上游可能存在的利益链条展开进一步侦查。
上海警方相关负责人指出,利用AI技术“洗稿”批量生成伪原创文章、造谣中伤企业的新型违法犯罪行为,已对正常市场秩序和企业声誉构成严重威胁。警方表示,将对这类违法行为保持高压严打态势,坚决维护清朗网络空间和良好营商环境。