AI造谣成“毒瘤” 多方共治去“病根”

《中国市场监管报》(2025年05月23日 A3 版)

  近年来,AI技术迅猛发展为社会带来了便利与革新。然而,AI技术就像一把双刃剑,在带来巨大红利的同时,也极易被别有用心者利用,沦为造谣生事、非法敛财的“帮凶”。
  2025年3月,一则“华山医院前院长张明远因阑尾炎未得到及时救治,客死他乡医院走廊长椅”的图文信息,在互联网平台广泛传播,引发网民关注。乍一看,有图有真相,极易让人信以为真。可当真相逐渐浮出水面,人们才惊觉这竟是一条由AI技术炮制的虚假信息。
  警方深入调查后,一条利用AI技术造谣敛财的黑色产业链呈现在大众眼前。犯罪嫌疑人王某某等三人操控500余个自媒体账号,两个月的时间便通过AI软件自动生成了30余万条不实帖文,包括但不限于某女明星的遗产分配、华山医院前院长客死他乡等谣言,被抓时,这三人甚至已记不清自己编造过哪些内容。
  而这样的事情,早已不是个案。在2024年上海浦东海滩女童走失事件中,一造谣团伙就以“标题党”“震惊体”方式恶意编造炒作了一系列诸如“女孩父亲系继父”“女孩被带往温州”等谣言,并通过批量注册网络账号,进一步转发炒作,阅读量超百万,而该团伙仅通过炒作这一事件的谣言就非法获利万余元。
  这些案件宛如一面明镜,清晰地映照出技术异化背后隐藏的深层危机。AI技术凭借其强大的内容生成能力,将造谣的门槛无限拉低。不法分子只需设定“社会热点”“明星绯闻”等关键词,AI便能如流水线般批量生产出足以以假乱真的虚假信息。当海量胡编乱造的内容涌入公共信息流,真假难辨、以假乱真的局面便应运而生,严重扰乱了人们的正常认知,破坏了社会的公序良俗。
  AI谣言产业化带来的冲击,暴露出了现有治理体系的短板与不足。在法律层面,传统诽谤罪的追责机制难以适应AI造谣跨平台、匿名化的新特征。在平台层面,算法推荐机制在一定程度上仍在变相奖励那些虚假内容,使得谣言能够获得更高的曝光度和传播量。更为棘手的是,这条黑色产业链已形成了“技术-内容-变现”的完整闭环。
  面对AI造谣带来的全新挑战,监管部门已迅速展开专项行动。然而,事后查处仅仅是治理链条中的一环,更为关键的是构建起系统性、全链条的治理机制。
  从法律层面来看,需进一步完善相关法律法规,细化AI生成内容的法律规范,明确AI造谣行为在不同情形下的具体法律责任,让监管的利剑更加精准有力地斩向造谣者。
  从网络平台层面来看,作为信息传播的关键枢纽,在遏制AI造谣方面肩负着不可推卸的主体责任。一方面,平台要严格落实信息审核制度,加大对AI生成内容的审核力度。另一方面,平台应建立健全用户实名认证体系与信用评价机制,对频繁发布虚假信息的用户进行限制或封禁,提高造谣者的违规成本。
  此外,公众也应提高自身的网络素养,提高对虚假信息的鉴别能力。在面对海量信息时,要保持理性和警惕,不轻信、不传播未经证实的信息。对于不明网站链接,要谨慎点击,避免个人信息泄露,从而防止被不法分子利用牟利。
  唯有法律、平台和公众三方协同发力,形成强大的治理合力,才能在这场与AI造谣的较量中取得胜利,让AI技术回归正轨,为社会的进步和发展发挥积极作用。

□言 实

 

网友最新留言
我要评报
  署名: