近年来，随着生成式人工智能技术的广泛应用，AI技术在被用于处理繁复劳动的同时，也被不法之徒用于批量制造谣言，甚至已形成谣言产业链。利用人工智能编造的网络谣言数量呈上升态势，成为当前亟需治理的网络新课题。我们从今年公开曝光的典型案件中选取部分研究对象，分析AI谣言的突出特征，探讨治理AI谣言的初步建议，为更好推进谣言治理提供参考。
一、AI网络谣言的突出特征
一是信息混杂足可“以假乱真”。在不断迭代的生成式AI技术面前，“眼见为实”“有图有真相”正在被挑战。AI谣言形式上新闻要素齐全、内容完整，极具逼真性和迷惑性。特别是ChatGPT、“Sora”等AI技术实现了谣言的“个性化生成”和针对特定群体的“精准投放”，造谣者只需“动动手指”，就可将现有算法和互联网中的海量信息“排列组合”，令网民掉入以假乱真、虚实混杂的“信息陷阱”。比如，无中生有地通过软件直接生成逼近真实的图片、音视频；将网络中真实存在的图片、视频等进行嫁接以增加真实感；故意“添油加醋”篡改真实信息，制造耸人听闻的消息，煽动民众恐慌。AI谣言彻底颠覆了大众“有图有真相”的常规认知，足可“以假乱真”。
二是标题营销易产生传播“爆点”。AI能够利用多类机器学习方法从海量数据中学习不同谣言内容的生成特征以及谣言主体的表达风格，形成定制化文章、新闻、报告等虚假信息。造谣者利用AI强大的技术优势，通过大数据找到公众最为关注的内容，提取相关关键词生成谣言，用一个个劲爆吸睛的标题制造出一次次的传播“爆点”。分析认为，事关网民个人和公共安全的信息往往最受AI谣言“青睐”，比如突发事件中重点突出“交通事故”“阴谋”“故意杀人”“死亡”等字眼，突发公共安全事件中多强调“地震”“爆炸”“火灾”“洪灾”等情节。在标题设置上极具煽动性，比如“一场惊心动魄的‘钞票大战’ 巴中市警民对峙引发轰动 谁将成为胜利者”“一场强烈地震在甘肃省白银市景泰县席卷而过，给当地人民带来了沉重灾难”等，通过夸张的语气、数据表述实现对受众心理的精准拿捏，令其内心作出倾向性选择。
三是技术加持使得谣言低成本、高收益。对于生产者来说，相关新闻均由AI软件生成，他们只需给出关键词，软件便会自动在网上抓取相关信息，形成一段看起来信息量很大实际子虚乌有的内容，全程基本无需人工参与，时间及经济成本几乎为零。此外，很多网络平台都有鼓励创作的奖励机制，会向流量高的内容和用户支付报酬，变相刺激了一些用户发布虚假、擦边等违法内容并藉此牟利。比如，在“广州限制外卖配送”谣言案中，涉案人员使用AI工具批量生成不实文章，发布“外卖配送将被禁止，餐馆只能提供堂食和到店取餐服务”等虚假消息，扰乱当地社会正常秩序。江西南昌一家MCN机构编造的诸多虚假新闻中最高一条收入700元，警方估算其每天收入可在1万元以上。在互联网检索发现，“用AI批量生产爆款文案，突然你就变有钱了”“让AI帮我写推广文，1分钟搞定3篇”“图文创作，AI自动写文章，单号轻松日产500+，可多号操作，小白轻松上手”等类似“致富”文章流传较广。
四是带偏网民认知危害较大。AI技术为造谣者提供了丰富多样的“语料池”，令其在时间、地域等方面选择维度拓宽，而网民作为信息不对称的另一方，对造谣者提出的信息必然无法全部掌握，这就为造谣者利用“信息差”炮制谣言提供可乘之机，最典型的体现就是AI“异地造谣”现象。比如某网民将发生在江西某地的校园霸凌事件编造为四川某学校。一些自媒体博主未经核实信息真实性，出于吸引流量、博取眼球等各种目的，对谣言进行加工解读和转发传播，为放大谣言危害起到推波助澜作用。
二、治理AI网络谣言的对策建议
当前，我国网络谣言治理效果不断彰显，网络谣言治理已经基本打通了主动发现、联合查证、权威辟谣等关键环节，有效减轻了网络谣言带来的负面影响。但是，面对人工智能技术带来的挑战，需持续强化网络谣言的治理效果，进一步完善协同治理机制，加快形成有效的技术处置手段，培育形成良好的全民自觉抵制网络谣言的基本素养。
一是发挥法治引领、规范作用。目前，我国已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律，但针对AI领域的司法治理仍有进一步细化空间。建议加大立法力度，进一步明确AI造谣犯罪的认定标准，加强行刑衔接，对AI造谣者“精准惩处”，做到罚当其罪、罚当其过，从源头防范AI谣言。
二是压实平台主体责任。网络平台应加强对用户行为的监督管理，及时处罚警示恶意传播谣言的用户。通过弹窗提示、用户教育等方式引导用户理性参与信息传播，共同维护良好的网络环境。积极开展针对AI谣言反制技术的研发与运用，提高识别、处置AI谣言的能力。鼓励不同网络平台之间建立数据共享机制，实现信息共享和协同作战。
三是职能部门依法亮剑斩断AI谣言产业链。公安机关加大AI谣言惩治力度，对破坏性强、消解官方公信力、容易激发公众集体恐慌的AI谣言信息及其发布账号，保持高压打击态势。严格落实中央网信办秘书局《关于开展“清朗·整治‘自媒体’无底线博流量”专项行动的通知》要求，对使用AI等技术生成信息的，督促平台及用户明确标注。
四是探索“用AI对抗AI”。平台应对算法推荐、日常监测、线索收集等技术和机制进一步优化提升，迅速精准地利用AI技术向曾经浏览过相关内容的用户智能推送辟谣内容或进行风险提示，让更多真实、有价值的信息“跑”在谣言之前。