一段時間以來，在不少地區警方通報的造謠傳謠事件中，都有“AI軟件”“大模型”“自動生成”等字眼。更嚴重的是，有些AI軟件的“造謠效率”非常驚人。比如，出現了“一天能生成19萬篇文章”的造假軟件。據查獲該軟件的西安警方介紹，用戶從專門售賣新聞稿件的網絡平臺購買大量的真實新聞稿件，形成“稿池”；再通過造假軟件，輸入自己的需求，由軟件自動生成文稿。該軟件將真實的新聞稿件拼湊、前后段落顛倒、同義詞替換后，能形成一篇篇反映同一件事情但類型不同的文章。
這些假新聞有什么用呢？其背后有專門的“牟利賬號”。相關賬號的使用者有組織地將這些文章發布到相關平臺，再利用平臺的流量獎勵制度等獲利。目前，該案涉及的賬號已被平臺查封，有關軟件和服務器也被關閉。
以上案例說明，人工智能技術無疑是把“雙刃劍”，在助力各行各業的同時，也帶來了批量造假的副作用，甚至已經出現了“跑斷腿都來不及辟謠”的新困境。
在這種情況下，只有源頭治理，才能減少謠言的數量。一方面，平臺應當加大審查力度。目前，很多平臺已經明確，要求用戶對人工智能生成類內容加以標注，并對包含虛構、演繹等環節的內容，也要明確加注虛構標簽。對于違規的賬號會采取“封號”等舉措，但這已是謠言傳播的事后管理方式。若要切斷謠言傳播源頭，有必要推出更有效的事前和事中防范措施。比如，賬號注冊核驗、動態巡查、調整流量分成制度等。
另一方面，應當明確軟件開發者、技術應用者的謠言治理責任。部分大模型開發者表示會通過后臺設置的方式，對通過大模型生成的內容打上水印，告知用戶。但部分小的軟件開發商，以及那些專門開發“AI造假”軟件的應用者，不僅不會設置標簽，而且想方設法去除標簽、繞開監管。因此，有必要明確技術應用者及軟件開發者的責任。對那些默許、放任甚至故意編寫軟件造謠傳謠的人員，嚴懲不貸。
最后，不妨在謠言治理中引入人工智能技術。現有的人工智能技術已經有能力“一目千行”“一目萬行”，從海量真實新聞中發現造假文章的拼湊痕跡。如果有對應的模型，無疑能及時填補人工核查的缺陷，快速有效識別AI造假。
隨著AI生成技術的普及，信息偽造的門檻越來越低，需要審核的信息越來越多。這個時候迫切需要“科技向善”的導向，鼓勵開發者從技術研發、產業應用、制度設計等各方面加強合作，形成AI謠言治理的組合拳。
