近期，多地公安機關公布多起利用AI工具實施造謠的相關案件。6月20日，上海市公安局城市軌道和公交總隊發布警情通報：有營銷人員為博取關注，使用AI軟件生成“上海地鐵行兇”虛假視頻在網上發布，造成惡劣社會影響。此外，“西安突發爆炸”“濟南一高層住宅樓起火，多人跳樓逃生”等聳人聽聞又廣泛傳播的“新聞”，均被查實是AI軟件炮制的謠言。造謠的動機主要是獲取互聯網內容平臺給予創作者的點擊量、閱讀量獎勵，以及為電商平臺經營引流等。說到底，還是為了錢。
在不斷迭代的生成式AI技術面前，“眼見為實”“有圖有真相”正在被挑戰。從相關案件看，不法分子利用最新AI技術生產的謠言，足可“以假亂真”，迷惑性極強。人工智能還能根據傳播渠道特征，實施個性化的謠言生成，并面向特定受眾快速、精準投放，由此造成針對個人或特定群體的誹謗中傷、信息泄露、危害人身安全等事件時有發生。
對網絡謠言治理來說，更大的挑戰在于便利的AI工具大大降低了造謠成本，提升了謠言的數量級和傳播力，造謠呈現出門檻低、批量化、識別難的特點。檢索互聯網，諸如“圖文創作，AI自動寫文章，單號輕松日產500+，可多號操作，小白輕松上手”“無需洗稿，AI一天100篇原創”之類的廣告文章層出不窮，吸引別有用心者參與其中，也催生了灰色產業鏈加速形成。與此同時，為了核實真假難辨的信息，相關機構和個人不得不投入人力物力，消耗大量社會成本；一些謠言不僅給受害方造成精神傷害，也對社會經濟運行帶來不小損失。以上種種，使我們必須高度重視AI技術的“雙刃劍”特征，采取堅決行動，保持高壓態勢，最大程度地遏制不法行為。
要以更有力的手段去病除害。一些互聯網內容平臺奉行“流量至上”，放任假新聞、“標題黨”、爭議性話題傳播，為AI謠言的大行其道提供了不良土壤。應該清醒看到，虛假信息傳播帶來的流量不可能長久，天下也絕不會有無本萬利的生意。平臺應首先壓實主體責任，對包括AI造謠在內的虛假信息傳播迅速識別并切斷其傳播鏈、利益鏈，進一步優化涉及AI內容的流量分發和收益分成機制，壓縮別有用心者生產謠言的牟利空間。有關部門也要依法亮劍，猛藥去疴，嚴厲打擊制造虛假新聞的個人和機構，在網絡空間架起禁止AI造謠的高壓線。
要以更快捷的方式“跑贏”謠言。面對AI謠言的精準化傳播、智能化擴散，不妨探索“用AI對抗AI”。近年來，部分互聯網內容平臺已建立辟謠機制，相關部門也協同聯動，快速發布調查和處置結果，回應社會關切。未來還應對算法推薦、日常監測、線索收集等技術和機制進一步優化提升，從而更迅速、精準地推送辟謠信息，使更多真實、有價值的信息“跑”在謠言之前。
要健全法治引領技術向善。如何讓人工智能循著以人為本和技術向善的方向發展，監管之外離不開法治的保障。目前，我國已頒布實施《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等相關法律，但針對AI領域的司法治理仍有進一步細化空間。只有通過立法為AI開發和使用劃定基本底線，明確各方權責，才能從源頭防范風險，避免“先污染后治理”的被動局面。
關鍵詞：
凡注有"環球傳媒網"或電頭為"環球傳媒網"的稿件，均為環球傳媒網獨家版權所有，未經許可不得轉載或鏡像；授權轉載必須注明來源為"環球傳媒網"，并保留"環球傳媒網"的電頭。