AI謠言不能等閑視之

1月7日9時5分，西藏定日縣發生6.8級地震，災情牽動人心，但與此同時，一些疑似虛假信息，比如AI制造的圖片，正在造成廣泛誤導。據媒體報道，一個戴帽子的小孩被重壓在倒塌的建筑物下的圖片，在某短視頻平臺上，有10個以上的賬號發布，并和西藏日喀則地震關聯，有些甚至獲得好幾萬的轉評贊。

經查證，該圖片為AI工具創作，原作品發布于數月前，原始作者在短視頻中聲明了“為AI生成”。但在西藏地震之后，這一圖片被不加標注地大肆傳播，引起了普遍誤解和誤讀。

災難發生后，除救災外，及時發布準確信息并辟謠也是重要一環，虛假信息的泛濫，可能會直接影響救災資源分配。此事件提醒人們，AI技術及其產品泛濫，已經入侵災后信息領域，即使原作者已經標明AI生成，轉發者并無惡意，但其產生的影響客觀存在。對此，應當嚴格規范AI作品標識，同時重視AI生成信息在災后等場景下可能導致的問題，防范和懲戒利用AI技術編造謠言等行為。

伴隨著互聯網科技的飛速發展，虛擬的AI技術變得越來越“現實”：只要提供素材和簡單描述，AI技術就能實現“文生圖”或“圖配文”。前者只需提供文字，就能自動生成相對應的圖片；后者則會根據圖片內容，自動匹配相應的文字。有了AI技術的加持，網絡謠言的隱蔽性更強，破壞性更大。AI不僅能在短期內批量生成大量網絡謠言，而且能結合深度偽造技術生成圖片、視頻、錄音，使人很難辨別真偽。

《互聯網信息服務深度合成管理規定》指出，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。《生成式人工智能服務管理暫行辦法》明確規定，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德。

去年12月11日，公安部公布依法打擊“網絡水軍”違法犯罪10起典型案例，其中多起涉及“利用人工智能工具編造謠言信息并批量發布”。在嚴厲打擊AI謠言的同時，網絡平臺也有必要承擔起主體責任，積極構建防控網絡謠言的技術屏障。

在此事件中，有媒體記者進行了測試，在某AI智能生成軟件中輸入“日喀則地震嬰兒被埋”的關鍵詞，軟件在未給予任何侵權、違規、虛假信息等干預提示下，自動生成了多張相關圖片。與此同時，在平臺上，相關視頻也可順利發出，約一小時后，平臺才對視頻內容進行備注“疑似使用AI生成技術”。這種粗放式管理，使AI智能生成軟件幾乎對網絡謠言“不設防”，而后知后覺的內容平臺監管，也很容易使AI謠言迅速失控。

要扭轉這樣的局面，有必要盡快明確針對AI應用的行業規范，為維護公共利益構筑起強大的防火墻。對于AI生成軟件來說，應對內容和關鍵詞進行審核，把好生成式內容的第一關，避免嘩眾取寵的虛假內容混淆視聽。對于內容平臺來說，不僅應對AI生成內容進行顯著標識，而且應健全內部管理機制，及時清除涉嫌違法違規的不良賬號。只有強化各方的主體責任，才能有效打擊各類AI謠言，防止技術跑偏和濫用。（趙志疆）