“一鍵換聲”絕不可任性

網上沖浪，親耳聽到的就是真的嗎？未必。網絡平臺上，AI聲音隨處可見。“新華視點”記者調查發現，隨著人工智能技術和語音大模型應用的發展，AI合成聲音App大量出現，最快只需十幾秒便可“克隆”出來。與此同時，AI聲音濫用現象愈發突出。（2月13日新華社）

過去，人們總是篤信自己親眼看到的、親耳聽到的信息。但這些年，“有圖有聲有真相”這一判斷標準一再受到沖擊，你以為的事實很可能是由AI生成的。隨手打開一個短視頻平臺，并以“AI聲音克隆”為關鍵詞檢索發現，明星翻唱、新聞播報、吐槽點評等大量視頻涉及AI聲音，混淆公眾認知。“假趙本山”用英文演小品、“假雷軍”辣評熱點話題、“假張文宏”深夜直播帶貨……越來越多人借著AI模擬名人聲音招搖撞騙，逼真程度堪比真人、叫人難以招架。

技術在狂飆，風險也在加劇。用張文宏的話說，這些假的AI合成信息，就像漫天飛過來的“蝗蟲”一樣害人。今天可以模仿名人逗你一笑，或是借網紅明星之口引流帶貨，明天就有可能用你的聲音“移花接木”，為網絡詐騙埋雷。這并非危言聳聽。據新聞報道，有不法分子通過“AI換聲”仿冒一位老人的孫子，詐騙老人2萬元，類似的詐騙案件在全國已發生多起，有的詐騙金額甚至達到上百萬元。此類案件提醒我們，在泛濫的“一鍵變聲”面前，每個人都可能成為“受害者”。技術濫用對普通人造成的安全隱患和威脅，絕對不容小覷。

以上種種也表明，對AI聲音進行規范管理，必要且緊迫。近年來，有關主管部門出臺《人工智能生成合成內容標識辦法（征求意見稿）》等規定，一定程度上給AI技術使用畫定了紅線。然而，落腳到現實操作中，對于AI聲音應用涉及的造謠侵權、道德倫理等問題，如何形成具體細化的規則，還有待進一步思考。此外，短視頻平臺對AI內容審核機制滯后，部分侵權內容在投訴后仍反復出現。這需要相關部門繼續加大對濫用AI聲音侵權的打擊力度、形成更完善的常態化治理機制，也需要平臺“用魔法打敗魔法”、不斷升級更新審核檢測技術，以應對層出不窮的AI仿聲騙局。