AI可用，不能濫用

近日，有網友在使用某網盤時，被推薦了一張自己懷孕的照片，并配文“腦子不夠，肚子來湊”，文案疑似AI自動生成。該網友覺得這句話對孕婦存在侮辱性，表示不愿再用該網盤。隨后，相關平臺公司聯系她進行了退款，同時回應：文案確實不妥，后續將加強文案的篩選、提高模型訓練和技術審核能力，避免再出現類似問題。

伴隨著互聯網科技的飛速發展，各種AI應用層出不窮。其中，尤以“文生圖”或“圖配文”最為常見。前者只需提供文字，就能自動生成相對應的圖片；后者則會根據圖片內容，自動匹配相應的文字。善意地理解，此次事件應該是AI會錯了意、表錯了情，AI智能體或許只是想調侃一下，而非對孕婦或特定人群懷有主觀惡意。但無論是“明知故犯”，還是“無心之失”，此次事件都暴露出一個非常現實的問題——盡管以“智能體”為名，某些AI技術遠遠沒有那么智能。

相比起此次事件，某些AI應用的主觀惡意顯然更加明顯，社會危害性也更大。《甄嬛傳》變身“槍戰片”、《紅樓夢》改成“武打戲”、孫悟空騎著摩托車揚長而去……在AI技術的加持之下，某些“魔改”視頻肆無忌憚地褻瀆經典IP，不僅擾亂公共視聽，而且涉嫌構成侵權行為，由此帶來公眾對技術邊界以及商業倫理的反思。

誠如貝克在《風險社會》一書中所說：“任何新興技術的誕生與運用，在給人們帶來機遇與便利的同時，也可能產生風險與制造挑戰。”作為現代信息技術的重要組成部分，AI技術為各種應用場景提供了更加智能化的解決方案。與此同時也要看到，不成熟或者不恰當的使用，也可能使AI出現誤差、誤判，或者傳遞出不健康的信息和內容。

在數字化轉型的時代背景中，AI技術孕育著無限可能。當科技改變生活成為可觀可感的現實，有必要明確AI應用的技術邊界與道德風險，為維護公共利益構筑起強大的防火墻。畢竟，AI應用依托于數據模型，只有強化人的主體責任，才能防止技術跑偏和濫用。

（作者系媒體評論員）