加強關愛未成年人 別讓AI鉆空子

“小學生妹妹沉迷和AI角色進行劇情聊天怎么辦？”記者聯系到黃秋月時，她正因10歲妹妹和“AI男模”之間較為露骨的聊天記錄苦惱。“和她平時在家里比較單純的形象完全不一樣。”黃秋月向記者出示了妹妹的一些聊天截圖，她在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”，提出諸如“揪住她的頭發扇巴掌”“拿著刀劃向她的臉”等要求。

未成年人與AI談戀愛等類似現象，反映出當前AI產業領域發展迅速，但監管滯后的問題。AI聊天軟件的定制化服務，能夠高度匹配用戶的興趣和需求，從而令人產生一種強烈的吸引力和依賴性，特別容易讓涉世未深的未成年人深陷其中，嚴重影響孩子學習、生活和社交等。更令人擔憂的是，因未受有效約束，其中常常出現色情、暴力以及價值觀扭曲的聊天內容，嚴重損害未成年人的身心健康，對此必須引起高度重視。

雖然AI聊天軟件給人帶來了個性化的體驗，但也存在一定的負面風險，需要及時介入采取措施干預和約束，讓AI聊天軟件如同未成年人一樣在正確的軌道上健康成長。2023年，我國出臺《生成式人工智能服務管理暫行辦法》，專門針對AI可能產生的一系列違法違規問題作出立法回應。加快落實這一系列要求，需要多方共同努力。

相關部門要加快制定和完善法律法規，加強對AI聊天軟件的監管，進一步規定其在未成年人保護方面的責任和義務，同時建立健全內容審核機制，確保AI聊天軟件不含有色情、暴力、低俗等違規內容。AI聊天軟件的開發運營商要結合形勢、按照要求加強技術創新，提高內容審核的準確性和安全性，設置“青少年模式”，限制未成年人訪問“成人區域”，提供更加健康、有益的未成年人服務。

現實中，未成年人因為受到AI聊天軟件不良信息的影響，也存在想方設法突破“青少年模式”的情況。對此，作為第一責任人的家長要加強對孩子使用AI應用的監督，引導孩子合理安排時間，平衡虛擬與現實生活。學校和社會也應加強對未成年人的教育引導，提高他們的自我保護意識，別讓AI鉆了空子。