4月13日消息，今日，央視曝光了多款生成式AI應用存在嚴重涉黃生成漏洞，平臺內容審核機制形同虛設，用戶僅需幾句經過隱晦處理的提示詞，就能輕鬆繞過限制，快速生成大尺度色情視頻與圖片。
實測發現，直白露骨的提示詞會被多數平臺攔截，但將敏感表述替換為含蓄描述、英文詞彙等方式後，違規內容可順利生成。
在一款AI應用中，使用網購的隱晦提示詞，僅幾分鐘就生成半裸女性跳舞視頻，全程未觸發任何平臺限制機制，同類問題也出現在多款主流AI應用平臺。
調查顯示，AI“造黃”已形成完整黑色產業鏈，從違規提示詞售賣、工具使用教程，到批量生成色情內容、付費換臉造假，各環節分工明確、牟利猖獗。
網絡上有商家公開兜售定製提示詞，搭配境外AI工具或本地部署模型，進一步規避監管。
部分付費AI照片生成器宣稱，只要充值對應金額，僅憑一張照片就能一鍵生成色情視頻，嚴重突破法律與倫理底線。
此類亂象不僅汙染網絡生態，還極易滋生色情傳播、敲詐勒索、惡意造謠等違法犯罪行為，對未成年人身心健康與網絡空間秩序造成極大危害。
目前，我國已出臺多項法規整治AI技術濫用，明確要求平臺落實內容安全主體責任，強化算法審核與風險防控，嚴禁生成傳播淫穢色情信息。
監管部門正持續開展“清朗”專項行動，重點打擊利用AI製作低俗色情內容、違規提供生成服務等行為，督促平臺升級審核技術，封堵提示詞繞過漏洞。