央視和《時代周報》近日曝光稱，有商家借生成式人工智能（AI）大模型違法製作黃色圖片和視頻，客戶只需9.9元（人民幣，下同）就可獲得大量「製作黃色內容提示詞」，29.9元就能將正常照片一鍵脫衣、變成裸照，甚至生成色情視頻。
央視《財經調查》報道指，部分商家在網上平台公開兜售AI色情影片教程及提示詞，聲稱僅憑一張圖片或幾句文字就能製作大尺度內容，並以「AI擦邊賽道日入5位數」等字眼招攬顧客，相關宣傳圖片極為露骨。
敏感詞譯成英文圖規避監管
這些提示詞內容寫得十分詳細，從髮型、服飾、身材、姿勢、表情，到腰部、胯部扭動幅度，都有極其細緻的描述。此外，商家還將一些敏感詞譯成英文，企圖規避監管。
《時代周報》亦調查發現，有商家指豆包等主流AI模型監管較嚴，轉而推薦其他可生成色情圖影的網站。一位該網站的銷售報價稱，只需9.9元就可購買大量「進階版提示詞」，19.9元能用圖片生成帶聲音的視頻，29.9元能對圖片和視頻「卸甲脫衣」。
資深產業觀察家梁振鵬表示，此事反映出AI技術便利與內容安全之間的矛盾。他認為，平台不能只靠關鍵詞攔截，必須建立技術、人工與制度相結合的全方位防控體系。
