南韓近日爆出「Deepfake版N號房」事件 ，有Telegram群組和頻道散布以深偽（Deepfake）技術製成的色情影片，成員多達數十萬人。警方近日拘捕2人，當局表示計劃要求Telegram和其他平台，更積極協助刪除和封鎖露骨的深偽色情內容。
相關新聞：
Deepfake欺凌｜美國比華利山中學生用AI偽造同學裸照 5涉案學生全退學處分
慈禧「翻生」？｜AI生成大跳「科目三」亂真 網民大驚：英叔快收了她
李顯龍賣加密貨幣？ 本尊發文闢謠 吁提防AI詐騙
樂壇天后Taylor Swift深偽裸照網上瘋傳 粉絲抗議
據韓聯社報道，針對近來深偽技術犯罪泛濫，首爾警察廳成立集中對應專案小組，本月22日將在Telegram成立聊天群組「友人凌辱房」、製作並散播合成性剝削影像的20多歲男性嫌犯A某逮捕拘提到案，30日移送檢方。
A某被指於今年5月至7月，在Telegram開設聊天群組「友人凌辱房」，並從其他參加會員獲取女性友人們的臉部照片、年齡等個人資訊，合成279個性剝削影片並廣為散播，受害者多達246人。
接收材料幫會員製作深偽片
至於另一名30多歲男性嫌犯B某則已經營成人網站4年，從2020年12月起開始經營，為的是獲取賭博網站的廣告收益。直到被捕前，他已總共製作並散播2萬多部以兒童、青少年為對象的性剝削影像。
B某為了躲避司法機關的追緝和放送通信審議委員會的封鎖，竟然購買了85個網域名稱，以便隨時更換。除了並經營成人網站，他還同時經營另外5個網站以負責宣傳。
南韓共同民主黨籍國會議員楊富男從警察廳獲取相關統計資料，發現2021至2023年每一年深偽技術受害者的人數是逐年遞增，且光是未成年受害者就佔6成。
南韓政府官員與國會議員日前召開緊急會議，會上同意推動修例，將具散布目的而製作深偽色情影片等罪行的刑罰，從最高判監5年提高至7年。當局將與Telegram的代表開會，推動設立定期協商的熱線機制，讓平台自主限制非法內容 。執政國民力量黨政策委員會主席金相勛表示，Telegram上廣泛傳播深偽色情內容，但由於伺服器位於南韓境外，國際合作似乎面臨挑戰。
