YouTuber小玉（朱玉宸）利用變臉軟體製作變臉A片牟利，遭合成的受害者不分男女、職業高達上百人，包含立法委員高嘉瑜、市議員黃捷、藝人蔡依林、網紅愛莉莎莎等，一年初估大賺上千萬元。
由於目前深度變造人臉犯案、以此不法獲利缺乏法源管制，檢方昨只能訊後諭令30萬元交保。
然而，這些受害者的「性愛影片」早在去年起開始在網路流傳，案件偵破後檢警仍無法源要求Youtube、twitter等平台將影片下架，這些再製的非真實內容仍在各社群管道間瘋狂被轉傳…
深度變造科技犯案無法管 小玉輕罪交保檢警無奈
刑事局昨（19）日召開破案記者會，發現去年起許多網紅、藝人及政治人物的性愛影片在網路上流傳，經求證後發現都非本人。
進一步追查後發現，影片由社群軟體twitter粉絲團「台灣網紅挖面」流出，嫌犯透過人工智慧換臉AI Deepfake技術，只要知名人物的一張臉部照片，就可將臉移植到AV女優身上，會員付費後可加入通訊軟體群組會員、或得到影片雲端網址試看色情影片。
偵查結果發現，經營粉絲團主嫌為知名百萬YouTuber小玉，至今年10月初不法獲利約1100萬元，招募會員已逾8000人。
檢方昨以妨害名譽及散播猥褻物將小玉及其共犯起訴。刑法販賣猥褻影像最重判刑兩年；意圖散布於眾而毀損他人名譽最重判一年。
偵查第四大隊副大隊長柯志仁受訪時無奈說，「個案要去找法源規範，這兩條都不重，可預見就是交保而已」，目前屬於公訴的散播猥褻物已盡全力處理；至於妨害名譽為告訴乃論，仰賴當事人提告後對犯嫌進行民事求償。
受害者傷痛難止 強制平台下架內容缺法源
案件目前雖然已經偵破，這些影片部分仍在網路網路上、line群組間瘋狂被轉傳。
柯志仁說，已經報檢方關閉相關雲端、群組、粉絲團，目前先將主嫌及其官網的帳號的影片下架。柯志仁也坦言，僅能先對個案處理，若有其他人以其他名義、管道將影片流出去，「就變成其他個案，目前需要仰賴民眾在各平台檢舉，才能將影片下架」。
至於YouTube、twitter網路平台仍可搜尋到少數影片，目前檢、警已聯絡平台下架，若個案範圍外者，因缺乏「法律文件」仍要視平台內部「道德規範」。
「網路內容涉人權與言論自由，看要怎麼去衡量…沒有法源，檢警其實很為難。」柯志仁說。
言下之意，目前尚在網路流傳的影片，除仰賴民眾看到後主動向平台檢舉外；也只能靠受害者針對發文、轉文者以妨害名譽提告，有具體法律相關文件後才能要求平台下架。
端靠司法難解決 與平台巨頭交涉需行政更多執行力
甄明法律事務所律師陳昭龍分析，「言論自由100％受到保障，但個案發生後如何降低傷害是關鍵」，第一步應先止住傷害、讓內容不再透過網路平台持續散播，然而，現行實務上爭議個案難以在第一時間要求平台隱藏內容，待司法判決確定，對被害者的持續傷害已不可逆。此外，若個案被告人或平台為外國IP，相關法律文件取得困難，難以強制要求平台將內容下架。
陳昭龍分析，個案只能先引述「兒童及少年性剝削防制條例」等相關法源、嘗試撐開解釋空間，以此進一步聲請強制處分，命平台暫時隱藏。但他也直言，目前的法源確有其極限。
陳昭龍也舉例，性侵害犯罪防治法第13條也保障各類出版品、平台不得報導有被害人或足以辨別身份的資訊，相關單位也能依13-1條命平台限期移除內容、下架；但，傳統定義的「性侵犯」，泛指違背受害者意願的性行為，要有生理上的接觸才能成立，現在被害者被變臉成A片在「性意識上」受到侵犯導致被害者身心受創，未來是否能入法受保護、數位性暴力是否能被規範值得討論。
陳昭龍建議，在完備相關修法前，短期政府可以依法進行行政指導，邀來平台、執法單位與相關部會等凝聚共識，未來在處遇相關案件的第一時間，能有標準流程、判斷依據將爭議內容下架，並授與相關機關執行的裁量依據。
【AI換臉事件 無法可管的數位性暴力！】 隨著AI技術的普及，近期在網上，傳出有帳號在推特上提供眾多「AI 換臉」色情試看片，其利用 AI Deepfake技術，將網紅的臉「移植」到色情片的 AV...
由高嘉瑜發佈於 2021年10月17日 星期日
人臉深度仿造恐挑戰民主 總統下令修法防新科技犯罪
為受害者之一的民進黨立委高嘉瑜昨也提出修法，指「AI換臉」所產生的侵害有持續性，甚至可能跟隨被害人一輩子，而妨害名譽罪的刑度卻屬相對輕微，繼續用舊條文來處理新的犯罪現象，顯然有罪責不相當的疑慮！
總統蔡英文昨也於臉書上宣布，台灣也一直面臨假影片、假訊息的威脅，這些都是利用科技造假、威脅民主制度的挑戰，並呼籲網路平台業者，應該多關心這類新型科技犯罪行為，有責任阻止錯假影像傷害無辜的人。她說，未來將參考國際做法，推動我國「ＡＩ換臉」管制相關法令。
行政院長蘇貞昌今於立法院備詢時宣布，將會修法加重刑責；法務部長蔡清祥也允諾，將在1個月內提出相關修法草案。
今天網路上最大關鍵字叫做...
由蔡英文 Tsai Ing-wen 發佈於 2021年10月18日 星期一
