小玉換臉 Deepfake AI

June 18, 2022

網紅小玉DeepFake換臉謎片 YouTube官方宣布:無限期停止營利資格 | 公視新聞網 PNN

img]

歐盟打擊「換臉」!Google、Facebook、Twitter不配合恐面臨巨額罰款

img]

小玉換臉A片惹眾怒!法務部火速提修法嚴懲 最重囚7年|蘋果新聞網|蘋果日報

img]

百萬YouTuber「小玉」涉嫌以 AI Deepfake(換臉)技術,將名人臉部圖像移植到AV女優身上,重製色情影片販售得利,事件驚動總統蔡英文上臉書發文,表示不能坐視,「這些假訊息和影片有一天都可能傷害到你我」,法務部為此也火速修法重懲,今公布修正草案,研議加重處罰竊錄性影音罪,並在《刑法》增訂散布性私密影音罪、製作或散布他人不實性影音罪、製作或散布他人不實活動、言論、談話罪,最重可判7年徒刑,並已向行政院陳報修正草案。

法務部今天與記者茶敍,並就Deepfake淪為犯罪工具,法務部為了遏止不法著手進行修法的進度,由調法務部檢察司主任檢察官林映姿說明。

調法務部檢察司辦事的主任檢察官林映姿,解釋這次修法的五大重點。呂志明攝

林映姿表示,行政院針對網路數位性別暴力有相關的政策,這次修法是落實行政院政策,另外有關深偽(deepfake)技術的犯罪行為,在發生以後,社會各界有修法的呼聲,因此從今年3月開始,分別討論了2個部分的草案,同時也召開刑法研修會議,廣泛的蒐集後,已完成立法進度,並在今天(17日)陳報行政院審查。

這次修法共有五大重點,一、 加重處罰竊錄性影音罪,二、增訂散布性私密影音罪,三、增訂製作或散布他人不實性影音罪,四、修正刑法第28章章名為「妨害秘密及性隱私罪」,五、增訂製作或散布他人不實活動、言論、談話影音罪。

在 加重處罰竊錄性影音罪 的部分,現行《刑法》315條之1第1項,就針對竊錄、偷拍他人非公開的活動、言論、談話,或身體隱私部位,有相關的規範,因為性影音也包含在非公開的活動裡面,本次修法,就修正刑法第315條之1規定,將竊錄性影音的部分,加重其刑至1/2,也就是說, 如果有竊錄的行為,且竊錄的內容又是性影音的話,最重可處4年6個月有期徒刑,若是散布這些竊錄的性影音,最重可處5年有期徒刑 。

在 增訂散布性私密影音罪 的部分,這是增訂《刑法》315條之4,散布性私密影音罪,這個部分是參考德國《刑法》第201條a、日本的特別法《個人性圖像紀錄散布之被害防制法律案》第3條、美國伊利諾州2012年《刑法》第11-23.5節等相關規定,這個與前面不同的是,若是散布偷拍的性影音的話,就以修正刑法第315條之1規定予以處罰,若是這性影音的拍攝是經過被害人同意的,就算她同意拍,也不代表可以傳給別人看,若有這個行為,依增訂條文, 最重可處2年有期徒刑 。

在 增訂製作或散布他人不實性影音罪 的部分,這個部分就是最近大家最關心的部分,利用深偽技術製作不實的性影音罪的部分,因此增訂《刑法》315條之5製作或散布他人不實性影音罪,這是參考韓國《性暴力犯罪處罰特別法》第14條規定,以及美國維吉尼亞州《刑法》道德與風化罪章第18.2-386.2條的相關規定。

這個部分雖然是不實的性影音,但是對被害人而言,並沒有辦法對外說明,且這樣的影音在網路上流傳的非常快速,對被害人所造成的難堪、恐懼,可能會造成心身創傷,所以這次修法增列 意圖散布而以電腦合成或其他科技方法製作關於他人不實之性影音或其電磁紀錄,以及散布、播送、交付或以他法供人觀覽之處罰規定,最重可處5年有期徒刑,若意圖營利,最重可處7年有期徒刑。

在修正刑法第28章章名為「妨害秘密及性隱私罪」部分,由於前三個修法都與性私密有關的相關處罰規定,都是增訂在刑法28章的妨害秘密罪章,所以這一章的章名,也因應了隱私權的重視,「納入隱私權保障、加強保護被害人」,因此修改為「妨害秘密及性隱私罪」章。

在 增訂製作或散布他人不實活動、言論、談話影音罪 的部分,主要是與Deepfake相關的草案,這個是在《刑法》第36章「妨害電腦使用罪章」,增訂第362條之1修正草案,亦即增列 意圖散布而以電腦合成或其他科技方法製作關於他人不實之活動、言論、談話之影音或其電磁紀錄,以及散布、播送、交付或以他法供人觀覽之處罰規定,最重可處3年有期徒刑,若是意圖營利,最重可處5年有期徒刑。

林映姿也解釋,若是Deepfake技術運用在合法用途,像是電影,之前有部電影,因為演員過世,導演就用Deepfake技術,讓演員重生,好讓電影後面可以連貫,或是藝術的展覽,藝術家過世,展覽的承辦單位用Deepfake做一個影片,讓大家可以跟藝術家互動,這都屬於合法的運用,不會受罰,因為《刑法》草案有規定構成要件,「必須足以生損害於公眾或他人」。

法務部長蔡清祥。呂志明攝

法務部長蔡清祥表示,有關深偽影片的修正條文,法務部很積極的進行修法的工作,他先前答應在一個月內提出來,這個禮拜已完成,提早送到行政院,除了深偽影片訂了新的條文來加以處罰,法務部在今年3月間,針對竊錄、散布性私密的影音,就有做了一個條文修正,經過刑修小組討論也完成了,所以跟深偽這種不實的影片,一併立法完成,「我們非常深惡痛絕這樣的行為,一定會加以法律嚴懲」。(呂志明/台北報導)

小玉換臉謎片案 被告莊炘睿出庭 (圖)

img]

網紅「小玉」朱玉宸等人換臉謎片案,新北地院9日審理辯論,被告莊炘睿(圖)出庭,在庭上認罪並向被害人道歉。開庭結束後莊炘睿快步離去,並未受訪。

中央社記者黃旭昇新北攝 111年6月9日

小玉「換臉海撈上千萬」今遭起訴! 受害者高達119人

img]

「小玉」朱玉宸製作「換臉成人片」,大賺上千萬元,今(16)日檢方依個資保護法、加重誹謗、妨害風化等罪名將他起訴。 圖:翻攝自YouTube/小玉

百萬YouTube網紅「小玉」朱玉宸涉嫌以AI Deepfake技術將女藝人、網紅、政治人物臉孔移植到AV女優身上,製作「換臉成人片」,大賺上千萬元,警方統計已經有119人受害。今(16)日新北地檢署依個資保護法、加重誹謗、妨害風化等罪名起訴,好友笑笑耶女則是不起訴處分。

經過檢警調查,「小玉」朱玉宸自2020年7月成立「台灣網紅挖面」推特粉絲團,後來改名為「影片合成」,小玉先在此帳號上傳片長約30秒的換臉宣傳片,再以通訊軟體Telegram群組招攬網友加入網頁粉絲團,網友可透過該網頁進行購買及註冊會員;匯款400元加入會員,付400元可看短片,看長片要付1900元購買VIP會員。

另外,小玉自2021年2月起,更在YouTube建立頻道宣傳,吸引網友購買、註冊,所有費用均都匯至小玉銀行帳戶。檢警查出,小玉找來22歲的莊姓助理負責在網路上蒐集公眾人物影片、照片,並從中擷取人臉特徵,再由小玉使用「DEEPFACELAB」程式軟體中的人工智慧模擬演算(Artificial Intelligence)及深偽(Deepfake)技術合成,吸引4500名會員看片。目前統計受害者共119人,其中有83人提出告訴。

檢方認為,小玉及莊姓助理為圖私利,濫用人工智慧合成技術,偽造出真假難辨的猥褻影片,還透過網路分享對被害人造成傷害,這種物化女性的行為,凸顯出小玉等人對於女性缺乏理解與尊重,考量兩人始終坦承犯行,犯後態度良好,沒收犯罪所得1338萬餘元,以個資保護法、加重誹謗、妨害風化等罪名起訴,並請法院妥善量度刑期。至於小玉好友的笑笑則因犯罪嫌疑不足,不起訴處分。

坦承犯案!小玉換臉合成案今日開庭 下次將傳喚 119 位被害人到場… – 上報 / 遊戲

img]

小玉上銬畫面曝!狂賣換臉謎片賺千萬 黃捷高嘉瑜也成女主

img]

記者張君豪/台北報導

網紅奎丁日前曾出面控訴有不明影像製作團隊,透過俄羅斯加密軟體Telegram開設「台灣網紅挖面群組」,把迷片女主角換成台灣知名女網紅,後製換臉影片在該群組販售並提供樣本,讓網友趨之若鶩,被換臉成為A片性愛女主角的包括網紅奎丁、龍龍、白癡公主、蕾菈、甚至是高雄市正妹議員黃捷、立委高嘉瑜都成為性愛女主角,刑事局正式接獲報案展開調查、17日持搜索票到新北市樹林區逮捕操盤製作換臉迷片販售牟利的網紅「小玉」朱玉宸(26歲)及知名美聲系網紅、常與小玉搭檔拍片的Youtuber「笑笑」耶姓女子(24歲)、莊男(22歲)等涉案工作室成員。

►快訊/不只小玉被抓!搭檔笑笑也被逮捕 連自己都「露臉下海」

▲刑事局17日行動到新北市樹林逮捕網紅「小玉」朱玉宸。(圖/記者張君豪翻攝)

▲刑事局17日行動到新北市樹林逮捕網紅「小玉」朱玉宸及另名女網紅笑笑耶姓女共犯也遭上銬移送。(圖/記者張君豪翻攝)

刑事局指出,雖然Telegram群組加密難以追查,但警方根據消費者購買換臉A片金流,發現該群組營利者確實就是網紅綽號「小玉」的朱玉宸,警方發現小玉利用現有製播YouTube影片器材團隊、透過大陸發行的DeepFace軟體建模換上女明星、網紅、民代擔綱名人性愛影片演出,後製並出售牟利,粗估它們不法獲利超過1千萬元新台幣。

▲刑事局17日行動到新北市樹林逮捕網紅「小玉」朱玉宸,警分析其犯案手法。(圖/記者張君豪翻攝)

刑事局執行網路情蒐,發現從2020年7月起有數名網紅之性愛影片於網路上流傳,警方求證後、發現影片均非本人所拍攝,均從「台灣網紅挖面」推特粉絲專業流出,手法就是透過上述軟體、將藝人或網紅的臉部圖像移植到色情片AV女優身上製作成色情影片販售得利。警方指出這種惡俗行為已經觸犯散播猥褻物、妨害名譽等罪刑,刑事局偵四大隊情蒐後、報請台灣新北地檢署指揮偵辦。

警方調查、該群組粉絲只要支付新台幣幾百元會員費用,就可不加入渠所經營之該加密群組,就可線上瀏覽網紅換臉色情片。加上小玉定期舉辦「票選」「集資」活動,網友選出哪位知名網紅,朱玉宸就會製作該網紅換臉性愛影片上傳販售。警方統計到今年10月初,遭朱玉宸製作換臉成色情影片受害網紅名人超過百人,不法獲利高達千萬元新台幣。

專案小組10月17日持搜索票前往朱玉宸於新北樹林區住處、工作室執行搜索,拘提朱嫌及2名後製影片共犯到案,查扣現金458萬5000元、金融帳戶存簿13本及金融卡、電腦2台、硬碟2顆、手機2支、BENZ名車1台等贓證物,法官裁定扣押朱男不法金流共3筆。警詢後,依散播猥褻物、妨害名譽等罪解送新北地方檢察署偵辦。

換臉不雅片撈千萬! 小玉道歉求減刑 黃捷出庭:絕不和解

img]

百萬YouTuber小玉涉嫌使用換臉軟體製作不雅影片販售散布,其中包括立委高嘉瑜、高市議員黃捷、藝人雞排妹等119人受害,不法所得1338萬元。今(9)日黃捷出庭表示,她堅決不和解,同時提出連帶的民事賠償100萬,並呼籲立法院能加速修法,讓被害人不再受傷或忍讓。

國安局關切!笑笑回憶小玉換臉事件接到詢問電話:有做蔡英文的嗎?

img]

去年百萬YouTuber小玉利用AI技術,製作名人的Deepfake不雅影片獲利,和小玉為合作夥伴的「笑笑」,當時也一度被警方列為嫌疑人,事發過去5個多月,笑笑於前(25)日復出,開台解答大眾的疑問,也提及換臉事件甚至引起國安局關切。

聊天室觀眾向笑笑提問:「蔡英文有告小玉嗎?」,讓笑笑回憶起當時事件爆發、小玉被拘留後,由於小玉等涉案人的手機都被沒收,因此小玉父親接到刑警的電話,警方表示此案件引起國安局關切,想瞭解小玉等人是否有製作總統蔡英文的Deepfake影片,笑笑說:「超荒唐的,但他們沒有做啦」。

影片下方留言區,YouTuber錫蘭Ceylan也表示,當時中國新聞瘋傳小玉因製作蔡英文Deepfake影片被捕:「我還去搜過來源,來源是PTT上一個蔡英文Deepfake動圖,而且這個PTT的動圖除了在PTT上有發過其他地方根本找不到。所以當時我也沒什麼其他證據斷定不是小玉做的,現在看來這就是一個假新聞」。

事發過去5個多月,笑笑於前(25)日復出,開台解答大眾的疑問,也提及換臉事件甚至引起國安局關切。 由於小玉等涉案人的手機都被沒收,因此小玉父親接到刑警的電話,警方表示此案件引起國安局關切,想瞭解小玉等人是否有製作總統蔡英文的Deepfake影片 YouTuber錫蘭Ceylan也表示,當時中國新聞瘋傳小玉因製作蔡英文Deepfake影片被捕:「我還去搜過來源,來源是PTT上一個蔡英文Deepfake動圖,而且這個PTT的動圖除了在PTT上有發過其他地方根本找不到。

又不是真的去演謎片?小玉換臉事件下的賺賠邏輯【觀點】 | 公視新聞網 PNN

img]

在小玉換臉謎片被「猛打屁股」 陳沂吐身心受創提告求償30萬

img]

小玉的換臉謎片受害者高達數百位,網紅陳沂曾收到警方私訊聯絡,起初還以為是詐騙,後來才知是真的,去警局協助調查,看到自己的換臉影片,讓她直呼身心受創,要向小玉提告求償30萬元精神撫慰金。

據「鏡週刊」報導,陳沂前往警局協助調查,看到自己的換臉影片,在片中猛被打屁股,而且也發現她的影片應該小玉初期合成的影片,技術還不是很純熟,可以明顯看出合成的痕跡,還發現警方在調查時,列出受害者名單有數百位,包括明星、網紅、政治名人等,警方要一一通知,但是因為沒有聯絡電話,只能找經紀公司,或是透過臉書私訊來聯絡,陳沂還幫忙協助警方聯絡受害之一的理科太太、王彩樺,要她們若是收到警察的私訊,不要以為是詐騙。

陳沂也透露看到自己的換臉影片,覺得自己遭到羞辱、意淫的畫面,已讓她身心留下陰影,還會做惡夢,夢到自己被打屁股而驚醒,所以會提告小玉,求償30萬元的精神撫慰金,也希望不要再有下一個受害者。

小玉「換臉謎片」遭逮 潔哥傻眼:正妹能理解,但館長是?

img]

記者蔡宜芳/綜合報導

小玉(朱玉宸)引退YouTube界1年多,18日驚傳因製作「換臉謎片」牟利,遭到警方逮捕,受害人超過100+。「鄉民女神」潔哥(李秉潔)也對此在社群網路發表看法,並表示「為何有館長」,吸引網友討論。

▲潔哥(右)發表對於小玉(左)換臉謎片的看法。(圖/翻攝自小玉YouTube、潔哥李秉潔臉書)

小玉因被奎丁控訴換臉,遭到警方調查並逮捕,不僅有網紅、模特兒,還有許多藝人也遭殃,就連「館長」陳之漢都躺槍。潔哥18日在臉書PO文,寫道:「你說換臉換正妹的我還能理解…可是換館長的是???」不懂為何連館長都被換臉,引網友紛紛打趣說:「口味太重了吧!」、「好害怕!」