網紅小玉涉嫌使用AI Deepfake技術產製換臉不雅影片,影音平台YouTube今(3)日發布聲明表示,由於小玉違反YouTube創作者責任政策,已經無限期停止小玉頻道的營利資格。
▲YouTube發布聲明,已無限期停止小玉頻道的營利資格。(圖/翻攝自小玉YouTube頻道)
YouTube聲明指出,如果發現創作者在平台以外的行為傷害YouTube使用者、社群、員工或生態圈,YouTube會採取行動保護社群。在此案例中,創作者使用Deepfake技術傳播色情內容。
網紅小玉涉嫌去年7月起利用人工智慧換臉AI Deepfake技術,將許多知名人士頭像移花接木成性愛影片,不少民意代表也受害,不法所得逾千萬元;內政部警政署刑事警察局10月17日循線逮捕「小玉」(朱姓男子),檢察官訊問後諭令新台幣30萬元交保。