中國國家網際網路信息辦公室（網信辦）周五發布針對「深度合成」（Deep fake）的規則草案。路透社資料圖片
中國國家網際網路信息辦公室（網信辦）周五發布針對「深度合成」（Deep fake）的規則草案，根據網信辦網站上公布的文件，包括使用運算生成和修改文本、音頻、圖像和視頻，都在規管範圍。但政府單位卻可另立規則或法律，不受規管限制。
深度合成技術是指利用以深度學習、虛擬實境為代表的生成合成類運算來製作文本、圖像、音頻、視頻、虛擬場景等信息的技術。中國出台的《網際網路信息服務深度合成管理規定（徵求意見稿）》同時針對深度合成衣務提供者以及深度合成衣務使用者作出規管。
雖然新規規定深度合成需要得到當事人同意，但政府機構卻有方法可以獲得豁免。草案第12條說：「深度合成衣務提供者提供人臉、人聲等生物識別信息的顯著編輯功能的，應當提示深度合成衣務使用者依法告知並取得被編輯的個人信息主體的單獨同意。法律、行政法規另有規定的除外。」
草案的「說明」部分開宗明義指出，新規定出台涉及國家安全。《說明》指出：「網際網路信息服務深度合成活動在服務用戶需求、改進用戶體驗的同時，也被一些不法分子用於製作、複製、發布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，不僅損害人民群眾的切身利益，甚至危害國家安全和社會穩定，迫切需要劃定『底線』、『紅線』，規範發展網際網路信息服務深度合成活動。」
網信辦亦表明，管制深度合成技術跟控制輿論有關，當局亦擔心出現社會動員問題。草案第二十條指出：「深度合成衣務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當按照國家有關規定開展安全評估。」
該規則規定，對初犯者罰款1600美元至16000美元，但違規行為也可能導致民事和刑事起訴。
草案還規定了一個用戶投訴系統和機制，以防止深度造假被用來傳播所謂的「虛假信息」。應用程式商店將被要求在必要時暫停或刪除深度造假技術的提供者。
