12月11日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》（簡稱《規定》），強調不得利用深度合成服務從事法律、行政法規禁止的活動，要求深度合成服務提供者落實信息安全主體責任，該《規定》將于2023年1月10日起施行。

【資料圖】

所謂“深度合成技術”，是指利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術，包括文本轉語音、音樂生成、人臉生成、人臉替換、圖像增強等技術。目前該技術已應用于傳媒、影視制作、社交娛樂、教育以及電子商務等行業，如AI合成主播、虛擬偶像、修復歷史老照片等。

近年來，伴隨技術的廣泛落地，以及一二級市場對相關賽道關注熱度的持續升溫，深度合成技術的濫用也隨之產生。在業界人士看來，《規定》的落地利于避免技術濫用于詐騙等不法行為。

深度合成技術已廣泛落地生活

自2019年11月起，我國先后出臺《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》《互聯網信息服務算法推薦管理規定》等文件，對生成合成類內容提出不同程度的監管要求。2022年1月28日，國家互聯網信息辦公室公布《互聯網信息服務深度合成管理規定（征求意見稿）》，向社會公開征求意見，對深度合成內容的用途、標記、使用范圍以及濫用處罰作出具體規定。

中國社科院哲學所科技哲學研究室主任段偉文表示，對深度合成技術引發的社會、法律和倫理問題，應展開有系統性、前瞻性的跨學科研究，對其可能出現的高風險應用場景進行有針對性的治理與監管。

2022年2月，清華大學人工智能研究院與多家機構聯合發布《深度合成十大趨勢報告（2022）》（簡稱《報告》）。《報告》顯示，在國內外主流音視頻網站、社交媒體平臺上，2021年新發布的深度合成視頻的數量較2017年已增長超過十倍。此外，深度合成內容關注度也呈指數級增長，通過對互動數據進行統計，2021年新發布的深度合成視頻的點贊數已超過3億。

2022年深度合成技術落地也甚為火熱。截至發稿，抖音AI繪畫特效已有2568.1萬人使用；小紅書上，據灰豚數據，“AI繪畫”關鍵詞熱度值8.1萬，關聯筆記互動量76.1萬；騰訊近日也上線了“QQ小世界AI畫匠”活動，用戶上傳照片可一鍵生成專屬異次元形象，但生成結果參差，有的二次元結果符合原圖，有的則“謬以千里”。

國泰君安研報預計未來5年，AI繪畫在圖像內容生成領域的滲透率將達到10%—30%，隨著AI繪畫將下一代互聯網作為關鍵著力點，該市場規模超600億元。

除了AI繪畫，近期火熱的聊天機器人ChatGPT，二級市場熱炒的數字人、虛擬主播、AIGC、元宇宙等，均屬于深度合成技術領域。但需注意的是，中國科學院院士、清華大學人工智能研究院創始院長張鈸在《報告》開篇寫道：“與其他技術不同，由于人工智能的安全性問題主要來源于算法本身的不安全，它更容易被誤用和濫用。以深度合成技術為例，不法分子可以利用它給社會帶來巨大的威脅。”如偽造音頻、視頻，實施誣陷、誹謗、詐騙、勒索等違法行為。

《規定》稱，近年來，深度合成技術快速發展，在服務用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復制、發布、傳播違法和不良信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩定。出臺規定是防范化解安全風險的需要，也是促進深度合成服務健康發展、提升監管能力水平的需要。段偉文對記者表示，深度合成技術落地應用中，AI換臉是較為典型的代表，如在短視頻中進行虛假視頻的傳播，可能引發謠言、對公眾產生不良影響等較為嚴重的結果。

避免技術濫用于不法行為

此次出臺的《規定》要求，深度合成服務提供者建立健全管理制度和技術保障措施，制定公開管理規則、平臺公約，對使用者進行真實身份信息認證，加強深度合成內容管理，建立健全辟謠機制和申訴、投訴、舉報機制。同時明確深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。

對于《規定》的出臺，人工智能技術行業人士對記者表示，《規定》對AIGC領域有規范作用，但主要是為了避免技術濫用于詐騙，平臺可能會加上水印技術后繼續運行，如同行業實行的手機號實名制一樣，對普通人影響不大。

易觀智慧院分析師陳一墨對記者表示，《規定》無疑是保證深度合成技術可以得到正確應用與推廣的保障，但總得來說利用深度合成技術進行違法犯罪活動的成本小，執法難度大，因此需要各參與方均有相關法律與風險意識并做出行動。而這必然對各參與方存在不同程度的影響。影響最大的應該是相關服務的供應商。由于深度合成內容涵蓋范圍廣，供應商需要加大力度進行相關審核，這會推高供應商的運營成本，且《規定》第十七條中所述的顯著標識定義較為模糊，而顯著標識也有可能影響相關服務的體驗。對于個人用戶來說，也需要加強自我審查，增加了應用相關技術的隱性成本。

上海大邦律師事務所游云庭律師對第一財經表示，新規定主要是對與深度合成有關的人工智能進行監管，涉及的產業包括人工智能元宇宙，發布的部門包括電信公安和網信。主要的監管目的是為了防止這些新生事物對現有的社會秩序產生太大的沖擊。

而《規定》監管的對象其中之一是深度合成人工智能的使用者。游云庭稱，《規定》要求其使用這些工具時不得用于違法的目的，另一個對象是深度合成服務提供者，也就是平臺的主體責任，要求其提供服務時，對使用者實名制登記，對合成的內容進行監管和審核，并且要建立違法和不良信息特征庫。同時對平臺要求在訓練人工智能時，如果訓練數據包含個人信息時，應遵守《個人信息保護》相關規定，如果使用生物識別信息的應當取得數據提供者單獨同意，對算法的倫理機制也進行了規定，重點規定了對深度合成服務生成的內容應當進行顯著性的標識，對服務者還要求按現有互聯網管理規定進行備案由主管部門進行監管。

游云庭認為，對普通人來說，這個規定要求用戶需要合法遵守倫理道德的使用人工智能。對平臺而言，不僅僅是監管的問題，還要給人工智能設置倫理，這個挑戰其實很大。

段偉文對記者表示，《規定》將在短期內促進相關企業加大在安全合規、倫理等方面的投入，以及相關經驗的積累。具體落地過程中，究竟哪些技術層面需要進行安全評估、誰來進行等問題，均需要磨合探索。因此長遠來看，《規定》對行業的影響也需結合具體過程來觀察。

磨合過程中，段偉文認為，需有三點需要明確：第一是監管部門在不同階段，應對企業提出相對明確的要求；其次，企業作為技術主體，應加強技術自律，及時發現問題，并進行復盤，將相關風險降到最低；作為用戶或消費者環節，全社會應該創造條件，加強人工智能與數字技術的社會法律倫理影響方面的教育傳播，促進公眾人工智能素養、數字素養的提升。

至于深度合成技術落地行業過程中如何進行精準鑒別，段偉文稱，需要監管部門、企業與消費者三方努力，構建協同共治的機制。從《規定（意見稿）》到《規定》最終落地，過程中已有很多企業參與其中，未來仍需讓消費者也參與進來，盡量減少對企業創新效率產生負面影響。

標簽： 深度合成