社團指南

中國的《網際網路資訊服務深度合成管理規定》與 AI 內容標示

中國透過兩層規範來管理深度偽造及其他合成媒體。

聆聽此指南AI 語音敘述 · ~3 min

本頁4 分鐘閱讀
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. 中國深度合成規則與 AI 內容標示的未來
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

深度合成條款於 2023 年 1 月生效。自 2025 年 9 月 1 日起實施的 AI 生成合成內容標示措施,要求 AI 生成的文字、影像、音訊、影片及虛擬場景必須同時具備可見標示與隱藏元資料標示。這兩項規定使中國成為首批要求 AI 內容在整個分發鏈路(從生成工具到傳播平台)皆須標示的司法管轄區之一。

深入探討

The Provisions on the Administration of Deep Synthesis Internet Information Services were issued in late 2022 by the Cyberspace Administration of China (CAC), the Ministry of Industry and Information Technology and the Ministry of Public Security, and took effect on January 10, 2023. They define deep synthesis broadly as technology that uses deep learning or virtual reality to generate or edit text, images, audio, video or virtual scenes. Providers must verify users' real identities, set management rules, review content, and keep mechanisms for dispelling rumors. When they offer tools for editing biometric information such as a face or voice, they must prompt users to obtain the separate consent of the person being edited. They must also file their algorithms with the CAC. Content that could confuse or mislead the public, such as synthetic faces, cloned voices or realistic scenes, must carry a conspicuous label, and no one may remove or conceal these labels. The 2025 Labeling Measures, issued by the CAC with three other agencies and accompanied by a mandatory national standard, GB 45438-2025, make labeling more specific. Explicit labels are visible or audible cues such as text notices, audio prompts or graphic marks. Implicit labels are embedded in file metadata and include information such as the provider's name and a content ID. Distribution platforms must check uploads for metadata. They display a notice when AI generation is confirmed, and they apply possible or suspected labels when the user declares it or detection suggests it. App stores must check that apps comply. Western approaches are narrower or newer. The EU AI Act's Article 50 imposes transparency and marking duties on AI-generated content and deepfakes, but they apply later than China's. In the United States, deepfake rules are mostly state laws on election ads and intimate imagery, while standards such as C2PA content credentials are voluntary. Labels do not solve detection: metadata can be stripped by screenshots or re-encoding, which is why China layers platform detection and user declarations on top.

現實世界的實施

臉部置換應用程式必須在輸出影片上加上顯眼標籤,並要求使用者取得被編輯臉孔之人的同意,同時必須驗證使用者的真實身分。

AI 影像產生器必須在每個檔案中嵌入隱藏的中繼資料,例如提供者名稱與內容識別碼。文字生成工具則必須顯示可見提示,例如在生成文字的開頭或結尾,或在介面中加入通知。

短影片平台若偵測到上傳內容含有 AI 生成的中繼資料,必須顯示標籤告知觀眾該內容為 AI 生成。若無中繼資料但系統偵測到合成跡象,則會加上「疑似」標籤。

一位創作者將 AI 生成的配音上傳至中國平台時,預期需使用平台的標示工具將其聲明為 AI 生成,且不得移除現有標示。

中國深度合成規則與 AI 內容標示的未來

2025 年標示措施的執行仍屬新事,尚不清楚平台將如何一致性地偵測未標示內容,或監管機構將如何處理誤報。雖然水印技術不斷進步,但尚無任何方法能在每一次編輯後仍保持完整,故標示可能仍需結合多種訊號共同運作。隨著歐盟透明度義務的生效及更多國家考慮標示規則,中國元資料標準與 C2PA 等方案之間的技術互通性可能成為全球平台的實務問題。

付諸實踐

為什麼這很重要

  • 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
  • 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
  • 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。

留意

  • 將存在風險視為科幻小說,同時能力複合。
  • 混淆了表面產品安全與高度自治下的對準。
  • 只給非英語和非專業觀眾留下低品質的資源。

後續步驟

  1. 單獨的產品危害、誤用和失控/失調風險。
  2. 詢問哪些證據會改變您對時間表和嚴重性的看法。
  3. 比起行銷主張,更喜歡主要來源和具體評估。
  4. 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

參加中國深度合成規則與 AI 內容標示測驗

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是中國深度合成規則與 AI 內容標示?

中國透過兩層規範來管理深偽影像及其他合成媒體。《深度合成條款》於2023年1月生效。《AI 生成合成內容標示措施》自2025年9月1日起實施,要求對AI生成的文字、圖像、音訊、影片及虛擬場景同時加上可見標示與隱藏的中繼資料標示。這兩套規定使中國成為首批要求在整個內容流通鏈——從生成工具到傳播平台——皆必須標示AI內容的司法管轄區之一。

中國的《互聯網信息服務深度合成管理規定》於何時生效?

《深度合成條款》於2022年底發布,並於2023年1月10日生效,早於生成式AI臨時措施。

《互聯網信息服務深度合成管理規定》中關於標註的要求於何時生效?

《標示措施》連同強制性國家標準 GB 45438-2025,於2025年9月1日生效。

在中國的標註規則下,什麼是隱性標註?

隱式標示嵌入於中繼資料中,使用者無法直接看到。顯式標示則是向使用者顯示或播放的可見或可聽提示。

當上傳的內容沒有 AI 元數據,但檢測結果顯示為合成內容時,平台應該怎麼做?

平台採用分層制度。具備中繼資料的已確認內容會顯示明確的 AI 生成標示,經偵測標記的內容則會顯示可能或疑似標示。

根據《深度合成管理規定》,在使用者編輯他人的臉部或聲音之前,必須取得什麼?

提供生物特徵編輯工具的服務商必須提示使用者取得被編輯之臉部或聲音的當事人另行同意。