2025年3月14日，國家網信辦等四部門聯合發布《人工智能生成合成內容標識辦法》（“《標識辦法》”），《標識辦法》與其配套的強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》（“《標識方法》”）均將自2025年9月1日起施行。這意味著，AIGC標識義務作為我國人工智能專項監管的獨特一隅，已率先走向成熟與落地。其原因既在于AIGC虛假信息對網絡生態信任根基的動搖，誤導誘騙、判斷依賴、名譽損害、輿論污染等風險已然顯現，亟需有所規范；又在于其已經具備相對成熟的解決方案，相較于從根本上解決存在技術卡點的模型幻覺等問題，AIGC標識顯然更容易實現。根據《標識辦法》，我國AIGC標識要求具有廣泛的輻射面，并不僅僅局限于內容生成合成環節這一起點，其后續的分發、傳播、甚至使用環節均被涵蓋在內。隨著AIGC服務深度融入現代生產生活，除大模型企業外，各行業企業均可能涉及AI生成合成內容的業務內嵌與外傳，進而可能需要履行標識義務，包括但不限于標識添加、檢測、追蹤、管理、提示等。本文將以國內AIGC標識新規出臺為切入點，重點解答兩個問題：（1）AI生成合成內容“生產-分發-傳播-使用”鏈條中的各方需履行何等標識義務；（2）AIGC標識合規方案能否全球通用。
一、中國智慧：全鏈留痕，欲登高則腳踏實地逐步而行之
我國AIGC標識監管已然形成較為完整的監管體系，以《標識辦法》和《標識方法》作為集大成者，致力于在規范AI生成合成內容衍生流轉的同時，提供可落地的具體合規指引，最大限度地保護行業創新與發展。
（一）標識辦法：貫穿全生命周期、平衡發展與安全的義務體系《標識辦法》規范AI生成合成內容“生產-分發-傳播-使用”的全生命周期，義務主體覆蓋提供生成合成服務的網絡信息服務提供者、互聯網應用程序分發平臺、互聯網應用程序服務提供者、提供網絡信息內容傳播服務的服務提供者，以及用戶。就法律責任性質而言，違反標識義務可能導致行政處罰和違約責任。《標識辦法》未直接設立罰則，而是將其轉引至“有關法律法規及部門規章”。對于提供者、傳播者與分發平臺，其可能因違反標識義務而依相關立法受到行政處罰，或視其合同約定承擔違約責任。而對于用戶，暫未見相關立法對用戶的標識義務設立具體罰則，其未履行標識義務主要需承擔違約責任。《標識辦法》體現了發展與安全相平衡的監管思路。具體而言：● 一方面，《標識辦法》立足企業技術難點與合規成本考量，在安全基線之上為企業合理減負。例如，就隱式標識而言，《標識辦法》就較易實現、成本較低的元數據標識作出強制添加要求，而對于可能仍存技術卡點、成本相對較高的數字水印，則僅提出鼓勵性添加倡議。● 另一方面，《標識辦法》容留彈性空間以滿足實踐發展需求。例如，考慮到特定場景下顯式標識可能會影響AI生成合成內容的正常使用，《標識辦法》允許用戶在受用戶協議約束的前提下申請使用未添加顯式標識的AI生成合成內容，既顧及實踐中多元化的場景使用需求，同時也一定程度上為服務提供者提供了“避風港”（前提是明確用戶協議、依法留存日志）。
顯式標識關乎AI生成合成內容的透明度，而隱式標識意在實現溯源監督。● 從特性上來看，兩者的核心差異在于是否可被感知。顯式標識可被用戶明顯感知，隱式標識則不易被用戶明顯感知。● 基于該等特性，兩者具有差異化的功能。顯式標識基于其顯著性得以對公眾起到直接的提示效果，可協助公眾快速辨別AI生成合成內容，故而其標識內容以“AI生成/合成”作為核心要素，功能亦在于顯著提示；隱式標識基于其隱蔽性、魯棒性得以對內容來源與流轉實現較為完整的記錄，故而其標識內容亦以記錄內容屬性和流傳信息為主，功能即在于溯源監督。《標識方法》系《標識辦法》的配套性文件，為企業履行標識義務提供了詳細具體、可落地性強的標識指引。考慮到關于顯式標識的規定清晰、直觀易懂，我們在此不再作贅述；關于隱式標識的原理及內在邏輯介紹較少，我們在此簡要分享關于元數據、數字水印的基本原理。《標識辦法》與《標識方法》提出了進階式的隱式標識方案。文件元數據是指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內容，通俗而言，即文件的“說明書”。例如，針對一張照片，其元數據會描述照片的拍攝地點、時間、拍攝設備、存儲大小與路徑、文件類型等詳細信息。在大多數情況下，文件創建時會自動產生一些基礎性的元數據信息（如文件創建時間、修改時間、文件大小等），用戶亦可在后續手動添加或更新元數據。關于文件元數據隱式標識，通常而言是將需要嵌入的標識信息添加在文件現有元數據中。《標識方法》對其標識內容作出了具體規定，包括：1）生成合成標簽要素（即區分“屬于”/“可能為”/“疑似為”生成合成內容）；2）生成合成服務提供者要素（即提供者的名稱或編碼）、內容制作編號要素（即提供者對該內容的唯一編號）；3）內容傳播服務提供者要素（即傳播者的名稱或編碼）、內容傳播編號要素（即傳播者對該內容的唯一編號）。總體而言，文件元數據隱式標識具有易實現、標識成本低的優點，但同時也存在易擦除和篡改的缺陷。數字水印是指通過特定算法與規則而嵌入到數字內容（與元數據嵌入到文件頭部有所差異）中的標記信息。數字水印的相對概念是更為原始的“物理水印”，典例如錢幣上的水印，同樣得以起到溯源、鑒偽的作用。數字水印技術隨著數字媒體技術的發展而興起，此前存在諸如以下的應用場景，但整體應用尚不普遍：1）版權保護：雖然不能起到直接的防侵權作用，但得以協助確認版權歸屬、作為版權侵權的證據，目前常被用于強版權意義場景，如圖片版權、模型版權保護（以預防模型蒸餾攻擊）等。2）用戶提示：例如在數據中添加用戶信息以警示用戶依法使用內容，同時幫助企業進行免責。此外，Google此前率先針對AI生成合成內容推出SynthID水印工具，引發業內的廣泛關注與宣傳，亦為其樹立負責任AI企業的良好社會形象有所助力。考察數字水印的關鍵性指標通常包括：1）隱蔽性：嵌入水印后不易被察覺，不影響原始內容的表達；2）魯棒性：對數據內容作正常加工處理，水印仍得以被完整準確提取；3）安全性：在受到攻擊的情況下，水印難以被破壞或篡改。此外還包括容量性（即可嵌入的水印數據量）、實時性（即隨著原始內容的產生而實時嵌入水印，例如直播視頻水印的嵌入）等指標。以上指標存在制約甚至互斥關系，由此帶來一定的技術難題。我國標識監管充分考量行業技術難點與合規成本，僅將數字水印作為倡導性標識方案。在官方答記者問中，明確提出不對“在文本內容中添加隱式標識”“在多媒體文件中添加數字水印”作強制要求，試解析原因如下。● 就文本水印而言，其相較于圖片、音視頻等帶有顏色、結構、頻率、時間等要素的內容呈現形式，文本內容以字符表達、信息密度更高，導致在文本內容中嵌入少量信息即可能影響原有文本語義。故而，目前僅能在模型底層服務而非應用層中添加水印，但在模型層添加水印又可能會影響模型生成內容質量。● 就多媒體文件而言，其載體內容豐富復雜，且實踐中多媒體處理方式與標準在載體屬性、壓縮標準、傳輸信道等諸多方面均快速迭代，導致平衡水印的隱蔽性和魯棒性頗具挑戰。
二、全球監管：求同存異，然境內外標準化合規之路漫漫
對AI生成合成內容設立標識要求已成為主流法域的監管通識。與歐盟、美國等剛確立上層立法要求的情況相比較，中國的體系化AI標識監管已先一步走向落地。● 中國：以《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》作為立法基底，以《標識辦法》作為專項立法要求，以《標識方法》作為標識具體落地方案，后兩者將于2025年9月1日起實施。除已于2025年3月14日發布的《網絡安全標準實踐指南——人工智能生成合成內容標識 服務提供者編碼規則》外，相關元數據標識規范、各應用場景的標識方法等一系列推薦性標準、實踐指南亦將逐步推出。● 歐盟：歐盟《人工智能法》第50條對特定AI系統的透明度要求作出規定，以此作為標識義務的主要依據。《人工智能法》已于2024年8月頒布生效，但關于標識義務的要求將于2026年8月2日起才會正式實施。● 美國：美國在聯邦層面尚未正式出臺關于標識的專項立法，但各州已開始探索AI標識規制，典例如《加州人工智能透明度法案》（California AI Transparency Act，“CAITA”），該法已經加州州長簽署通過，將于2026年1月1日起生效。
就標識義務主體而言，各主流法域均以“生成合成服務提供者”（各法域下概念可能略有不同）作為核心義務主體，而在各相關方是否負有標識義務方面存在監管差異。● 中國：依據AI生成合成內容生命周期進行全鏈路監管，義務主體覆蓋提供生成合成服務的網絡信息服務提供者、互聯網應用程序分發平臺、互聯網應用程序服務提供者、提供網絡信息內容傳播服務的服務提供者以及用戶。● 歐盟：形成以“特定AI系統提供者+部署者”為核心的雙軌制義務主體體系。考慮到歐盟《人工智能法》之大一統屬性，其覆蓋范圍包括但并不局限于生成式AI。具體包括：■ 兩類提供者：與自然人進行直接交互的AI系統提供者、生成合成類AI系統（含通用目的AI系統）提供者；■ 四類部署者：情感識別系統或生物特征分類系統的部署者、生成或操縱深度偽造內容（含圖像和音視頻）的AI系統部署者、生成或篡改公益相關公開文本信息的AI系統部署者。● 美國加州：每月擁有超過100萬名訪客或用戶，并且在加州地理范圍內對外公開可用的生成式AI系統提供者。以訪客或用戶數量作為門檻劃定“受管轄的提供者”（Covered Provider），再次體現了美國立法中小企業豁免的監管思路。就具體標識義務而言，各主流法域的標識思路具有相似性，實質上均涉及顯式標識和隱式標識，但在標識范圍及標識檢測等方面存在監管差異。● 中國：明確劃分顯式標識和隱式標識，如上文所分析，顯式標識要求的強制性受環節及內容類型等因素影響而有所區分，隱式標識則原則上均需強制添加。● 歐盟：未明確設有顯式標識和隱式標識的概念，但實質要求比較近似：■ 《人工智能法》要求前述“兩類提供者”及“四類部署者”最遲在系統與自然人首次互動或接觸時提供清晰可辨（clear and distinguishable）的告知信息，與顯式標識概念有所接近；■ 針對生成合成類AI系統提供者，除不實質改變輸入內容及執法場景等法定例外情形外，立法強制要求其以機器可讀（Machine-Readable）且可檢測的方式對內容進行標注，如水印、元數據標識、指紋等，與隱式標識的監管思路較為相像。● 美國加州：明確劃分顯式披露（Manifest Disclosure）和隱式披露（Latent Disclosure），受管轄的提供者應：■ 允許用戶選擇添加顯式披露，以揭示相關內容（含圖像和音視頻，下同）為AI生成內容；■ 在內容中包含隱式披露，在技術可行范圍內傳達提供者名稱、系統名稱和版本號、內容創建時間以及唯一標識符等信息；■ 此外，CAITA明確要求受管轄的提供者應免費向用戶提供AI檢測工具，使后者得以用于評估相關內容是否由前者的生成式AI系統創建或修改。本項要求為CAITA的創新性要求，中國和歐盟在立法層面則尚未見此類明確規定。不過，盡管各主流法域的監管思路有相似之處，但就具體技術實現方面，目前國際上并未達成統一的標識標準，而囿于地緣政治，未來的標準互認也僅能謹慎樂觀。這意味著，企業在后續出海過程中，可能不得不針對性地推出當地AIGC標識合規方案，一定程度上會增加技術研發和法律合規成本。● 2025年1月23日，美國總統特朗普簽發名為《破除人工智能領域阻礙美國領先地位的壁壘》（Removing Barriers to American Leadership in Artificial Intelligence）的行政令，美國人工智能政策“去監管化”的導向毫無疑問，但致力于形成美國主導的AI安全標準（AI模型檢測、紅隊測試等）對美國在全球AI領域形成絕對主導權同等重要。● 具體到AIGC標識領域，2021年2月，Adobe領導的內容真實性倡議（CAI）和微軟與BBC領導的“原點項目”（Project Origin）聯合起來，形成了內容來源與真實性聯盟（C2PA），其使命即在于建立內容真實性相關技術標準。目前，該聯盟與ISO/IEC等國際標準組織正積極推動建立跨國界的標識技術標準體系，旨在構建一個具有全球互操作性的內容真實性認證框架。
京公網安備110105011258