2025年3月14日，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（“《標(biāo)識辦法》”），《標(biāo)識辦法》與其配套的強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》（“《標(biāo)識方法》”）均將自2025年9月1日起施行。這意味著，AIGC標(biāo)識義務(wù)作為我國人工智能專項(xiàng)監(jiān)管的獨(dú)特一隅，已率先走向成熟與落地。其原因既在于AIGC虛假信息對網(wǎng)絡(luò)生態(tài)信任根基的動搖，誤導(dǎo)誘騙、判斷依賴、名譽(yù)損害、輿論污染等風(fēng)險已然顯現(xiàn)，亟需有所規(guī)范；又在于其已經(jīng)具備相對成熟的解決方案，相較于從根本上解決存在技術(shù)卡點(diǎn)的模型幻覺等問題，AIGC標(biāo)識顯然更容易實(shí)現(xiàn)。根據(jù)《標(biāo)識辦法》，我國AIGC標(biāo)識要求具有廣泛的輻射面，并不僅僅局限于內(nèi)容生成合成環(huán)節(jié)這一起點(diǎn)，其后續(xù)的分發(fā)、傳播、甚至使用環(huán)節(jié)均被涵蓋在內(nèi)。隨著AIGC服務(wù)深度融入現(xiàn)代生產(chǎn)生活，除大模型企業(yè)外，各行業(yè)企業(yè)均可能涉及AI生成合成內(nèi)容的業(yè)務(wù)內(nèi)嵌與外傳，進(jìn)而可能需要履行標(biāo)識義務(wù)，包括但不限于標(biāo)識添加、檢測、追蹤、管理、提示等。本文將以國內(nèi)AIGC標(biāo)識新規(guī)出臺為切入點(diǎn)，重點(diǎn)解答兩個問題：（1）AI生成合成內(nèi)容“生產(chǎn)-分發(fā)-傳播-使用”鏈條中的各方需履行何等標(biāo)識義務(wù)；（2）AIGC標(biāo)識合規(guī)方案能否全球通用。
一、中國智慧：全鏈留痕，欲登高則腳踏實(shí)地逐步而行之
我國AIGC標(biāo)識監(jiān)管已然形成較為完整的監(jiān)管體系，以《標(biāo)識辦法》和《標(biāo)識方法》作為集大成者，致力于在規(guī)范AI生成合成內(nèi)容衍生流轉(zhuǎn)的同時，提供可落地的具體合規(guī)指引，最大限度地保護(hù)行業(yè)創(chuàng)新與發(fā)展。
▲ 表1：中國標(biāo)識相關(guān)主要立法（一）標(biāo)識辦法：貫穿全生命周期、平衡發(fā)展與安全的義務(wù)體系《標(biāo)識辦法》規(guī)范AI生成合成內(nèi)容“生產(chǎn)-分發(fā)-傳播-使用”的全生命周期，義務(wù)主體覆蓋提供生成合成服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺、互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者、提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者，以及用戶。就法律責(zé)任性質(zhì)而言，違反標(biāo)識義務(wù)可能導(dǎo)致行政處罰和違約責(zé)任。《標(biāo)識辦法》未直接設(shè)立罰則，而是將其轉(zhuǎn)引至“有關(guān)法律法規(guī)及部門規(guī)章”。對于提供者、傳播者與分發(fā)平臺，其可能因違反標(biāo)識義務(wù)而依相關(guān)立法受到行政處罰，或視其合同約定承擔(dān)違約責(zé)任。而對于用戶，暫未見相關(guān)立法對用戶的標(biāo)識義務(wù)設(shè)立具體罰則，其未履行標(biāo)識義務(wù)主要需承擔(dān)違約責(zé)任。《標(biāo)識辦法》體現(xiàn)了發(fā)展與安全相平衡的監(jiān)管思路。具體而言：● 一方面，《標(biāo)識辦法》立足企業(yè)技術(shù)難點(diǎn)與合規(guī)成本考量，在安全基線之上為企業(yè)合理減負(fù)。例如，就隱式標(biāo)識而言，《標(biāo)識辦法》就較易實(shí)現(xiàn)、成本較低的元數(shù)據(jù)標(biāo)識作出強(qiáng)制添加要求，而對于可能仍存技術(shù)卡點(diǎn)、成本相對較高的數(shù)字水印，則僅提出鼓勵性添加倡議。● 另一方面，《標(biāo)識辦法》容留彈性空間以滿足實(shí)踐發(fā)展需求。例如，考慮到特定場景下顯式標(biāo)識可能會影響AI生成合成內(nèi)容的正常使用，《標(biāo)識辦法》允許用戶在受用戶協(xié)議約束的前提下申請使用未添加顯式標(biāo)識的AI生成合成內(nèi)容，既顧及實(shí)踐中多元化的場景使用需求，同時也一定程度上為服務(wù)提供者提供了“避風(fēng)港”（前提是明確用戶協(xié)議、依法留存日志）。
▲ 圖1：內(nèi)容生產(chǎn)環(huán)節(jié)標(biāo)識義務(wù)分析
▲ 圖2：內(nèi)容分發(fā)環(huán)節(jié)標(biāo)識義務(wù)分析
▲ 圖3：內(nèi)容傳播/使用環(huán)節(jié)標(biāo)識義務(wù)分析（二）標(biāo)識方法：實(shí)操性強(qiáng)、進(jìn)階式的具體標(biāo)識方案顯式標(biāo)識關(guān)乎AI生成合成內(nèi)容的透明度，而隱式標(biāo)識意在實(shí)現(xiàn)溯源監(jiān)督。● 從特性上來看，兩者的核心差異在于是否可被感知。顯式標(biāo)識可被用戶明顯感知，隱式標(biāo)識則不易被用戶明顯感知。● 基于該等特性，兩者具有差異化的功能。顯式標(biāo)識基于其顯著性得以對公眾起到直接的提示效果，可協(xié)助公眾快速辨別AI生成合成內(nèi)容，故而其標(biāo)識內(nèi)容以“AI生成/合成”作為核心要素，功能亦在于顯著提示；隱式標(biāo)識基于其隱蔽性、魯棒性得以對內(nèi)容來源與流轉(zhuǎn)實(shí)現(xiàn)較為完整的記錄，故而其標(biāo)識內(nèi)容亦以記錄內(nèi)容屬性和流傳信息為主，功能即在于溯源監(jiān)督。《標(biāo)識方法》系《標(biāo)識辦法》的配套性文件，為企業(yè)履行標(biāo)識義務(wù)提供了詳細(xì)具體、可落地性強(qiáng)的標(biāo)識指引。考慮到關(guān)于顯式標(biāo)識的規(guī)定清晰、直觀易懂，我們在此不再作贅述；關(guān)于隱式標(biāo)識的原理及內(nèi)在邏輯介紹較少，我們在此簡要分享關(guān)于元數(shù)據(jù)、數(shù)字水印的基本原理。《標(biāo)識辦法》與《標(biāo)識方法》提出了進(jìn)階式的隱式標(biāo)識方案。1. 基礎(chǔ)性強(qiáng)制義務(wù)：文件元數(shù)據(jù)標(biāo)識文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內(nèi)容，通俗而言，即文件的“說明書”。例如，針對一張照片，其元數(shù)據(jù)會描述照片的拍攝地點(diǎn)、時間、拍攝設(shè)備、存儲大小與路徑、文件類型等詳細(xì)信息。在大多數(shù)情況下，文件創(chuàng)建時會自動產(chǎn)生一些基礎(chǔ)性的元數(shù)據(jù)信息（如文件創(chuàng)建時間、修改時間、文件大小等），用戶亦可在后續(xù)手動添加或更新元數(shù)據(jù)。關(guān)于文件元數(shù)據(jù)隱式標(biāo)識，通常而言是將需要嵌入的標(biāo)識信息添加在文件現(xiàn)有元數(shù)據(jù)中。《標(biāo)識方法》對其標(biāo)識內(nèi)容作出了具體規(guī)定，包括：1）生成合成標(biāo)簽要素（即區(qū)分“屬于”/“可能為”/“疑似為”生成合成內(nèi)容）；2）生成合成服務(wù)提供者要素（即提供者的名稱或編碼）、內(nèi)容制作編號要素（即提供者對該內(nèi)容的唯一編號）；3）內(nèi)容傳播服務(wù)提供者要素（即傳播者的名稱或編碼）、內(nèi)容傳播編號要素（即傳播者對該內(nèi)容的唯一編號）。總體而言，文件元數(shù)據(jù)隱式標(biāo)識具有易實(shí)現(xiàn)、標(biāo)識成本低的優(yōu)點(diǎn)，但同時也存在易擦除和篡改的缺陷。2. 進(jìn)階性倡導(dǎo)建議：數(shù)字水印標(biāo)識等內(nèi)容隱式標(biāo)識數(shù)字水印是指通過特定算法與規(guī)則而嵌入到數(shù)字內(nèi)容（與元數(shù)據(jù)嵌入到文件頭部有所差異）中的標(biāo)記信息。數(shù)字水印的相對概念是更為原始的“物理水印”，典例如錢幣上的水印，同樣得以起到溯源、鑒偽的作用。數(shù)字水印技術(shù)隨著數(shù)字媒體技術(shù)的發(fā)展而興起，此前存在諸如以下的應(yīng)用場景，但整體應(yīng)用尚不普遍：1）版權(quán)保護(hù)：雖然不能起到直接的防侵權(quán)作用，但得以協(xié)助確認(rèn)版權(quán)歸屬、作為版權(quán)侵權(quán)的證據(jù)，目前常被用于強(qiáng)版權(quán)意義場景，如圖片版權(quán)、模型版權(quán)保護(hù)（以預(yù)防模型蒸餾攻擊）等。2）用戶提示：例如在數(shù)據(jù)中添加用戶信息以警示用戶依法使用內(nèi)容，同時幫助企業(yè)進(jìn)行免責(zé)。此外，Google此前率先針對AI生成合成內(nèi)容推出SynthID水印工具，引發(fā)業(yè)內(nèi)的廣泛關(guān)注與宣傳，亦為其樹立負(fù)責(zé)任AI企業(yè)的良好社會形象有所助力。考察數(shù)字水印的關(guān)鍵性指標(biāo)通常包括：1）隱蔽性：嵌入水印后不易被察覺，不影響原始內(nèi)容的表達(dá)；2）魯棒性：對數(shù)據(jù)內(nèi)容作正常加工處理，水印仍得以被完整準(zhǔn)確提取；3）安全性：在受到攻擊的情況下，水印難以被破壞或篡改。此外還包括容量性（即可嵌入的水印數(shù)據(jù)量）、實(shí)時性（即隨著原始內(nèi)容的產(chǎn)生而實(shí)時嵌入水印，例如直播視頻水印的嵌入）等指標(biāo)。以上指標(biāo)存在制約甚至互斥關(guān)系，由此帶來一定的技術(shù)難題。我國標(biāo)識監(jiān)管充分考量行業(yè)技術(shù)難點(diǎn)與合規(guī)成本，僅將數(shù)字水印作為倡導(dǎo)性標(biāo)識方案。在官方答記者問中，明確提出不對“在文本內(nèi)容中添加隱式標(biāo)識”“在多媒體文件中添加數(shù)字水印”作強(qiáng)制要求，試解析原因如下。● 就文本水印而言，其相較于圖片、音視頻等帶有顏色、結(jié)構(gòu)、頻率、時間等要素的內(nèi)容呈現(xiàn)形式，文本內(nèi)容以字符表達(dá)、信息密度更高，導(dǎo)致在文本內(nèi)容中嵌入少量信息即可能影響原有文本語義。故而，目前僅能在模型底層服務(wù)而非應(yīng)用層中添加水印，但在模型層添加水印又可能會影響模型生成內(nèi)容質(zhì)量。● 就多媒體文件而言，其載體內(nèi)容豐富復(fù)雜，且實(shí)踐中多媒體處理方式與標(biāo)準(zhǔn)在載體屬性、壓縮標(biāo)準(zhǔn)、傳輸信道等諸多方面均快速迭代，導(dǎo)致平衡水印的隱蔽性和魯棒性頗具挑戰(zhàn)。
二、全球監(jiān)管：求同存異，然境內(nèi)外標(biāo)準(zhǔn)化合規(guī)之路漫漫
對AI生成合成內(nèi)容設(shè)立標(biāo)識要求已成為主流法域的監(jiān)管通識。與歐盟、美國等剛確立上層立法要求的情況相比較，中國的體系化AI標(biāo)識監(jiān)管已先一步走向落地。● 中國：以《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》作為立法基底，以《標(biāo)識辦法》作為專項(xiàng)立法要求，以《標(biāo)識方法》作為標(biāo)識具體落地方案，后兩者將于2025年9月1日起實(shí)施。除已于2025年3月14日發(fā)布的《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——人工智能生成合成內(nèi)容標(biāo)識 服務(wù)提供者編碼規(guī)則》外，相關(guān)元數(shù)據(jù)標(biāo)識規(guī)范、各應(yīng)用場景的標(biāo)識方法等一系列推薦性標(biāo)準(zhǔn)、實(shí)踐指南亦將逐步推出。● 歐盟：歐盟《人工智能法》第50條對特定AI系統(tǒng)的透明度要求作出規(guī)定，以此作為標(biāo)識義務(wù)的主要依據(jù)。《人工智能法》已于2024年8月頒布生效，但關(guān)于標(biāo)識義務(wù)的要求將于2026年8月2日起才會正式實(shí)施。● 美國：美國在聯(lián)邦層面尚未正式出臺關(guān)于標(biāo)識的專項(xiàng)立法，但各州已開始探索AI標(biāo)識規(guī)制，典例如《加州人工智能透明度法案》（California AI Transparency Act，“CAITA”），該法已經(jīng)加州州長簽署通過，將于2026年1月1日起生效。
▲ 表2：其他法域標(biāo)識監(jiān)管相關(guān)進(jìn)展就標(biāo)識義務(wù)主體而言，各主流法域均以“生成合成服務(wù)提供者”（各法域下概念可能略有不同）作為核心義務(wù)主體，而在各相關(guān)方是否負(fù)有標(biāo)識義務(wù)方面存在監(jiān)管差異。● 中國：依據(jù)AI生成合成內(nèi)容生命周期進(jìn)行全鏈路監(jiān)管，義務(wù)主體覆蓋提供生成合成服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺、互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者、提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者以及用戶。● 歐盟：形成以“特定AI系統(tǒng)提供者+部署者”為核心的雙軌制義務(wù)主體體系。考慮到歐盟《人工智能法》之大一統(tǒng)屬性，其覆蓋范圍包括但并不局限于生成式AI。具體包括：■ 兩類提供者：與自然人進(jìn)行直接交互的AI系統(tǒng)提供者、生成合成類AI系統(tǒng)（含通用目的AI系統(tǒng)）提供者；■ 四類部署者：情感識別系統(tǒng)或生物特征分類系統(tǒng)的部署者、生成或操縱深度偽造內(nèi)容（含圖像和音視頻）的AI系統(tǒng)部署者、生成或篡改公益相關(guān)公開文本信息的AI系統(tǒng)部署者。● 美國加州：每月?lián)碛谐^100萬名訪客或用戶，并且在加州地理范圍內(nèi)對外公開可用的生成式AI系統(tǒng)提供者。以訪客或用戶數(shù)量作為門檻劃定“受管轄的提供者”（Covered Provider），再次體現(xiàn)了美國立法中小企業(yè)豁免的監(jiān)管思路。就具體標(biāo)識義務(wù)而言，各主流法域的標(biāo)識思路具有相似性，實(shí)質(zhì)上均涉及顯式標(biāo)識和隱式標(biāo)識，但在標(biāo)識范圍及標(biāo)識檢測等方面存在監(jiān)管差異。● 中國：明確劃分顯式標(biāo)識和隱式標(biāo)識，如上文所分析，顯式標(biāo)識要求的強(qiáng)制性受環(huán)節(jié)及內(nèi)容類型等因素影響而有所區(qū)分，隱式標(biāo)識則原則上均需強(qiáng)制添加。● 歐盟：未明確設(shè)有顯式標(biāo)識和隱式標(biāo)識的概念，但實(shí)質(zhì)要求比較近似：■ 《人工智能法》要求前述“兩類提供者”及“四類部署者”最遲在系統(tǒng)與自然人首次互動或接觸時提供清晰可辨（clear and distinguishable）的告知信息，與顯式標(biāo)識概念有所接近；■ 針對生成合成類AI系統(tǒng)提供者，除不實(shí)質(zhì)改變輸入內(nèi)容及執(zhí)法場景等法定例外情形外，立法強(qiáng)制要求其以機(jī)器可讀（Machine-Readable）且可檢測的方式對內(nèi)容進(jìn)行標(biāo)注，如水印、元數(shù)據(jù)標(biāo)識、指紋等，與隱式標(biāo)識的監(jiān)管思路較為相像。● 美國加州：明確劃分顯式披露（Manifest Disclosure）和隱式披露（Latent Disclosure），受管轄的提供者應(yīng)：■ 允許用戶選擇添加顯式披露，以揭示相關(guān)內(nèi)容（含圖像和音視頻，下同）為AI生成內(nèi)容；■ 在內(nèi)容中包含隱式披露，在技術(shù)可行范圍內(nèi)傳達(dá)提供者名稱、系統(tǒng)名稱和版本號、內(nèi)容創(chuàng)建時間以及唯一標(biāo)識符等信息；■ 此外，CAITA明確要求受管轄的提供者應(yīng)免費(fèi)向用戶提供AI檢測工具，使后者得以用于評估相關(guān)內(nèi)容是否由前者的生成式AI系統(tǒng)創(chuàng)建或修改。本項(xiàng)要求為CAITA的創(chuàng)新性要求，中國和歐盟在立法層面則尚未見此類明確規(guī)定。不過，盡管各主流法域的監(jiān)管思路有相似之處，但就具體技術(shù)實(shí)現(xiàn)方面，目前國際上并未達(dá)成統(tǒng)一的標(biāo)識標(biāo)準(zhǔn)，而囿于地緣政治，未來的標(biāo)準(zhǔn)互認(rèn)也僅能謹(jǐn)慎樂觀。這意味著，企業(yè)在后續(xù)出海過程中，可能不得不針對性地推出當(dāng)?shù)谹IGC標(biāo)識合規(guī)方案，一定程度上會增加技術(shù)研發(fā)和法律合規(guī)成本。● 2025年1月23日，美國總統(tǒng)特朗普簽發(fā)名為《破除人工智能領(lǐng)域阻礙美國領(lǐng)先地位的壁壘》（Removing Barriers to American Leadership in Artificial Intelligence）的行政令，美國人工智能政策“去監(jiān)管化”的導(dǎo)向毫無疑問，但致力于形成美國主導(dǎo)的AI安全標(biāo)準(zhǔn)（AI模型檢測、紅隊(duì)測試等）對美國在全球AI領(lǐng)域形成絕對主導(dǎo)權(quán)同等重要。
● 具體到AIGC標(biāo)識領(lǐng)域，2021年2月，Adobe領(lǐng)導(dǎo)的內(nèi)容真實(shí)性倡議（CAI）和微軟與BBC領(lǐng)導(dǎo)的“原點(diǎn)項(xiàng)目”（Project Origin）聯(lián)合起來，形成了內(nèi)容來源與真實(shí)性聯(lián)盟（C2PA），其使命即在于建立內(nèi)容真實(shí)性相關(guān)技術(shù)標(biāo)準(zhǔn)。目前，該聯(lián)盟與ISO/IEC等國際標(biāo)準(zhǔn)組織正積極推動建立跨國界的標(biāo)識技術(shù)標(biāo)準(zhǔn)體系，旨在構(gòu)建一個具有全球互操作性的內(nèi)容真實(shí)性認(rèn)證框架。
題21-1_畫板 1 副本FA957310F08241619B67FAAC4823E9AE.png)
題21-1_畫板 114202E035D7D448C854A98012E0CB5BF.png)
