近年來(lái)，基于大型語(yǔ)言模型（簡(jiǎn)稱“大模型”）衍生的生成式人工智能技術(shù)與服務(wù)“軍備競(jìng)賽”，在全球范圍內(nèi)開展地如火如荼。過(guò)去數(shù)月中，我國(guó)諸多大型科技企業(yè)和中早期科創(chuàng)企業(yè)也紛紛加入該賽道，形成“百模大戰(zhàn)”的賽跑格局，對(duì)技術(shù)路徑選擇和真實(shí)市場(chǎng)需求進(jìn)行了大量有益探索。
在此過(guò)程中，一方面，監(jiān)管機(jī)構(gòu)與諸多企業(yè)頻繁互動(dòng)，對(duì)國(guó)內(nèi)生成式人工智能行業(yè)現(xiàn)狀開展了調(diào)研，在一定程度上引導(dǎo)業(yè)界達(dá)成了“中國(guó)一定要有自主可控的大模型”的共識(shí)。另一方面，自主可控的優(yōu)質(zhì)大模型需要更大量的用戶交互、更豐富的場(chǎng)景試用，因此，對(duì)監(jiān)管能否創(chuàng)設(shè)有利于模型衍生、訓(xùn)練的制度賽道，能否采取更靈活機(jī)動(dòng)的行業(yè)管理機(jī)制提出了更高的要求。
基于前述背景，主管機(jī)關(guān)對(duì)2023年4月發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》（簡(jiǎn)稱“征求意見稿”）進(jìn)行了修訂，由國(guó)家互聯(lián)網(wǎng)信息辦公室（簡(jiǎn)稱“網(wǎng)信辦”）攜手其余六部門于2023年7月10日發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（簡(jiǎn)稱“《暫行辦法》”），《暫行辦法》將于2023年8月15日施行。相較于征求意見稿，《暫行辦法》更顯著地突出了擁抱人工智能發(fā)展、融合現(xiàn)有制度框架、務(wù)實(shí)設(shè)計(jì)監(jiān)管思路的趨勢(shì)。生成式人工智能企業(yè)也需相應(yīng)理解合規(guī)思路，有針對(duì)性地完善合規(guī)體系建設(shè)。
第一部分：新規(guī)特點(diǎn)與理解要點(diǎn)
1. 監(jiān)管準(zhǔn)則：“發(fā)展”基調(diào)和“包容審慎”原則
《暫行辦法》充分體現(xiàn)了擁抱生成式人工智能技術(shù)的總體基調(diào)。例如，《暫行辦法》由七部門聯(lián)合發(fā)文。其中，除征求意見稿的主筆起草部門網(wǎng)信辦外，還加入了國(guó)家發(fā)展和改革委員會(huì)（簡(jiǎn)稱“發(fā)改委”）、中華人民共和國(guó)教育部、中華人民共和國(guó)科學(xué)技術(shù)部（簡(jiǎn)稱“科技部”）、工業(yè)和信息化部（簡(jiǎn)稱“工信部”）、中華人民共和國(guó)公安部（“公安部”）、國(guó)家廣播電視總局（簡(jiǎn)稱“廣電總局”）等部門。網(wǎng)信辦、工信部、公安部作為類似技術(shù)賽道傳統(tǒng)意義上的主要監(jiān)管單位，攜手發(fā)布生成式人工智能監(jiān)管新規(guī)，是對(duì)生成式人工智能已有監(jiān)管框架的延續(xù)（例如他們也是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的發(fā)文單位）。
此外，科技部作為年初國(guó)務(wù)院機(jī)構(gòu)改革重組的重點(diǎn)單位，承擔(dān)推動(dòng)健全新型舉國(guó)體制、優(yōu)化科技創(chuàng)新全鏈條管理、促進(jìn)科技成果轉(zhuǎn)化、促進(jìn)科技和經(jīng)濟(jì)社會(huì)發(fā)展相結(jié)合等職能。特別地，科技部主導(dǎo)起草的《科技倫理審查辦法（試行）（征求意見稿）》與生成式人工智能高度相關(guān)。舉例而言，該文件明確規(guī)定從事人工智能等科技活動(dòng)的單位，研究?jī)?nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理（審查）委員會(huì)。基于大模型的生成式人工智能產(chǎn)品原理復(fù)雜，實(shí)現(xiàn)算法透明度的難度相對(duì)較大，訓(xùn)練數(shù)據(jù)及參數(shù)調(diào)優(yōu)對(duì)生成結(jié)果影響巨大，科技倫理審查制度和合規(guī)要求將在大模型企業(yè)的合規(guī)實(shí)踐中占據(jù)重要位置。
發(fā)改委作為聯(lián)合發(fā)文單位，體現(xiàn)了生成式人工智能產(chǎn)業(yè)與數(shù)據(jù)要素市場(chǎng)的高度相關(guān)性以及可預(yù)期的高度融合趨勢(shì)。發(fā)改委是《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》的主導(dǎo)單位，其下轄的國(guó)家數(shù)據(jù)局負(fù)責(zé)協(xié)調(diào)推進(jìn)數(shù)據(jù)基礎(chǔ)制度建設(shè)，統(tǒng)籌推進(jìn)數(shù)字中國(guó)、數(shù)字經(jīng)濟(jì)、數(shù)字社會(huì)規(guī)劃和建設(shè)。生成式人工智能需要大量數(shù)據(jù)驅(qū)動(dòng)訓(xùn)練與優(yōu)化，應(yīng)用場(chǎng)景也需與數(shù)據(jù)要素利用高度融合與協(xié)同，數(shù)據(jù)要素市場(chǎng)的建立、活躍以及良性監(jiān)管，將從數(shù)據(jù)源頭促進(jìn)生成式人工智能技術(shù)迭代和產(chǎn)品更新。
教育部、廣電總局，作為相關(guān)行業(yè)或領(lǐng)域監(jiān)管部門，其職權(quán)行為往往體現(xiàn)為對(duì)融合生成式人工智能技術(shù)或服務(wù)的部分傳統(tǒng)行業(yè)的監(jiān)管。例如，廣電總局制定廣播電視、網(wǎng)絡(luò)視聽節(jié)目服務(wù)管理政策，進(jìn)行行業(yè)管理，該行業(yè)不免集中了多類生成式人工智能服務(wù)的應(yīng)用場(chǎng)景。再如，教育領(lǐng)域也是當(dāng)前生成式人工智能服務(wù)最主要的應(yīng)用領(lǐng)域之一，相當(dāng)一部分生成式人工智能服務(wù)的研發(fā)與高校緊密綁定，是高校科技成果轉(zhuǎn)化的重要場(chǎng)景。
因此，上述多部門的聯(lián)合發(fā)文，特別是發(fā)改委及幾家行業(yè)主管部門的參與，體現(xiàn)出監(jiān)管在對(duì)生成式人工智能應(yīng)用多維度理解的前提下，以“包容審慎”態(tài)度塑造監(jiān)管格局、制度賽道，并力求實(shí)現(xiàn)行業(yè)良性“發(fā)展”的整體基調(diào)。生成式人工智能領(lǐng)域技術(shù)和服務(wù)監(jiān)管具有特殊性，其應(yīng)用落地場(chǎng)景變迭極快，應(yīng)用場(chǎng)景跨行業(yè)跨專業(yè)特點(diǎn)較為明顯，行業(yè)參與者擬適用的技術(shù)路徑和服務(wù)模式也在探索中迅速更新。因此，一方面，監(jiān)管需要以相對(duì)“審慎”的基調(diào)設(shè)定合規(guī)要求和監(jiān)管思路；另一方面，政策層面已經(jīng)奠定“發(fā)展”的主基調(diào)，因此需要強(qiáng)調(diào)“包容”，讓技術(shù)的應(yīng)用隨著業(yè)務(wù)和場(chǎng)景在審慎的監(jiān)管環(huán)境下先行落地和推進(jìn)。“包容審慎”這一關(guān)鍵詞，也總體貫徹于《暫行辦法》相較于征求意見稿的若干重要修訂中，詳見后文分析。
2. 管理邏輯：“分類分級(jí)”監(jiān)管方式
《暫行辦法》明確提出生成式人工智能數(shù)據(jù)源以及相關(guān)技術(shù)與服務(wù)應(yīng)用的“分類分級(jí)監(jiān)管”思路。具體地，《暫行辦法》對(duì)生成式人工智能“基礎(chǔ)設(shè)施”之一的訓(xùn)練數(shù)據(jù)源有簡(jiǎn)略規(guī)定，提到應(yīng)推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。這既是《中華人民共和國(guó)數(shù)據(jù)安全法》對(duì)數(shù)據(jù)處理活動(dòng)分類分級(jí)原則性要求在公共數(shù)據(jù)應(yīng)用領(lǐng)域的體現(xiàn)，也反映為數(shù)據(jù)驅(qū)動(dòng)的生成式人工智能服務(wù)分類分級(jí)監(jiān)管的入口維度。此外，《暫行辦法》也明確規(guī)定，國(guó)家有關(guān)主管部門將針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引。
從產(chǎn)業(yè)發(fā)展的視角看，如何對(duì)生成式人工智能進(jìn)行更精準(zhǔn)的“分類分級(jí)監(jiān)管”，是值得期待的重要話題。歐洲《人工智能法案》（Artificial Intelligence Act）的監(jiān)管思路深度滲透、貫穿“風(fēng)險(xiǎn)分級(jí)”的概念，是我國(guó)建設(shè)、完善該領(lǐng)域下分類分級(jí)監(jiān)管制度的有益參考。《人工智能法案》采取“基于風(fēng)險(xiǎn)水平”的風(fēng)險(xiǎn)分級(jí)導(dǎo)向監(jiān)管模式；例如，其以用途、功能、場(chǎng)景作為單元，按照風(fēng)險(xiǎn)從低到高，將對(duì)人工智能的監(jiān)管分為“低風(fēng)險(xiǎn)或無(wú)風(fēng)險(xiǎn)人工智能”“需要履行一定透明度義務(wù)的人工智能”“高風(fēng)險(xiǎn)人工智能”“無(wú)法接受的人工智能”四類。對(duì)于“低風(fēng)險(xiǎn)或無(wú)風(fēng)險(xiǎn)人工智能”，技術(shù)或服務(wù)提供者不需要承擔(dān)特別的義務(wù)，或者可以自愿承擔(dān)若干義務(wù)、進(jìn)行一些標(biāo)識(shí)活動(dòng)。對(duì)于“需要履行一定透明度義務(wù)的人工智能”，被要求在人工智能產(chǎn)生的信息以及人工智能算法透明度方面履行一些法定義務(wù)。對(duì)于“高風(fēng)險(xiǎn)人工智能”，典型如對(duì)人事聘用進(jìn)行決策，對(duì)醫(yī)療用藥提供建議和決策等場(chǎng)景，提供者需要履行嚴(yán)格的法定義務(wù)，也需要事先進(jìn)行一系列評(píng)估。對(duì)于“無(wú)法接受的人工智能”，典型如對(duì)于自然人的社會(huì)信用狀態(tài)進(jìn)行一般性的打分排名，則是禁止的。上述監(jiān)管方式，有利于在保障人工智能技術(shù)發(fā)展和場(chǎng)景積累的同時(shí)，準(zhǔn)確識(shí)別和監(jiān)管真正具有風(fēng)險(xiǎn)的應(yīng)用及場(chǎng)景，值得借鑒和參考。
3. 把握實(shí)質(zhì)：生成式人工智能真正的監(jiān)管目標(biāo)
征求意見稿規(guī)定，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，應(yīng)采取措施防止生成虛假信息，即俗稱的“結(jié)果保真”。但實(shí)際上，該領(lǐng)域不論從技術(shù)原理角度（典型如基于Transformer模型的“猜字猜詞式”生成路徑，并不是傳統(tǒng)意義上的“數(shù)據(jù)庫(kù)+檢索詞”原理），還是從應(yīng)用場(chǎng)景角度（典型如圖片生成、視頻換臉、小說(shuō)生成，本身就不意形成真實(shí)的輸出結(jié)果），都確實(shí)難以做到、也并不必須實(shí)現(xiàn)“結(jié)果保真”。這一點(diǎn)也是征求意見稿征求意見階段，諸多專家、學(xué)者和業(yè)界從業(yè)人員討論最為密集的“痛點(diǎn)”之一。
基于此，《暫行辦法》不再提及“結(jié)果保真”的相關(guān)要求，而專注于對(duì)訓(xùn)練數(shù)據(jù)源合法合規(guī)性的要求、著力于強(qiáng)調(diào)訓(xùn)練及生成結(jié)果質(zhì)量的提高以及對(duì)人工標(biāo)注工作合規(guī)性的引導(dǎo)，還原和精準(zhǔn)定位了生成式人工智能監(jiān)管的真正方向。此外，《暫行辦法》還專門提及，國(guó)家對(duì)利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng)作等活動(dòng)另有規(guī)定的，從其規(guī)定。這也為精準(zhǔn)監(jiān)管生成式人工智能輔助該等領(lǐng)域部分場(chǎng)景下的“虛構(gòu)創(chuàng)作”行為，鋪設(shè)了可適用的制度通道。對(duì)于面向何種用戶的生成式人工智能是監(jiān)管的范圍，面向何種用戶的服務(wù)不是監(jiān)管的范圍，《暫行辦法》在基本保持征求意見稿的框架同時(shí)，作出了更加清晰的規(guī)定。首先，利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)，適用《暫行辦法》。其次，《暫行辦法》強(qiáng)調(diào)了如下例外：行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定。上述管轄邊界的規(guī)定與目前實(shí)踐中的做法相契合。實(shí)踐中，由于算法備案與安全評(píng)估（詳見下文介紹）辦理時(shí)間長(zhǎng)，其中特定的環(huán)節(jié)的文書資料準(zhǔn)備也具備一定難度，一部分服務(wù)提供者為盡早上線產(chǎn)品、開展場(chǎng)景測(cè)試與迭代，往往選擇面向境外用戶提供服務(wù)（其篩選用戶的典型方式是阻止來(lái)自中華人民共和國(guó)境內(nèi)的IP地址注冊(cè)或使用，或僅允許境外手機(jī)號(hào)進(jìn)行注冊(cè)）。這一“面向海外”的服務(wù)形態(tài)，確實(shí)不落入當(dāng)前《暫行辦法》的監(jiān)管管轄范圍內(nèi)。因此，《暫行辦法》厘定監(jiān)管邊界，一定程度上為希望盡快上線、僅面向海外用戶的服務(wù)提供者提供了制度上的便利通道。與“面向海外”的服務(wù)形態(tài)不在明確監(jiān)管范圍之內(nèi)相對(duì)，海外“面向境內(nèi)”的生成式人工智能服務(wù)已經(jīng)受到了監(jiān)管的關(guān)注。具體地說(shuō)，實(shí)踐中存在部分生成式人工智能服務(wù)提供者通過(guò)API直接調(diào)用境外大模型，用以提供特定服務(wù)、技術(shù)或適用已成型的數(shù)據(jù)資源的情形。該等操作易產(chǎn)生大模型自身合規(guī)風(fēng)險(xiǎn)、數(shù)據(jù)出境風(fēng)險(xiǎn)等一系列合規(guī)問(wèn)題。針對(duì)這一情況，《暫行辦法》明確規(guī)定，對(duì)來(lái)源于中華人民共和國(guó)境外向境內(nèi)提供生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的，國(guó)家網(wǎng)信部門應(yīng)當(dāng)通知有關(guān)機(jī)構(gòu)采取技術(shù)措施和其他必要措施予以處置。綜合上述監(jiān)管背景，從境內(nèi)已有實(shí)踐訊息（典型如金融機(jī)構(gòu)）來(lái)看，選擇與境內(nèi)大模型提供者（特別是已經(jīng)完成算法備案的大模型提供者）進(jìn)行技術(shù)合作、接口調(diào)用，將會(huì)人工智能服務(wù)提供者成為更為合規(guī)、穩(wěn)妥的選擇。 此外，《暫行辦法》規(guī)定，外商投資生成式人工智能服務(wù)行業(yè)，應(yīng)當(dāng)符合外商投資相關(guān)法律、行政法規(guī)的規(guī)定；體現(xiàn)了人工智能服務(wù)行業(yè)與現(xiàn)有的外商投資監(jiān)管框架的接軌要求。盡管從當(dāng)前監(jiān)管架構(gòu)來(lái)看，我國(guó)外商投資負(fù)面清單沒(méi)有一般性禁止外商投資生成式人工智能服務(wù)，但實(shí)踐中，特別是典型的“to C”（面向用戶的）生成式人工智能服務(wù)，相對(duì)容易在融合性應(yīng)用場(chǎng)景下，涉及對(duì)外資有一定限制或禁止行業(yè)領(lǐng)域并受限于相關(guān)細(xì)分行業(yè)的外資準(zhǔn)入要求。存在外資限制或禁止要求的資質(zhì)典型如B25類增值電信業(yè)務(wù)經(jīng)營(yíng)許可證，《網(wǎng)絡(luò)文化經(jīng)營(yíng)許可證》，《網(wǎng)絡(luò)出版服務(wù)許可證》，《信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證》，《廣播電視節(jié)目制作經(jīng)營(yíng)許可證》等。綜上所述，外國(guó)投資者如擬在中國(guó)經(jīng)營(yíng)或投資生成式人工智能行業(yè)，需明確，一方面，外資并非被一般性禁止進(jìn)入生成式人工智能行業(yè)，另一方面，受限于生成式人工智能具體服務(wù)最終交付的模式形態(tài)，外國(guó)投資者宜實(shí)質(zhì)性關(guān)注相關(guān)服務(wù)或產(chǎn)品是否觸發(fā)其他融合應(yīng)用場(chǎng)景下的準(zhǔn)入資質(zhì)要求、該等準(zhǔn)入資質(zhì)要求是否禁止外商投資或者對(duì)外資股權(quán)比例有所限制。
5. 注重務(wù)實(shí)：訓(xùn)練數(shù)據(jù)義務(wù)和模型改進(jìn)義務(wù)的可行性回歸
征求意見稿對(duì)生成式人工智能服務(wù)提供者提出了非常高的與訓(xùn)練數(shù)據(jù)源有關(guān)的義務(wù)，并規(guī)定，用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)，應(yīng)能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。實(shí)踐中，一方面，數(shù)據(jù)是否“真實(shí)”“準(zhǔn)確”“客觀”“多樣”本身沒(méi)有統(tǒng)一的標(biāo)準(zhǔn)，難以進(jìn)行絕對(duì)把握或判斷；另一方面，即使就特定性質(zhì)的數(shù)據(jù)而言，可能實(shí)現(xiàn)對(duì)其準(zhǔn)確性的相對(duì)控制，但在大模型的行業(yè)應(yīng)用語(yǔ)境下，企業(yè)對(duì)訓(xùn)練數(shù)據(jù)的量級(jí)需求極大（且訓(xùn)練數(shù)據(jù)量級(jí)及相應(yīng)形成的參數(shù)量級(jí)甚至成為衡量大模型效果的最重要指標(biāo)之一），如要求企業(yè)對(duì)訓(xùn)練數(shù)據(jù)的“真實(shí)性、準(zhǔn)確性、客觀性、多樣性”進(jìn)行窮盡的審查并作出“保證”，事實(shí)上對(duì)企業(yè)作出了過(guò)重的合規(guī)要求。
基于上述考慮，《暫行辦法》將監(jiān)管重點(diǎn)放在訓(xùn)練數(shù)據(jù)來(lái)源合法、不侵權(quán)以及質(zhì)量提升等方面，強(qiáng)化了合規(guī)要求可行性。具體地，其要求服務(wù)提供者使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識(shí)產(chǎn)權(quán)的，對(duì)數(shù)據(jù)源的使用不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；涉及個(gè)人信息的，對(duì)數(shù)據(jù)源的使用應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。實(shí)踐中，生成式人工智能行業(yè)企業(yè)可以通過(guò)從數(shù)據(jù)交易所以及產(chǎn)生數(shù)據(jù)或文字資料的行業(yè)性供應(yīng)商采買，以獲取一些公共數(shù)據(jù)或公開數(shù)據(jù)，從而在一定程度上確保數(shù)據(jù)來(lái)源合法性。企業(yè)也可以在訓(xùn)練過(guò)程中，對(duì)測(cè)試的生成結(jié)果進(jìn)行適當(dāng)監(jiān)控、測(cè)算或核驗(yàn)，逐步改善和提高訓(xùn)練數(shù)據(jù)的真實(shí)性、多樣性。《暫行辦法》另一務(wù)實(shí)修訂是取消了征求意見稿對(duì)模型修改的時(shí)間限制。征求意見稿規(guī)定，對(duì)于運(yùn)行中發(fā)現(xiàn)的、用戶舉報(bào)的不符合征求意見稿要求的生成內(nèi)容，除采取內(nèi)容過(guò)濾等措施外，應(yīng)在3個(gè)月內(nèi)通過(guò)模型優(yōu)化訓(xùn)練等方式防止其再次生成。從技術(shù)維度來(lái)看，受限于大模型技術(shù)機(jī)理設(shè)置，對(duì)其開展的優(yōu)化訓(xùn)練并不一定能夠完全或精準(zhǔn)阻攔或隔斷特定具體內(nèi)容的再次生成。從行業(yè)角度來(lái)看，不同技術(shù)機(jī)理的大模型，通過(guò)定向調(diào)優(yōu)或定向訓(xùn)練來(lái)精準(zhǔn)、完全杜絕生成特定內(nèi)容的難度，可能存在巨大差異。征求意見稿頒布后，一些從業(yè)者也對(duì)此作出了討論，認(rèn)為在3個(gè)月內(nèi)通過(guò)優(yōu)化模型防止再次生成某些特定結(jié)果的技術(shù)可行性有限。基于此，《暫行辦法》采取更務(wù)實(shí)的路徑，規(guī)定提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門報(bào)告。此類更具可行性的務(wù)實(shí)規(guī)定也使得企業(yè)有動(dòng)力持續(xù)投入合理資源、漸進(jìn)式落實(shí)合規(guī)要求。6. 銜接融合：注意與現(xiàn)有監(jiān)管工具順利接軌
征求意見稿階段，其已經(jīng)意在利用現(xiàn)有制度，作為生成式人工智能在“投放市場(chǎng)”之前的監(jiān)管抓手；但在規(guī)則文本層面，存在一些具體銜接和關(guān)聯(lián)的細(xì)節(jié)差距。例如，征求意見稿規(guī)定，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（簡(jiǎn)稱“《算法推薦管理規(guī)定》”）履行算法備案和變更、注銷備案手續(xù)。《暫行辦法》修改為，提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估，并按照《算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。
這一修改在制度層面上形成了更準(zhǔn)確的銜接。《算法推薦管理規(guī)定》的制度是，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)進(jìn)行備案。《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》規(guī)定需要開展安全評(píng)估的五種情形中，前兩種情形是在上線或者功能增設(shè)前提交安全評(píng)估報(bào)告，后三種情形是自相關(guān)情形發(fā)生之日起30個(gè)工作日內(nèi)提交安全評(píng)估報(bào)告。因此，兩個(gè)文件并非所有場(chǎng)景都要求在向公眾提供服務(wù)前完成備案和評(píng)估。《暫行辦法》的規(guī)定進(jìn)行了更準(zhǔn)確的描述，避免了制度間銜接的立法技術(shù)性難題。需要特別注意的是，在過(guò)去一段時(shí)間里，如果典型的生成式人工智能服務(wù)（在實(shí)踐層面，更多地體現(xiàn)為可感知的基于大模型的生成式服務(wù)）移動(dòng)應(yīng)用程序需要在應(yīng)用市場(chǎng)上架，部分應(yīng)用市場(chǎng)經(jīng)營(yíng)者可能會(huì)要求上架的移動(dòng)應(yīng)用的運(yùn)營(yíng)者事先完成算法備案和安全評(píng)估，客觀上與《算法推薦管理規(guī)定》的要求并不完全吻合。因此，在《暫行辦法》于8月份正式施行后，實(shí)踐中對(duì)于移動(dòng)應(yīng)用程序完成算法備案和安全評(píng)估的時(shí)點(diǎn)把握尺度以及APP上架審核要求是否會(huì)有所調(diào)整，也是值得觀察的一個(gè)方面。此外，根據(jù)我們對(duì)算法備案和安全評(píng)估的實(shí)際操作經(jīng)驗(yàn)，兩項(xiàng)手續(xù)的準(zhǔn)備工作相對(duì)繁雜；特別是算法備案所需準(zhǔn)備的材料，對(duì)申請(qǐng)人的內(nèi)部制度的豐富性、體系性、完備性提出了較高的要求。依相關(guān)規(guī)定需要進(jìn)行算法備案和安全評(píng)估的生成式人工智能服務(wù)提供者，應(yīng)在研發(fā)階段盡早準(zhǔn)備，特別是在制度建立方面“未雨綢繆”，方能在更大程度上增強(qiáng)及時(shí)完成算法備案和安全評(píng)估的可預(yù)見性，更好地匹配產(chǎn)品在境內(nèi)公開上架的時(shí)間節(jié)點(diǎn)，避免陷入冗長(zhǎng)的“內(nèi)測(cè)”或被迫僅僅面向海外用戶運(yùn)營(yíng)。下圖是算法備案與安全評(píng)估的實(shí)務(wù)關(guān)注點(diǎn)：
生成式人工智能服務(wù)的提供者，目前視具體形態(tài)，在相當(dāng)部分場(chǎng)景下也需要遵守《算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（簡(jiǎn)稱“《深度合成管理規(guī)定》”）的要求。下表綜合《暫行辦法》《深度合成管理規(guī)定》和《算法推薦管理規(guī)定》，簡(jiǎn)要列示合規(guī)控制點(diǎn)：題21-1_畫板 1 副本.png)
題21-1_畫板 1.png)
.png "備案圖標(biāo).png"){kind=small}
京公網(wǎng)安備110105011258
