內(nèi)容治理是生成式AI監(jiān)管的關注重點。一方面，基于客觀維度，生成式AI可能會生成不真實或無意義的內(nèi)容，即具有“幻覺”傾向；另一方面，結合價值判斷，生成式AI還存在生成有害內(nèi)容的問題。如本系列首篇《生成式AI（一）：嘗試參透監(jiān)管的底層邏輯》所分析，生成式AI監(jiān)管的底層邏輯在于引導對人類的良性影響。為了實現(xiàn)這一目標，監(jiān)管規(guī)則對企業(yè)提出了一系列合規(guī)要求，旨在彌補生成式AI的固有缺陷，降低其應用風險。本文擬對我國生成式AI的監(jiān)管規(guī)則進行體系化梳理，以期為企業(yè)的合規(guī)實踐提供指引。
一、模型訓練：確保來源合法、提升數(shù)據(jù)質量
（一）保障訓練數(shù)據(jù)來源的合法性
此外，根據(jù)《生成式人工智能服務辦法》的要求，為了加強數(shù)據(jù)質量管理，提供者如果采用了人工標注的方式訓練生成式AI，應當制定清晰、具體、可操作的標注規(guī)則，對標注人員進行必要培訓，抽樣核驗標注內(nèi)容的正確性。實踐中建議企業(yè)留存相應的培訓和抽樣核驗記錄，以證明履行了合規(guī)義務。
二、運營管理：內(nèi)容治理為核心，以人為本是基調(diào)
（一）內(nèi)容治理
當前，國內(nèi)已出現(xiàn)多起利用生成式AI發(fā)布虛假新聞的違法案例。例如，2023年4月，甘肅公安發(fā)現(xiàn)有不法分子散播題為“今晨甘肅一火車撞上修路工人致9人死亡”的虛假文章，而后查明該文為洪某利用ChatGPT所編輯的內(nèi)容。洪某散布虛假信息的行為已涉嫌尋釁滋事罪，目前已被警方采取刑事強制措施，該案仍在進展之中。[9]
三、監(jiān)管工具：算法備案與安全評估并駕齊驅
具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務和相關新技術新應用是監(jiān)管部門的重點關注對象。《生成式人工智能服務辦法》規(guī)定，利用生成式AI產(chǎn)品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務安全評估規(guī)定》向國家網(wǎng)信部門申報安全評估（即“安全評估”、“雙新評估”），并按照《算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)（即“算法備案”）。
除此之外，提供者負有配合監(jiān)督檢查的義務。特別地，《生成式人工智能服務辦法》對算法透明度作出要求，提供者應當根據(jù)監(jiān)管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預訓練和優(yōu)化訓練數(shù)據(jù)的來源、規(guī)模、類型、質量等描述，人工標注規(guī)則，人工標注數(shù)據(jù)的規(guī)模和類型，基礎算法和技術體系等。實踐中建議企業(yè)留存前述相關內(nèi)容的產(chǎn)品文檔、評估報告、日志記錄等，做好響應配合監(jiān)督檢查的準備。
[1] https://arstechnica.com/tech-policy/2023/04/stable-diffusion-copyright-lawsuits-could-be-a-legal-earthquake-for-ai/
[2] https://mp.weixin.qq.com/s/aRYJbh1UO9RYEJdhL-nivQ
[3] https://openai.com/blog/our-approach-to-ai-safety
[4] https://mp.weixin.qq.com/s/DXgyb-8I2YLoXWN8j0QzAg
[5] https://www.douyin.com/rule/billboard?id=1242800000050
[6] 《生成式人工智能服務辦法》第十條：“提供者應當明確并公開其服務的適用人群、場合、用途，采取適當措施防范用戶過分依賴或沉迷生成內(nèi)容。”
[7] 《算法推薦管理規(guī)定》第十八條：“算法推薦服務提供者向未成年人提供服務的，應當依法履行未成年人網(wǎng)絡保護義務，并通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點的服務等方式，便利未成年人獲取有益身心健康的信息。
算法推薦服務提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務誘導未成年人沉迷網(wǎng)絡。”
[8] https://www.silicon.co.uk/e-innovation/artificial-intelligence/replika-italy-ban-497135
[9] https://mp.weixin.qq.com/s/_Wfe-EV13O6uBM65jZDzdg
*感謝趙雅澤對本文的突出貢獻
京ICP備05019364號-1 
京公網(wǎng)安備110105011258
近日，北京市海問律師事務所（“本所”）發(fā)現(xiàn)，網(wǎng)絡上存在將一家名為“廣州海問睿律咨詢顧問有限公司”的主體與本所進行不當關聯(lián)的大量不實信息，導致社會公眾產(chǎn)生混淆與誤解，也對本所的聲譽及正常執(zhí)業(yè)活動造成不良影響。
本所特此澄清，本所與“廣州海問睿律咨詢顧問有限公司”（成立于2025年11月）不存在任何隸屬、投資、關聯(lián)、合作、授權或品牌許可關系，亦從未授權任何主體以“海問”的名義提供法律咨詢服務，該公司的任何行為與本所無關。更多詳情，請點擊左下方按鈕查看。
