《人工智能生成合成內容標識辦法（征求意見稿）》解讀作者丨樊曉娟

印磊黃海逸2024年9月14日，《人工智能生成合成內容標識辦法（征求意見稿）》（簡稱“《標識辦法》”）發布；作為配套，《網絡安全技術人工智能生成合成內容標識方法》強制性國家標準（征求意見稿）（簡稱“《標識方法標準》”與《標識辦法》合成“標識規范”）也于同日發布。人工智能生成內容（簡稱“AIGC”）標識是中國人工智能治理的主要監管措施之一，對標識的要求規定較為原則。如今兩個征求意見稿的落地，意味著AIGC標識不但有據可依，而且將有更為細致的規范。本文將通過解讀兩個征求意見稿，一覽AIGC標識的具體規范與監管趨勢。一、法律基礎中國對人工智能監管，尤其是AIGC領域監管的相關規定主要包括《網絡安全法》《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》及《生成式人工智能服務管理暫行辦法》。而《標識辦法》也開宗明義地援引了前述規定。二、規制對象兩份標識規范的規制對象均為AIGC。根據《標識辦法》的定義，AIGC指利用人工智能技術制作、生成、合成的文本、圖片、音頻、視頻等信息。這一定義與《生成式人工智能服務管理暫行辦法》中對于“生成式人工智能服務”的定義互相匹配。三、適用法域《標識辦法》的規定僅適用于向境內公眾提供服務的情形。因此，如服務提供者僅向境外用戶提供服務，無需遵守《標識辦法》。但需要提醒的是，向境外用戶提供人工智能生成合成服務的服務提供者需要遵守相應境外法域的法律規定。四、責任主體及其主要義務《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》及《生成式人工智能服務管理暫行辦法》均對AIGC標識有所規定。但《標識辦法》對于責任主體及其責任作出了細化，涉及了AIGC的多個行業。（一）生成服務提供者與既有規定一樣，根據《標識辦法》第二條的規定，《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》規定情形的網絡信息服務提供者（簡稱“生成服務提供者”）是責任主體，主要指人工智能生成合成服務的服務提供者。例如，AI繪畫、AI寫作、AI音樂合成、AI視頻合成等服務的提供者等都在其列。

該等服務提供者有義務在對規制范圍內的AIGC按照強制性國家標準的要求添加相應標識，包括根據不同情況添加顯式標識和隱式標識（下文詳述），并在履行算法備案、安全評估等手續時配合提供相關材料。例如，提供AI換臉視頻應用時，服務提供者應當通過技術手段在合成后的視頻的指定位置添加必要的標識。

值得注意的是，《標識辦法》對生成服務提供者的責任予以了一定程度的松綁。《標識辦法》第九條規定：“如用戶需要服務提供者提供沒有添加顯式標識的生成合成內容，可在通過用戶協議明確用戶的標識義務和使用責任后，提供不含顯式標識的生成合成內容，并留存相關日志不少于六個月。”根據該規定，如果用戶需要且通過用戶協議明確用戶的義務和使用責任后，服務提供者提供顯式標識的義務可以豁免，但仍有義務留存日志。（二）網絡平臺服務提供者《標識辦法》第六條、第七條進一步明確提供網絡信息內容傳播平臺服務的服務提供者和互聯網應用程序分發平臺（簡稱“網絡平臺”）也屬于該辦法的責任主體之一。例如，社交媒體平臺、網絡直播平臺、視頻分享平臺等都屬于該類責任主體。

網絡平臺服務提供者有義務采取措施，規范生成合成內容傳播活動。根據《標識辦法》第六條、第七條，網絡平臺在AIGC標識方面的義務主要是兩方面。一方面是核驗與提醒，在發現應含未含標識的情形時，采取適當方式添加標識，以提醒用戶該內容屬于或疑似生成合成內容；另一方面是提供必要的標識功能，提醒用戶主動聲明其生成合成內容。舉例而言，如果網絡直播平臺應當發現平臺有虛擬主播帶貨，但未標識的，應當采取適當方式添加標識，以提醒用戶該內容屬于或疑似生成合成內容。再例如，手機應用市場平臺在審核AI繪畫應用上架時，應核驗服務提供者是否按要求提供生成合成內容標識功能。（三）用戶《標識辦法》還明確了用戶也屬于AIGC標識的義務主體之一。根據《標識辦法》第十條的規定：“用戶向提供網絡信息內容傳播平臺服務的服務提供者上傳生成合成內容時，應當主動聲明并使用平臺提供的標識功能進行標識。任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或服務，不得通過不正當標識手段損害他人合法權益。”五、標識要求和方法《標識辦法》和《標識方法標準》在現有規定的基礎上對標識要求和方法作出了細化規定。（一）標識分類《標識辦法》將標識分為顯式標識和隱式標識。《標識方法標準》對顯式標識和隱式標識的定義與《標識辦法》的定義一致。根據《標識辦法》第二條，顯式標識和隱式標識的定義如下。

1、顯式標識

顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可被用戶明顯感知到的標識。

2、隱式標識

隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。根據《標識辦法》第五條的規定，隱式標識應包含生成合成內容屬性信息、服務提供者名稱或編碼、內容編號等制作要素信息。（二）不同標識的適用范圍不同標識的適用范圍分別如下。

1、顯式標識

根據《標識辦法》服務提供者提供的生成合成服務屬于《互聯網信息服務深度合成管理規定》第十七條第一款情形的，應當按照《標識辦法》第四條的要求對生成合成內容添加顯式標識。

《互聯網信息服務深度合成管理規定》第十七條第一款情形指下列情形：

“（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務；（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務；（三）人臉生成、人臉替換、人臉操控、姿態操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務；（四）沉浸式擬真場景等生成或者編輯服務；（五）其他具有生成或者顯著改變信息內容功能的服務。”

而根據《標識方法標準》顯式標識的應用場景還包括：

*文生圖片等圖片內容生成服務；*音樂等音頻內容生成服務；*文生視頻、圖生視頻等視頻內容生成服務

《標識方法標準》將顯式標識具體分為文本內容顯式標識、圖片內容顯式標識、音頻內容顯式標識、視頻內容顯式標識和交互場景界面顯式標識，與《標識方法》第四條的要求互相匹配。

2、隱式標識

除《互聯網信息服務深度合成管理規定》第十七條第一款情形外，服務提供者應當按照《互聯網信息服務深度合成管理規定》第十六條的規定，在生成合成內容的文件元數據中添加隱式標識。

《互聯網信息服務深度合成管理規定》第十六條的規定為：“深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依照法律、行政法規和國家有關規定保存日志信息。”

《標識方法標準》將隱式標識分為元數據隱式標識和內容隱式標識。但《標識方法標準》僅詳細列舉了元數據隱式標識的方法。（三）標識方法標識必須符合強制性國家標準的要求。

目前制定中的《標識方法標準》從征求意見稿顯示的代號為GB/T。根據《國家標準管理辦法》，推薦性國家標準的代號為“GB/T”。《標識方法標準》生效時仍冠以GB/T為代號，則其應屬推薦性國家標準而非強制性國家標準。至于AIGC標識何時出臺強制性國家標準有待觀察。

1、顯式標識的標識方法

根據兩個標識規范，標識方法的具體要求如下。2、隱式標識的標識方法

根據兩個標識規范，在生成合成內容的文件元數據中應添加隱式標識。“文件元數據”指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途、版權等信息內容。

《標識方法標準》規定的元數據隱式標識方法如下：

“a)隱式標識應包括以下要素：

1)生成合成標簽要素：內容的人工智能生成合成屬性信息，包括確定、可能、疑似；2)生成合成服務提供者要素：生成合成服務提供者的名稱或編碼；3)內容制作編號要素：生成合成服務提供者對該內容的唯一編號；4)內容傳播服務提供者要素：內容傳播服務提供者的名稱或編碼；5)內容傳播編號要素：內容傳播服務提供者對該內容的唯一編號。

b)元數據隱式標識格式應符合《標識方法標準》附錄E。

c)確定、可能、疑似為人工智能生成合成的內容文件中，應僅保留一份元數據隱式標識。”六、相關企業的合規應對作為人工智能生成合成內容的服務提供者的企業，網絡信息內容傳播平臺運營企業和互聯網應用程序分發平臺運營企業，都涉及相關主體的AIGC標識義務。那么相關企業應當如何應對呢？（一）識別首先，企業可以梳理正在運營的業務和計劃運營的業務，在專業律師指導下識別適用《標識辦法》的業務范圍和業務體量，對業務涉及的人工智能生成合成內容進行分類和評估。（二）制度建設其次，企業可以在專業律師指導下，對AIGC標識的流程和審核建立內部機制，確保AIGC被適當標識