《人工智能生成合成內容標識辦法》助力辨別虛假信息 推進從生成到傳播全鏈條治理

想要近期外出旅游的小李，習慣性地打開某大模型應用詢問。與往常一樣，答案很快生成，但這次文本結尾處多了一句話：“本回答由AI（人工智能）生成，內容僅供參考，請仔細甄別。”

近年來，生成式人工智能、深度合成等新技術快速發展，在促進經濟發展、豐富網上內容、便利公眾生活的同時，也造成虛假信息傳播、破壞網絡生態等問題。近日，《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）發布，自2025年9月1日起施行。

國家網信辦相關負責人表示，《標識辦法》聚焦人工智能“生成合成內容標識”關鍵點，通過標識提醒用戶辨別虛假信息，明確相關服務主體的標識責任義務，規范內容制作、傳播各環節標識行為，以合理成本提高安全性，推動人工智能健康有序發展。

此前的《互聯網信息服務深度合成管理規定》等就對深度合成服務提供者規定了標識義務。而本次《標識辦法》的一大亮點，則是將傳播平臺納入監管范疇，實現從生成到傳播的全鏈條治理。

“這是一部劇情緊湊，每個角色性格鮮明的電視劇。它通過一個個獨立的故事，讓我們深入思考社會現實問題……”一天，小田在某知識分享平臺讀到一則影評。影評在開頭被打上了“疑似使用AI創作”的標記，推薦排序極為靠后。

據該平臺負責人介紹，此前，平臺的社區治理規則已經要求，用戶發布使用AI技術進行輔助創作的內容，應主動添加“包含AI輔助創作”創作聲明。而如果不主動添加，被平臺檢測到使用AI創作，則會被打上標識、排序置后或者“折疊”乃至刪除封號。

平臺這樣的治理行為，今后將有更明確的法律支撐?！稑俗R辦法》規定提供網絡信息內容傳播服務的服務提供者應當采取下列措施，規范生成合成內容傳播活動：“核驗文件元數據中是否含有隱式標識”“檢測到顯式標識或者其他生成合成痕跡的，識別為疑似生成合成內容，采取適當方式在發布內容周邊添加顯著的提示標識，提醒公眾該內容疑似生成合成內容”……

公安部第三研究所副所長金波表示，除此之外，針對其他關鍵參與方，如互聯網應用程序分發平臺主體的責任范疇等，也進行明確規定，基本實現對生成合成內容上下游主體的全覆蓋。

區分規定生成合成內容中應添加的“顯式標識”和“隱式標識”，是《標識辦法》的另一大特色。其中，《標識辦法》規定，應當在生成合成內容的文件元數據中添加隱式標識，隱式標識包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息。

對此，國家計算機網絡應急技術處理協調中心正高級工程師張震介紹：“作為配套的《網絡安全技術人工智能生成合成內容標識方法》明確了元數據隱式標識的字段要素，在盡量不影響元數據處理和傳輸的前提下，嵌入必要字段，記錄生成合成內容的關鍵信息和關鍵環節，確保內容在流轉過程中始終可追溯。”

而相關條款的規定，對促進人工智能便利使用、創新發展也有積極意義。

“請幫我生成一張郵輪在大海的驚濤駭浪中航行的圖片。”李某制作視頻時，需要在視頻中放置一張圖片，和往常一樣在某大模型應用上生成了一張圖片。在圖片的右下角，有一個標記“AI生成”。

“有些大模型應用，每次生成的圖片，都有‘AI生成’之類的標記，使用時還需要再編輯處理，多少有些麻煩。”李某說，希望類似的生成內容可以直接去除AI標識，自己在最終發布時會聲明AI創作。

“《標識辦法》第九條提出，在用戶主動要求提供未添加顯式標識內容時，網站平臺在不違反相關法律法規要求前提下，可通過在用戶協議中明確責任義務并依法留存相關日志信息后，面向用戶予以提供。”國家網信辦相關負責人介紹，用戶在后續使用過程中，需主動聲明生成合成情況并添加顯式標識后，方可面向公眾發布和傳播。