《人工智能生成合成內(nèi)容標(biāo)識辦法》助力辨別虛假信息 推進(jìn)從生成到傳播全鏈條治理

想要近期外出旅游的小李，習(xí)慣性地打開某大模型應(yīng)用詢問。與往常一樣，答案很快生成，但這次文本結(jié)尾處多了一句話：“本回答由AI（人工智能）生成，內(nèi)容僅供參考，請仔細(xì)甄別。”

近年來，生成式人工智能、深度合成等新技術(shù)快速發(fā)展，在促進(jìn)經(jīng)濟(jì)發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時，也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問題。近日，《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》）發(fā)布，自2025年9月1日起施行。

國家網(wǎng)信辦相關(guān)負(fù)責(zé)人表示，《標(biāo)識辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識”關(guān)鍵點(diǎn)，通過標(biāo)識提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識行為，以合理成本提高安全性，推動人工智能健康有序發(fā)展。

此前的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等就對深度合成服務(wù)提供者規(guī)定了標(biāo)識義務(wù)。而本次《標(biāo)識辦法》的一大亮點(diǎn)，則是將傳播平臺納入監(jiān)管范疇，實現(xiàn)從生成到傳播的全鏈條治理。

“這是一部劇情緊湊，每個角色性格鮮明的電視劇。它通過一個個獨(dú)立的故事，讓我們深入思考社會現(xiàn)實問題……”一天，小田在某知識分享平臺讀到一則影評。影評在開頭被打上了“疑似使用AI創(chuàng)作”的標(biāo)記，推薦排序極為靠后。

據(jù)該平臺負(fù)責(zé)人介紹，此前，平臺的社區(qū)治理規(guī)則已經(jīng)要求，用戶發(fā)布使用AI技術(shù)進(jìn)行輔助創(chuàng)作的內(nèi)容，應(yīng)主動添加“包含AI輔助創(chuàng)作”創(chuàng)作聲明。而如果不主動添加，被平臺檢測到使用AI創(chuàng)作，則會被打上標(biāo)識、排序置后或者“折疊”乃至刪除封號。

平臺這樣的治理行為，今后將有更明確的法律支撐。《標(biāo)識辦法》規(guī)定提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取下列措施，規(guī)范生成合成內(nèi)容傳播活動：“核驗文件元數(shù)據(jù)中是否含有隱式標(biāo)識”“檢測到顯式標(biāo)識或者其他生成合成痕跡的，識別為疑似生成合成內(nèi)容，采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識，提醒公眾該內(nèi)容疑似生成合成內(nèi)容”……

公安部第三研究所副所長金波表示，除此之外，針對其他關(guān)鍵參與方，如互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺主體的責(zé)任范疇等，也進(jìn)行明確規(guī)定，基本實現(xiàn)對生成合成內(nèi)容上下游主體的全覆蓋。

區(qū)分規(guī)定生成合成內(nèi)容中應(yīng)添加的“顯式標(biāo)識”和“隱式標(biāo)識”，是《標(biāo)識辦法》的另一大特色。其中，《標(biāo)識辦法》規(guī)定，應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識，隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息。

對此，國家計算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級工程師張震介紹：“作為配套的《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》明確了元數(shù)據(jù)隱式標(biāo)識的字段要素，在盡量不影響元數(shù)據(jù)處理和傳輸?shù)那疤嵯拢度氡匾侄危涗浬珊铣蓛?nèi)容的關(guān)鍵信息和關(guān)鍵環(huán)節(jié)，確保內(nèi)容在流轉(zhuǎn)過程中始終可追溯。”

而相關(guān)條款的規(guī)定，對促進(jìn)人工智能便利使用、創(chuàng)新發(fā)展也有積極意義。

“請幫我生成一張郵輪在大海的驚濤駭浪中航行的圖片。”李某制作視頻時，需要在視頻中放置一張圖片，和往常一樣在某大模型應(yīng)用上生成了一張圖片。在圖片的右下角，有一個標(biāo)記“AI生成”。

“有些大模型應(yīng)用，每次生成的圖片，都有‘AI生成’之類的標(biāo)記，使用時還需要再編輯處理，多少有些麻煩。”李某說，希望類似的生成內(nèi)容可以直接去除AI標(biāo)識，自己在最終發(fā)布時會聲明AI創(chuàng)作。

“《標(biāo)識辦法》第九條提出，在用戶主動要求提供未添加顯式標(biāo)識內(nèi)容時，網(wǎng)站平臺在不違反相關(guān)法律法規(guī)要求前提下，可通過在用戶協(xié)議中明確責(zé)任義務(wù)并依法留存相關(guān)日志信息后，面向用戶予以提供。”國家網(wǎng)信辦相關(guān)負(fù)責(zé)人介紹，用戶在后續(xù)使用過程中，需主動聲明生成合成情況并添加顯式標(biāo)識后，方可面向公眾發(fā)布和傳播。