斬斷AI造假起號利益鏈

那些高頻率更新、分享穿搭和養生等秘籍的“帥哥”“美女”，其視頻內容細節豐富，且未設置AI生成提示，出鏡者就一定是真人嗎？媒體日前調查發現，有人利用AI造假無底線博眼球，以此作為起號變現捷徑，雖然部分視頻存在明顯技術破綻，但瀏覽、點贊、評論量依舊可觀。社交平臺上還有不少AI造假起號教程，情感、養生、顏值類視頻是“重災區”，也有不少網友求購和出售賬號，“一個擁有百萬粉絲的賬號能賣到十幾萬元”。

AI造假起號，重點在于造假。最淺顯的假，是畫面以假亂真。《人工智能生成合成內容標識辦法》要求對AI生成合成內容進行顯示標識和隱式標識，主流網絡平臺也普遍升級了AI內容識別系統，但一些人依然通過各種手段避開審核，甚至傳授繞過平臺“AI打標”的技巧。

所謂“教育專家”“養生專家”輸出的觀點中，不乏違背科學原則、極端絕對的說法，暗藏誤導風險，當用戶進行互動咨詢時，賬號背后的運營者還會借機推送“三無”產品。起號成功后，大多賬號會隱藏AI引流內容，開始掛櫥窗帶貨、引流賣課；有的則順勢打出“AI起號實戰”噱頭，將自身包裝成“成功案例”售賣起號課程；還有的賬號被明碼標價進行售賣。如此糊弄用戶，無視消費者的知情權，無異于深度造假。

在“擁有百萬粉絲的網紅疑遭勒索后自殺”等網絡謠言背后，也有AI造假起號的身影。或生成數字人，或通過文生圖、圖生圖、圖生視頻流程生成視頻，一些人傳播低俗獵奇信息，以此加速虛假新聞、謠言傳播，擾亂網絡空間秩序。這一層面的造假，影響更為廣泛。

從技術層面看，AI造假起號黑灰產業鏈是技術異化的結果。在別有用心之人與平臺的技術攻防戰中，平臺須不斷提高對深度偽造內容的檢測精度，打擊和防范濫用AI行為。需要進一步思考的是，有商家提到“現在平臺風控很嚴，賬號會升值”，有其現實邏輯。在AI加持下，批量起號的成本和門檻大大降低，只要平臺不能百分百識別出違規內容，就會有賬號仍能利用多手段變現，甚至成長為大號。而“變臉”帶貨涉嫌侵犯消費者的合法權益，直接售賣賬號則違反《反電信網絡詐騙法》“任何單位和個人不得非法買賣、出租、出借互聯網賬號”的規定，這類問題并非平臺單方面就能解決。

其實，在AI普及之前就有人通過造謠等手段起號。技術治理能弱化濫用AI帶來的破壞力，但斬斷違規賬號流量變現的利益鏈條，才是從根源打擊黑灰產業鏈的關鍵。AI造假起號怎么罰、買賣賬號如何處理、如何完善公眾參與亂象治理機制等問題，都需要進一步完善相關規則，只有這樣才能更好地凈化內容生態。