21世紀(jì)經(jīng)濟(jì)報道記者肖瀟 北京報道

《哪吒2》員工愿意996是因為公司在成都分房、梁文峰在知乎上首次回應(yīng)DeepSeek走紅、80后死亡率突破5.2%……類似的信息正在占領(lǐng)互聯(lián)網(wǎng)。它們看起來有精確的細(xì)節(jié)，但沒有信息來源，仔細(xì)搜索后還有明顯事實錯誤。不少此類內(nèi)容，被指出由AI生成。

針對未標(biāo)識的“AI謠言”，3月11日微博宣布啟動治理。微博社區(qū)治理官方賬號發(fā)文稱，治理的重點領(lǐng)域是社會民生、突發(fā)事件、科普醫(yī)療和個人權(quán)益，會對不同情況予以處置。

具體而言，如果賬號的單條內(nèi)容由 AI 生成且未主動標(biāo)識，微博稱會主動打標(biāo)，提示“疑似由 AI 生成”；如果賬號有多條AI內(nèi)容都未標(biāo)識，會限制流量分發(fā)；如果這些內(nèi)容造成了惡劣影響，則可以禁言乃至封號。

21記者在3月12日核查，目前要加上AI標(biāo)識，微博用戶需點擊內(nèi)容發(fā)布頁右下角的“公開”權(quán)限，增加“內(nèi)容聲明”，選擇“內(nèi)容由AI生成”。發(fā)布后，該微博的時間欄會新增“AI生成”狀態(tài)框。

AI謠言泛濫的問題不止微博一家碰到。今日頭條在近期的治理開放日透露了一組數(shù)據(jù)：去年打壓了超過93萬條低質(zhì)AI內(nèi)容，處罰了近3萬個利用AI批量發(fā)布虛假、低質(zhì)內(nèi)容或惡意洗稿、抄襲的賬號。

“我們能夠非常直觀地看到，AI技術(shù)對內(nèi)容平臺是一把雙刃劍。對于創(chuàng)作者來說，AI可以豐富內(nèi)容多樣性，我們也在工作、生活等各種場合開始嘗試用AI工具減負(fù)增效；但很多用戶對新技術(shù)掌握不夠充分，產(chǎn)出的內(nèi)容也給站內(nèi)生態(tài)帶來了問題，包括濫用AI生產(chǎn)的劣質(zhì)空洞內(nèi)容、利用AI洗稿侵犯他人著作權(quán)等等。這些問題既損害了用戶體驗，又?jǐn)D壓了優(yōu)秀原創(chuàng)作者的流量，嚴(yán)重?fù)p害了創(chuàng)作的公平性。” 該平臺一位負(fù)責(zé)人稱，過去一年里，AI內(nèi)容給平臺帶來了很大挑戰(zhàn)。

該負(fù)責(zé)人指出，低質(zhì)AI內(nèi)容的典型特征是內(nèi)容空洞、前后矛盾。與微博的舉措類似，今日頭條在收嚴(yán)對低質(zhì)AI內(nèi)容的審核力度，另外監(jiān)測AI內(nèi)容的整體流量占比，“評估處一個相對健康的水位，確保原創(chuàng)作者的空間，同時接納合理的AI內(nèi)容的存在。”

但前述負(fù)責(zé)人也在會上坦言，過去的治理重點是“用戶能明顯感知到的低質(zhì)AI內(nèi)容”，現(xiàn)在批量生產(chǎn)、難辨真假的AI內(nèi)容成為新的挑戰(zhàn)。

近一年里，已經(jīng)有不少“AI內(nèi)容農(nóng)場”產(chǎn)業(yè)鏈曝光。2024年4月，陜西西安警方公布了一起AI造謠案件：涉案人員通過“翠綠筆墨”AI寫作軟件，將熱門社會新聞重新拼湊、替換同義詞，并批量生成內(nèi)容，日均產(chǎn)量高達(dá)19萬篇，流向6000多個自媒體賬號，以獲取平臺流量分成。

2024年1月，南昌一家MCN機(jī)構(gòu)因編造“西安爆炸”事件遭到警方調(diào)查。警方評估顯示，負(fù)責(zé)人一共經(jīng)營了5家MCN機(jī)構(gòu)，運(yùn)營賬號842個，一天能AI生成4000-7000篇文章，全程基本不需要人工參與。經(jīng)初步的估算，每天的收入在1萬元以上。

科技自媒體博主阮一峰曾核算使用某國產(chǎn)大模型API批量生成文章的成本，一篇AI文章的成本是人民幣0.00138元，也就是一分錢可以生成七篇文章。AI的成本之低、生產(chǎn)能力之強(qiáng)，再綁定流量變現(xiàn)的吸引力，可以通過“量大管飽”的方式迅速沖擊互聯(lián)網(wǎng)內(nèi)容生態(tài)。

為AI內(nèi)容加標(biāo)識，是目前解決“深度偽造”“信息污染”等問題的主要措施之一，也是國內(nèi)監(jiān)管機(jī)構(gòu)著力推進(jìn)的方向。2023年8月開始實施的《生成式人工智能服務(wù)管理暫行辦法》要求，AI服務(wù)提供者對圖片、視頻等內(nèi)容進(jìn)行標(biāo)識。2024年9月，《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》進(jìn)一步要求，不僅是AI提供者，社交傳播平臺也需要添加明顯的AI標(biāo)識，區(qū)別AI內(nèi)容和真實內(nèi)容。

除了微博，抖音、快手、微信、小紅書、嗶哩嗶哩六家國內(nèi)日活量最大的社交平臺，都已要求用戶在上傳內(nèi)容時聲明是否由AI生成。但21記者在年初時測試發(fā)現(xiàn)，平臺里許多明顯的AI內(nèi)容并沒有相應(yīng)標(biāo)識，實際執(zhí)行效果不盡人意。微博此次指出，現(xiàn)在的治理難點是技術(shù)手段有限、法律滯后、公眾認(rèn)知分歧。接下來，計劃結(jié)合AI檢測、人工審核與用戶舉報機(jī)制，加強(qiáng)對未標(biāo)識AI內(nèi)容的主動識別。

今年2月，網(wǎng)信辦發(fā)布2025年“清朗”系列專項行動通知，指出今年的重點會是整治AI技術(shù)濫用亂象，強(qiáng)化生成合成內(nèi)容標(biāo)識，打擊借AI技術(shù)生成發(fā)布虛假信息、實施網(wǎng)絡(luò)水軍行為等問題。