央廣網北京5月11日消息（總臺中國之聲記者譚朕）據中央廣播電視總臺中國之聲《新聞縱橫》報道，隨著人工智能技術的普及，人工智能生成內容技術也就是AIGC技術正在改變社交媒體生態(tài)。有個創(chuàng)意，它能幫你生成文字；有了文字，它還能接著生成圖片，進而做出視頻，為自媒體博主打開了無限想象空間。

但是，本來是幫助提升創(chuàng)作效率的工具，卻被一些人拿來造假起號，也就是通過AI批量生產虛假內容來積累粉絲。記者調查發(fā)現，目前，多個社交平臺上都出現大量“AI起號秘籍”相關內容，不少內容聲稱“AI暴力起號，三天爆萬粉，每日輕松變現300+”“用AI制作美女視頻，條條播放10W+”——這些AI生成內容多以俊男靚女、育兒百科、健康養(yǎng)生為主，大都低俗獵奇。有些AI生成的人物形象足以以假亂真，還有人傳授繞過平臺“AI打標”經驗。

一旦起號成功，這些賬號就會隱藏AI引流內容，開始掛櫥窗帶貨、引流賣課。有的賬號還被明碼標價放到賬號交易網站上，形成了一條“起號—轉型—轉賣”的灰色產業(yè)鏈。背后哪些隱患不容忽視？

一張外國面孔，用流利的中國話科普育兒知識，這樣的視頻，你會多看兩眼嗎？某育兒短視頻賬號上，大量類似內容打著“外國幼兒教育專家”旗號輸出觀點。但是這看似專業(yè)的視頻里，有不少說法都極端絕對，暗藏誤導風險。

實際上，這些所謂“外國專家”是AI生成的虛擬形象。在一堂AI數字人視頻教學課程中，這個育兒賬號是導師口中的成功起號案例�！拔覀兙褪亲龅倪@種展現形式，一個人物是AI數字人、虛擬人，不是真人，但是他很像真人。不僅嘴動頭動，身體也在動。這個賬號，我們團隊的小伙伴已經做到了39萬粉絲，賣貨21萬的戰(zhàn)績�！�

打造一個優(yōu)質自媒體賬號并非易事，從創(chuàng)意到文案腳本，再到拍攝制作，每一個作品都需要創(chuàng)作者親力親為，通常會耗費大量時間。

現在，各大社交平臺上出現了大量“AI起號”相關分享，宣稱零門檻、易操作、漲粉快、可變現。

記者調查發(fā)現，這些起號教程教授的思路基本一致：僅需要借助兩三個AI工具，按“文生圖、圖生圖、圖生視頻”的標準化流程，幾分鐘就能制作一段時長五秒的美女跳舞視頻。這些視頻中虛擬人動作雖然略顯僵硬，但形象逼真。

一位從業(yè)者表示，他的課程費用為499元，內容包含從賬號搭建、視頻制作到內容變現的全流程一對一輔導。“我會教你通過AI生成圖，再變成視頻。不管是人物類還是動物類，逼真程度基本很真實。如果起號，速度一般都很快，7天至10天就差不多起來了，如果快一點，可能幾天就起來了。如果爆一條視頻，可能就會有幾千粉絲�！�

一位主打“顏值博主人設”的博主告訴記者，自己選用了一張相貌平平的男生照片，AI工具在此基礎上生成了一張高顏值男生照片。對比前后照片，人物臉型發(fā)型、五官比例、皮膚質感都有了較大改變，衣著和環(huán)境也有一些改變。但記者在該內容評論區(qū)觀察發(fā)現，多數網友并未察覺這是AI生成的虛擬形象。

目前，各平臺已普遍升級AI內容識別系統(tǒng)，要求對AI生成作品進行顯著標注。這位博主告訴記者，自己花了900元學費學習AI起號技術，主要就是為了購買他人在AI工具中預配置的鏡像文件。用這些鏡像參數一鍵生成的虛擬人形象可以以假亂真，最大限度規(guī)避平臺的AI內容強制標注機制。

記者：你做的這個會被平臺判定疑似AI嗎？

博主：很少。我的14個作品里只有一兩個會有這種情況。如果被判定為AI作品，可以把作品下架，然后重新發(fā)布。

記者發(fā)現，如今不少AI虛擬人創(chuàng)作者為避免作品被平臺限流，會在發(fā)布時主動標注內容由AI生成。但各平臺也有一部分未主動標注的AI作品沒有被系統(tǒng)識別出來。有從業(yè)者坦言，隨著各平臺監(jiān)測升級，“不標注等于高風險”。“保證不被系統(tǒng)檢測出就是無法保證，只是通過自己的一些維度去減少被系統(tǒng)檢測為AI作品的機會。目前來講，如果人物視頻動起來，其幅度不能太大，如果大了，就很容易出現問題。假如哪一天被系統(tǒng)識別出來，要求人臉識別，識別不出來怎么辦？這號不是廢了嗎？”

記者調查了解到，AI賬號起號成功后大都會隱藏此前引流內容，改頭換面成為帶貨賬號；有的順勢打出“AI起號實戰(zhàn)”噱頭，將自身包裝成“成功案例”售賣起號課程；還有一部分賬號被明碼標價進行售賣。

實際上，在AI的加持下，起號的成本和門檻被降低，大量此類賬號進入了賬號交易市場。某賬號交易網站客服告訴記者，他們網站有不少可供選擇的AI起號賬號，價格相對于其他類型賬號更加便宜�！�1萬粉絲的美女號，1900元已經是最低了。給你推薦的這個賬號是AI的，這個就是最便宜的。如果確定購買，付款下單之后，雙方會簽署協(xié)議，簽署之后，賣家會協(xié)助換綁手機號，換綁成你的手機號交接賬號�！�

實際上，多數社交平臺明確禁止賬號轉賣。以記者在網站上咨詢的某平臺賬號為例，平臺在其服務協(xié)議和相關規(guī)則中就規(guī)定，賬號僅限本人使用，禁止以任何形式贈與、借用、出租、轉讓、售賣或以其他方式許可他人使用該賬號。

對此，中國政法大學傳播法研究中心副主任朱巍表示：“轉讓賬號風險確實比較大，這個賬號以前可能有一些違法違規(guī)的情況，要是有銷售產品的行為，一旦出現問題就要承擔相關責任，會遇到很多不可預測的法律問題。”

當前，人工智能技術給人們生產生活帶來便利的同時，也出現不少風險挑戰(zhàn)。為了促進人工智能健康發(fā)展，規(guī)范人工智能生成合成內容標識，近日，四部門聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》，要求人工智能生成合成內容標識包括顯式標識和隱式標識。新規(guī)自2025年9月1日起施行。朱巍表示，新規(guī)正式落地后，此類亂象將得到遏制。

朱巍介紹：“顯性標識就是被編輯的音視頻、文檔等，里面帶水印，有明確提示。還有一種情況，就是第三方平臺生成的東西，有一些隱性標識。這意味著在肉眼上看不到任何標識，如果放到一些平臺上，在人工智能審核時，就會發(fā)現生成內容里面有隱性標識。以后再起號時，即便做得再好，強制性的標記也會存在，很難做到以假亂真了。”