下一個被“AI分身”的，又會是誰？
采寫/一然
編輯/萬天南
?
11月2日，演員溫崢嶸竟在同一時間現身三個直播間。屏幕上分明都是她的臉，卻透著幾分詭異與諂媚，她一遍遍催促粉絲，“快下單！”
不明真相的粉絲，被“偶像”迅速“撬”開了錢包，殊不知，屏幕那端只是AI生成的幻影，一個沒有靈魂的數字傀儡。
溫崢嶸的遭遇，只是這場AI換臉侵權風暴的冰山一角。
從一線頂流到翻紅老戲骨，乃至奧運冠軍等，只要具備一定的辨識度和號召力，都可能成為“數字李鬼”的目標。這些AI仿冒明星賬號的粉絲量，從幾百、幾千甚至數十萬不等，構成了一個金字塔式的灰色流量生態。
當AI技術開始掙脫法律和道德的韁繩，在現實和虛擬的夾縫中，我們該如何守護真實的邊界？鏈接可以下架，賬號可以被封禁，可一旦信任遭透支，又該如何贖回？
未來，我們每個人獨一無二的“數字身份”，是否都將淪為被隨意克隆、肆意濫用的獵物？
或許，明星們正在經歷的今天，就是每個普通人即將面對的明天。
一
AI李鬼肆虐！明星集體“中招”
“對不起，溫崢嶸，是我們錯怪你了。”
鏡頭前，張柏芝面色凝重，對著鏡頭深深鞠了一躬。緊接著，劉濤、戚薇、舒淇等一眾女星也陸續出鏡，言辭懇切地表達著歉意和感謝。
這場看似真誠的“集體致歉”，在社交平臺迅速發酵。不少粉絲以為，這是明星之間的聯動，畢竟致歉的緣起，是溫崢嶸推薦的一款“人皮面膜”，讓眾女星感嘆“用晚了”。
可真相卻是，這場道歉的背后，竟藏著一場由AI編織的騙局。視頻中所有明星的人臉，均來自AI換臉技術盜用。
AI如同一個隱形的導演，將碎片化的影像剪輯、拼接，再配上偽造的臺詞，炮制出足以以假亂真的“集體致歉”，讓粉絲在不知不覺中掉入陷阱。
除了這類精心策劃的騙局，AI仿冒明星直播帶貨的亂像早已泛濫成災。
早在今年4月，溫崢嶸就曾發布打假視頻，對著鏡頭鄭重聲明：“我只有一個官方賬號直播，其他所有以‘溫崢嶸’之名帶貨的直播間，全是假的！”
彼時，她的聲明并未引起足夠的重視。
直到電視劇《許我耀眼》熱播，她憑借“趙露思婆婆”一角精湛的演技再度翻紅，冒用其形象賣貨的直播間也悄然增多。
其粉絲曾在一天之內舉報了18個“假溫崢嶸”直播間，但往往“舉報一個又冒出來一個，如同打地鼠游戲，永無止境。”
更荒誕的是，某個深夜，
“溫崢嶸”竟以三種不同妝發造型，同時出現在三個直播間。
當看見“自己”在直播間諂媚又怪異地催促粉絲，“寶貝們，快下單！”，她又驚又怒，直接質問，“你是溫崢嶸，那我是誰？”結果卻被踢出了直播間并拉黑。
溫崢嶸的遭遇并非個例，如今越來越多明星淪為“數字李鬼”的獵物。
今年2月，北京市海淀區市場監管局接到消費者舉報：某直播間正在售賣“深海多烯魚油”，主播竟是央視主持人“李梓萌”。
身穿職業套裝的“李梓萌”，語氣嚴肅地強調：“正品保證，假一罰四！魚油必須吃起來，吃了這個，別的咱都不用再吃了！”
直播間展板更赫然標注“適合頭暈頭痛、手腳麻木、記憶力下降人群”等醫療宣傳語。
其實，視頻中的“李梓萌”純屬AI技術偽造。宣稱“能治病”的深海魚油，執行標準實為糖果，不具備任何治療功能。
這是北京查處的首例濫用AI技術發布虛假廣告案，而類似騙局早已在網絡空間蔓延。
有人在某電商平臺看見“迪麗熱巴”在賣10塊錢的素顏霜。奧運冠軍全紅嬋、孫穎莎、王楚欽等人，也都曾是AI克隆技術的受害者。
一個賬號盜用全紅嬋的聲音賣土雞蛋，視頻中模仿其稚嫩的腔調說道：“大家好，我是你們的嬋寶，今天有事請大家幫忙，嬋妹就是想幫助媽媽，讓家里的生活過得更好一點。”
這條充滿“情感共鳴”的虛假視頻，點贊量高達1.1萬，商品鏈接顯示已售出4.7萬件。而全紅嬋的家人早已公開澄清，她從未為相關農產品代言或授權。
這些“AI李鬼”，不僅盜用了明星的臉，更竊取了他們積累多年的公眾信任。而受損的，遠不止明星個人權益，更是整個社會賴以運轉的信任體系。
二
算法獵殺情感：AI仿冒背后的精準詐騙
?
“以前我們說‘眼見為實’，可現在眼睛看到的，可能是AI編織的謊言。”一位粉絲在經歷了“假明星”騙局后，發出這樣的感慨。
“寶貝，我愛你們，我也好愛好愛這款面膜，快下單吧！”“克隆明星”的一聲聲呼喚，如同細密的針尖，精準刺入粉絲的情感軟肋。
“偶像推薦的東西肯定靠譜！”、“已經下單了，支持偶像！”直播間滾動顯示的下單記錄，營造了一種“手慢無”的緊張搶購氛圍。
“這個AI仿冒的溫崢嶸把我媽騙得團團轉，買了一大堆廉價護膚品。”一位粉絲無奈吐槽。而另一位網友稱，為了支持“偶像”，一次性購買了5、6支低檔口紅。
“我一直覺得她說話怪怪的，眼神也特別呆滯，但我媽說這就是她的偶像，還說偶像親測有效了，非讓我幫她下單。一款原價100多的韓國面膜，假直播間只賣39.8元，我媽一次就買了20盒。”一位網友爆料，母親已經在假明星直播間陸續花了近萬元。
AI技術本無善惡，可當它被惡意使用時，便成了最精準的情感獵殺工具。對詐騙分子而言，聲音克隆、面部替換不過是技術手段，真正捕獲受害者的，是對人性弱點的精準拿捏。
而從各大平臺的評論區不難發現，受騙群體多以中老年人為主。
“我媽看見明星賣貨就想買，我告訴她是假的，她還跟我大喊大叫，說自己親眼看見的怎么會是假的。”一位網友的吐槽，道出了無數家庭的無奈。
但很多年輕網友坦言，自己也能理解父母被騙的遭遇。畢竟許多假冒明星的直播間，AI仿冒效果十分逼真，年輕人尚且難以分辨，何況是對AI技術認知較為薄弱的老年人，
早在5月份，就有細心的粉絲察覺異常：“我看見溫崢嶸在倆直播間同時直播，一個穿著藍裙子，有1萬多人在線，另一個有3000多人。我在人少的直播間說，你這肯定是假的，立馬就被踢出來了。”
但更多粉絲仍被“李鬼明星”所迷惑。
有的賬號通過AI換臉技術冒充楊冪、劉亦菲賣減肥茶，誘導消費者瘋狂下單。
在某平臺，一個昵稱像是亂碼的賬號，卻擁有3378個粉絲，并通過AI仿冒溫崢嶸帶貨視頻，獲得了10.3萬次點贊。該賬號的商品櫥窗僅陳列面膜、眼油、防曬等3個商品，已售件數高達5928單，跟買人數是5852人。目前，該賬號的作品及商品櫥窗均已清空。
《財經故事薈》分析發現，仿冒賬號帶貨商品高度集中在化妝品、護膚品、保健品、日用品等高頻或者暴利品類，大多以“明星自用”為噱頭。
這些商品的共同特點是目標群體廣、利潤空間大、質量難以直觀判斷，且極度依賴明星信譽背書，恰好契合了“AI仿冒”的詐騙邏輯。
三
平臺明星用戶都“受傷”
截至11月7日，在某平臺搜索“溫崢嶸”，仍可顯示近百個相關賬號。除個別授權“切片”賬號外，大多數已轉為私密狀態。
事實上，溫崢嶸團隊早在今年4月就啟動了維權，他們通過錄屏、截圖等方式保存證據，也曾投訴過50多個仿冒賬號，成功封停了至少20多個直播間。
其團隊工作人員坦言，造假者的成本極低，僅需截取一段影像，通過簡易工具就能生成虛假內容，但維權取證卻需耗費大量精力，即便發送了律師函，目前調查到的也只是一部分造假商家。
侵權者的手段遠比想象中更為狡詐。許多賬號擅長“打時間差”，專挑凌晨3、4點這類平臺監管薄弱的時間段進行直播，一旦賬號被封禁，立刻更換ID、頭像，借新賬號卷土重來。
而溫崢嶸為何遭遇如此多AI造假？
答案在于，除了近期翻紅之外，她本人就直播帶貨，這為造假商家提供了豐富“素材”。第三方直播監測平臺數據顯示：溫崢嶸抖音賬號粉絲數385.8萬，今年以來共直播200多場，場均觀看人次近百萬，所售商品品類中，美妝護膚類占比54.19%。
而一份關于“溫崢嶸肖像權網絡侵權情況”統計表格顯示，其被侵權的產品也大多是化妝品，價格從300多到7.8元不等。
面對這場席卷而來的AI侵權風暴，平臺其實也是受害者。
抖音集團副總裁第一時間回應了“演員溫崢嶸被AI盜播帶貨”事件。據他澄清，“三個直播間同時開播”的案例并非發生在抖音平臺。
不過，AI內容侵權識別是行業性技術難題，惡意仿冒賬號也在不斷地與平臺進行技術對抗。
面對AI克隆明星，抖音的出手是最快的。今年10月，抖音電商已啟動“仿冒名人宣傳”專項治理行動。截止目前，已處置1.1萬個違規帶貨賬號、6700多個違規商品，并對違規賬號，采取中斷其直播間、下架違規商品、凍結成交額等措施。平臺還引導多位達人開啟“阻止相同侵權內容傳播”功能，已攔截數萬條侵權視頻。
但其他平臺，同樣存在AI克隆明星的侵權情況。
當信任被反復透支，當真實被不斷模糊，最終受損的，是整個數字生態的健康穩定。
四
拆解AI換臉產業鏈
在小紅書的角落，一條僅一人點贊的帖子，卻隱藏著AI換臉交易的隱秘入口。帖子里是令人驚嘆的AI融合效果演示。
《財經故事薈》以客戶身份咨詢：“你們這AI換臉技術是怎么操作的？怎么收費？”
等了一個多小時，對方回消息稱，“服務包含訓練人臉模型、遠程安裝調試，再加長期免費售后，一口價1980，永久使用。”
我們追問：“能用明星的臉嗎？”對方秒回：“可以，不加錢。”
對方承諾，付款后可獲得一男一女兩個演示模型和一個私人定制模型，模型訓練僅需2-3天，安裝當天即可完成，生成的“數字人”，不僅外形逼真，還能實時互動、直播帶貨。
再追問細節，對方突然警覺起來，未直接回答，反而甩過來一張圖片——一條空曠的公路，指示牌被P上了一行微信ID。緊接著又來一句：“換個地方聊吧。”
兩日后，對方通過微信好友申請，要求先支付500元定金，承諾模型訓練好之后可以部署至用戶電腦，教直播帶貨操作，但不負責引流。
對方還透露，若為MCN機構操作多個賬號可優惠，并提供兩個方案：一、技術買斷19800包售后，不限制賬號數量，但不建議多個賬號用同一張臉；二，按賬號計費，原價1980元，優惠價1580元，并稱已與兩家傳媒公司達成合作。
某平臺上，多個已轉為私密狀態的明星關聯帶貨賬號，曾標注過同一MCN機構。《財經故事薈》致電詢問合作，對方極為警覺，稱暫不合作，并粗暴掛斷電話。
當加其微信，表明“自家產的化妝品尋求克隆明星合作時”，對方卻未拒絕，也未詢問是否具備合格資質，僅要求先看文字介紹。
《第一財經》曾報道顯示，AI換臉的黑灰產業鏈已形成牟利閉環，涵蓋上游數據獲取、中游技術生成、下游場景應用及洗錢變現等環節。
上游通過爬蟲抓取、二手設備提取、音頻截取等方式，獲取受害者生活照、聲紋切片與3D頭模；中游包括通過技術手段實現人臉替換、動態驅動、對抗檢測等；下游則將這些“數字李鬼”應用直播帶貨、詐騙勒索、虛假宣傳等違法行為。
在閑魚上，人臉識別教學視頻+人臉提取業務售價僅49.9元。但賣家在商品詳情頁標注，“需確保素材不侵權，小鋪不承擔非法使用責任。”將風險完全轉移給買家。
某購物平臺，雖無法通過“AI換臉”搜到商品，但通過“定制視頻”等隱蔽關鍵詞，仍能找到出售換臉軟件，及定制服務的賣家。
除了換臉工具，批量生產的虛假內容也在暗中流通。
《財經故事薈》調查發現，某平臺商家出售AI明星語音包、視頻合成服務。部分商家甚至打出“定制明星祝福視頻，真人語音，最低50元起。”
當詢問能否定制一段“楊冪祝福生日”視頻，對方爽快回應：“可以。100字50秒450元，30字左右250元，若加急，則需要300元。”該店鋪僅有203個粉絲，卻已售出1533件商品。其中“定制明星視頻”鏈接顯示，已售出21件。
最荒誕的是，這條灰色產業鏈還衍生出了“局中局”。
一些不法分子售賣“AI克隆直播引流教程”，但有網友爆料，所謂AI數字人直播課程，根本就是一場騙局。對方先以“羅永浩做數字人直播”的案例誘其入局，再要求交298元試學7天課程，結果3天過去了，什么有用內容也沒教。
最具諷刺意味的是，他們展示的“學員答謝視頻”，竟也是AI生成的虛假內容。
盡管，《互聯網信息服務深度合成管理規定》及《生成式人工智能服務管理暫行辦法》已陸續出臺，但在執行層面仍面臨挑戰。
AI數字人虛假營銷，涉及技術提供方、內容生成者、直播平臺、商家等多個環節，現有法律并未清晰劃定各方責任，給維權帶來極大難度。
今年9月1日，《人工智能生成合成內容標識辦法》正式施行，要求所有AI生成的文字、圖片、視頻等內容都要“亮明身份”。但在實踐中，平臺審核海量內容難免疏漏、商家刻意規避標識等現象，使新規落地效果大打折扣。
面對日益精進的AI技術，我們只能先掌握一定的識別技巧。例如，AI換臉視頻可能存在細微的不自然之處，如面部表情僵硬、眨眼頻率異常、光線與面部不協調等微小破綻。同時，務必保護好個人身份信息，不隨意上傳手持身份證照片或視頻。若發現信息被冒用或遭遇可疑詐騙，第一時間保存證據并報警。
對于消費者而言，選擇正規渠道和官方認證賬號是避免受騙的重要方式。在觀看明星直播間時，應認準明星的官方賬號，特別是帶有加V認證的賬號。
技術是一面鏡子，照出了使用者的良知與底線。
當AI以極低成本復制一個“明星”，當信任成為可以量化的收割工具，我們面臨的不僅是法律的漏洞，更是人性與科技的博弈。
未來，唯有讓法律跟上技術的腳步，讓平臺扛起監管的責任，讓個體提高警惕，或許才能在這場洶涌的AI浪潮中，守護住那個不被復制的、獨一無二的“我”。
END
?