隨著大模型飛速發展，AI應用也逐漸成熟。過去一年，在很多人還在琢磨能用AI來幹啥的時候，已經有不少人靠著AI產品和信息差賺到了「真金白銀」。
不過，在一個個看似「錢途光明」的項目里，有些引發了倫理爭議，有些是利用噱頭炒作的「偽概念」，還有些，則是實打實的騙局。
01.「數字人」以假亂真，AI換臉成「生意」？
2024年，社媒平台上用AI製作的內容明顯增多。「小貓張嘴唱歌」「甄嬛機關槍掃射四郎」……AI生成內容成為當下最火的自媒體賽道之一。
有些帳號通過Stable Diffusion、midjourney、可靈或即夢生成動漫形象，配上文案，便可收穫大批粉絲關注，隨後通過商務推廣或櫥窗帶貨變現。例如最近迅速漲粉的「人間清醒柒奶奶」「寶藏羅奶奶」等各類奶奶，就成了很多網友的心靈導師和情緒樹洞。
值得一提的是，有的社媒平台檢測出內容是由AIGC生成，會給作品加上「疑似包含AI創作」的提示；然而由於識別難度越來越大，相當一部分AI作品和帳號都能逃過檢測。
2024年下半年，有網友稱自己在小紅書上通過帳號矩陣管理軟體同時操控1327個AI美女帳號，沒有任何一個被平台識別出來。
如今，很多AI帳號仍在受追捧。有用戶直言，「好看就可以了，難道那些真人博主就長得和照片一模一樣？既然都不真實，是不是AI又有什麼所謂？」
於是，「AI數字人」成了很多人「牟利」的手段。有資訊流從業者表示，自己通過數字人混剪+真人口播做成廣告素材，在各平台投放吸引用戶下單，廣告投放金額越高，帶來的收益也越高，不到四天，便有保健品的廣告素材投放突破了30萬元。
除了用「數字人」，還有人通過「AI換臉」技術冒充名人進行帶貨。國家傳染病醫學中心醫生張文宏此前曾表示，短視頻平台上有很多用AI合成自己臉和聲音的視頻，帶貨蛋白棒等醫藥保健類產品，自己多次向平台投訴，但仍然層出不窮。
AI換臉內容製作成本低，平台監管卻不容易。微信和抖音都曾對使用插件、AI等工具生成虛擬形象直播判定違規或封禁處理。資深產業經濟觀察家梁振鵬認為，數字人直播帶貨以及數字人帳號的監管難點，主要在於如何辨別這些數字人是否真實存在，以及它們所宣傳的產品是否真實可靠；此外，監管機構還需要考慮如何處理涉及名人的仿冒行為，以及如何平衡保護消費者權益和促進創新之間的關係。
這些用AI合成的「詐騙視頻」瞄準的通常是辨識能力差、警惕性不高的中老年人。除了張文宏，靳東、雷軍等名人，也是經常被「AI換臉」的對象。前段時間，江西宜春一位老年女性就因「靳東」在網絡上向「借錢拍戲」，險些向對方轉過去200萬元。
2024年10月，香港警方還曾破獲一起AI換臉的「殺豬盤」，通過偽造條件優越的女性吸引男性轉帳，涉案金額超過3.6億港元。
隨著視頻生成模型的發展，平台上的內容很可能會更加「真假難辨」。梁振鵬表示，這無疑會加大平台內容監管的難度；未來，監管機構需要不斷提高自身的技術水平，平台也需要積極履行社會責任，加強自我約束和自我管理。
值得一提的是，目前至少有60多個國家制定和實施了人工智慧治理政策，中國《網際網路信息服務深度合成管理規定》《生成式人工智慧服務管理暫行辦法》等規定的相繼落地，也讓剛性治理有了更多具體抓手。
02.智能家電、AI玩具...「沾上」AI就漲價？
2024年是大模型卷應用、卷落地的一年。學習機、眼鏡、玩具、甚至床墊，都紛紛做起了「AI+」，強調自身的「智能化」和「陪伴感」。然而，限於技術的成熟度，過去一年大部分搭載AI的硬體或產品實際上並未帶來顛覆性的使用體驗。
此前，遠程控制、網絡連接、自動識別與控制是家居產品主打的智能化功能，AI概念火了後，家居產品爭相在AI上「整活」：床墊內置AI算法，能根據不同的人體曲線調整高度；洗衣機集成AI智能投放系統，能根據衣物的重量與髒污程度，自動調整洗滌劑的用量……
然而，在很多消費者看來，這些家電的AI功能解決的並不是核心痛點，而且實際使用上也達不到宣傳中的智能。某品牌AI床墊的用戶表示，護腰氣囊晚上間歇性打氣噪音不小，睡眠監測時間也不太準確，「感覺像是交了智商稅」。
家電行業分析師劉步塵表示，目前家電與AI的結合仍處於初級階段。「過去十幾年，家電產品基本上完成了從功能型家電向智能化家電的轉變，但家電產品功能需求的本質未變，對AI的要求沒有想像的那麼緊迫，所以家電也很難成為AI技術應用的典範。」
體驗升級不多，但不少融合AI概念產品的價格卻先漲了上來。有售賣卡薩帝AI冰箱的銷售人員對「搜狐財經」表示，目前AI其實和智能沒有什麼區別，暫時還做不到幫助用戶識別食材、記錄保鮮、臨期提醒等等。然而，其店內兩款AI冰箱產品售價分別為6.9萬元和10萬元，相比之下不帶智能大屏的同類型冰箱價格大約2萬到3萬；由此計算，「AI冰箱」的溢價能達到2至5倍左右。
除了家電，面向兒童、青少年群體的玩具、學習機等產品，結合AI概念後的價格也出現了明顯的上漲。
有AI玩具的從業者對新媒體「Tech星球」表示，毛絨AI玩具的硬體成本一般只占到產品售價的十分之一，甚至更低，其搭載的AI方案才是這類玩具賣到幾百元、上千元的關鍵。
然而，玩具的AI對話功能也是「見仁見智」的地方。有家長表示，AI玩具能回答孩子的「十萬個為什麼」，很省心；但也有家長認為，目前所謂的AI功能還配不上這個價格。Haivivi（躍然創新）的一款佩戴式AI玩具的評論區里，有消費者表示，玩具的價格比天貓精靈還貴了不止一倍，但只有對話功能正常使用，播放音樂和講故事的功能都不能滿足孩子需求。
網際網路分析師張書樂曾對「貝殼財經」表示，目前的AI玩具的價值整體上仍然在對話上體現，AI玩具所能提供的教育能力依然還不足以達成真正的教育意義。盤古智庫高級研究院江瀚則認為，AI玩具的優勢在於能夠結合玩具的趣味性和AI的交互性，未來要解決互動體驗和內容創新的問題，使AI玩具能夠更好地理解和回應兒童的指令和情感。
03.AI培訓課，「小白」最好「割」？
每次有新技術出現，比應用跑得更快的往往是「教你如何用」的培訓課程。2024年，AI相關的課程層出不窮，甚至有從業者直言，任何行業都可以用AI來做一遍知識付費。
AI付費課里最熱門的，要屬以AI繪畫、視頻創作為主的AI工具應用類課程。這類課程主要面向渴望提升工作技能和發展副業的年輕人，課程價格大多在千元以上，也是被吐槽「割韭菜」的重災區。
社交平台上很多網友都提到，付費課里的知識、教程在B站和知乎等都能找到類似的免費內容，這些培訓機構大多只是將免費的素材和教程進行系統整合，其實賺的還是「信息差」的錢。
不擅長信息檢索、又很少體驗知識付費的「小白用戶」，很容易被包裝高大上的課程海報和話術吸引；有網友表示，想報AI課程的主要原因是覺得有老師能答疑，上課互動性更好。這類更習慣傳統教學方式的用戶，也是各類AI付費課程的主力。
小白們學習新技術的需求，養活了不少培訓機構。2024上半年，清華博士李一舟因為違規售賣AI工具類培訓課程被封禁，如今仍有人在這一賽道悶聲賺錢。
「趣解商業」觀察到，如今仍有不少教AI製圖、視頻創作的課程宣稱結課後給學員提供商單幫助變現。例如，有機構的AI繪畫相關課程，價格高達5880元，助教表示，如果順利完成課業測試，學完後100%能接到商單。
「趣解商業」發現，商單包括室內設計、AI電商換裝圖等多種類型的需求，每單價格在20-30元左右；由此計算，要完成將近近200單需求才能回本學費。對有全職工作的學員而言，這顯然是件相當考驗耐力和興趣的「副業」；還有單親媽媽表示，其實並沒有想像中好學，除了AI工具，也要會用PS，課時和學習時間都比想像中要長，暫時還沒能力接單變現。
在「黑貓投訴」平台上，消費者投訴AI培訓機構的案例層出不窮，大部分均是針對交費後「老師找不到人」、被誘導付費後難退款、與承諾的效果不符等問題。
04.套殼AI騙融資，「熱錢」湧向大模型？
如果說AI知識付費只是「割韭菜」的初級手段，那用AI概念來圈錢、騙融資，絕對稱得上這一領域的「高級騙局」。
2024年，不止一家AI科技公司被曝出財務造假、業務注水。
近期，美國AI教育科技公司AllHere的創始人兼CEOJoanna Smith-Griffin因涉嫌證券欺詐、電匯欺詐和嚴重身份盜竊被批捕。該公司主推促進家校溝通的聊天機器人，自2020年11月啟動A輪融資以來，直至公司於2024年6月倒閉，其創始人一直向投資者傳遞虛假的財務信息，誤導他們對公司的收入、客戶群體以及現金儲備情況。
早在2024年6月，國內一家名為「極目銀河」的AI領域明星創業公司「財務爆雷」，CEO陳群在自己租來的別墅中留下一封自白信後消失，信中寫道：「（我）是個詐騙犯......（公司）合計有62億的資金缺口」。根據「36氪」報導，這家公司套殼AI等多個數字科技業務以吸納融資，實際上，公司多年來一直都沒有成熟的產品和業務，項目逐漸無法通過融資獲利，最終整個公司走向破產。
隨著大模型賽道競爭日益激烈，不少創業公司都被「卷」進了牆角。有從業者表示，2024上半年，投資市場還在為爭搶大模型創業公司的份額頭疼，到了年底，大模型投資人討論的話題已經變成了「如何賣掉部分手裡的大模型創業公司股份？」
有參與過大模型企業融資的投資人對新媒體「Tech星球」表示，比起過去投資看好技術、前景、團隊就入手的邏輯，不少機構的內部決策周期越來越長，還會反覆計算、評估新錢投出去的報酬率。2025年，大模型賽道的融資或許會更加嚴峻。
新技術帶來變革的同時，也會引發亂象和假象。從虛擬人引發的倫理與詐騙問題，到產品借AI之名的價格虛高，再到AI培訓課程的良莠不齊以及創業公司的騙融資行徑，都在提醒著從業者和消費者「AI洶湧」。比追逐浪潮更重要的，是保持清醒––不被短期的利益蒙蔽，也不被誘人的噱頭牽著走。
