中國人工智慧新創公司「深度求索」（DeepSeek）近期再陷內容安全爭議。有媒體實測發現，網傳「繞過限制」教程仍可能誘導其生成違規內容，相關教程甚至被低價售賣；DeepSeek此前還被曝生成無法核實的科研文獻。多起事件凸顯AI生成內容的審核與核查風險。
涉黃教程流入二手平台
近日，有網友反映，DeepSeek下架「專家模式」後，仍可能通過角色扮演、長文本鋪墊及分段設定等方式繞過限制，生成違規內容。
據《濟南日報》的新黃河報導，9月13日該報記者按照網傳教程進行測試，在首次遭到拒絕後，通過進一步引導，DeepSeek一度生成了大量露骨色情文本，隨後使用相同方式開啟新對話時，系統又拒絕生成相關內容；此前的對話雖然一度能夠生成，但發送過程中出現撤回。
媒體調查發現，部分社交平台存在所謂「突破限制教程」，甚至有人建立群組分享相關指令。記者隨機加入的一個群聊有約500名成員，並在閒魚以1元購買了一套相關指令文件。
9月15日，閒魚客服回應稱，售賣此類教程屬於違規行為。平台表示，受限於大數據檢測能力，無法一次性排查全部違規信息，但核實屬實後會進行處置。DeepSeek方面尚未回應上述報導。
此前，中共網信辦已啟動專項行動，整治利用AI傳播暴力低俗內容、侵害未成年人權益等問題。此次事件再次引發外界對AI安全過濾是否存在漏洞的關注。
DeepSeek生成的「論文」數據可能系編造
與內容審核問題同時受到關注的，還有AI生成虛假科研依據的風險。
就在上月，一段有關DeepSeek的視頻引發關注。一名健康科普創作者在使用DeepSeek撰寫有關咀嚼與老年認知的內容時發現，AI給出的所謂科研數據及論文來源無法通過文獻資料庫核實。她隨後要求DeepSeek提供英文原始論文，系統又給出論文標題和DOI，但進一步檢索後發現，部分標題不存在，部分DOI對應的則是完全不同的論文。
這名創作者據此提醒，AI生成的內容即使同時附有數據、論文名稱、期刊和DOI，也不能替代人工核查。尤其在健康科普等領域，如果創作者直接將AI生成內容包裝成科研結論，錯誤信息可能進一步傳播。
近期圍繞DeepSeek的爭議，並不止於內容安全和信息準確性。
據彭博社7月25日引述知情人士報導，DeepSeek第二輪融資突然被叫停，導火線是其創辦人梁文鋒此前一段講話流出。其在講話中「泄露」了中國AI的真實水平，以及通過非法途徑獲得美國AI晶片和技術的內幕。
網絡流傳的梁文鋒講話錄音顯示，他在投資人交流會上罕見坦承，相較美國同行，中國AI公司僅能訓練「小十倍」的模型。
梁文鋒認為，以現有算力規模，公司根本無法訓練出與美國同行相當的頂尖大模型，即便把首輪融資募得的500億元人民幣全數投入也「訓不起」。