分析：中共AI靠蒸餾 只能跟在美國後面跑

近年中國企業AI發展看似迅速，但主要是靠對美國頂尖模型進行蒸餾，在一定層面上算偷取美國先進技術。中國企業這種做法，就像做滑水運動，滑水者藉助快艇尾流前進，有時時速甚至超過快艇，但卻永遠無法超越快艇本身。

也就是說，中國實驗室能取得巨大進展，是靠美國同行不斷推動技術前沿。美國快，中國可能也會隨著快；美國慢，中國發展也會慢下來，永遠只能是亦步亦趨。

中共的模型蒸餾，是利用另一個人工智能模型輸出訓練新模型，不是像美國公司一樣從零開始訓練。美國企業需用戶付費使用成本高昂的模型，不像中共一樣只用廉價仿製品。

中共蒸餾美國AI

《經濟學人》最新分析文章指出，中共大規模蒸餾美國前沿人工智能模型，無論是對美國造成的負面影響，還是對中共有多大幫助，可能都沒表面上看起來那麼可怕。

模型蒸餾原理很簡單。大型語言模型（LLM）在訓練初期，是通過學習互聯網上的文本來模仿語言，蒸餾是對其它大型語言模型進行模仿。美國模型生成的文字展現的技能與推理能力，正是中國模型模仿對象，因此拿來做訓練材料。

目前互聯網上的文本數據幾乎都被用盡，美國AI公司也沒多少更先進的模型可供蒸餾。如今美國公司越來越依賴強化學習（RL），也就是為模型設定目標，例如讓模型自行嘗試和解決複雜的數學題。這種方法效率更低，目前美國企業過半計算資源用於RL學習，是2024年初二十分之一的兩倍多。

中國企業又對美國模型通過RL訓練獲得的能力進行蒸餾。也就是說，美國模型是靠自己摸索，中國模型是靠模仿。

《計算語言學協會論文集》（Findings of the Association for Computational Linguistics）今年7月發表的一項研究顯示，中國人工智能實驗室深度求索（DeepSeek）訓練的一個小型模型，在一項廣受採用的數學測試中的得分從14.6%提高到45.8%。

中國實驗室要達到美國前沿模型的能力，還需要更多訓練數據，因此一直大規模開展模型蒸餾。美國人工智能公司Anthropic今年9月發布的一份報告發現，五家中國企業在五個月內從Anthropic模型收集超過1.8億條消息，由於存在極大相似性，中國人工智能有時甚至把自己當成Claude或ChatGPT。

美國公司開始築牆防中共蒸餾

文章指出，中國人工智能許多進展來自本土研發。全球主要人工智能會議NeurIPS發表的論文數據顯示，全球頂尖人工智能研究人員中，超過一半有華人背景。

但人才優勢終究有侷限。如今，推動人工智能發展的主要動力是先進計算晶片，美國科技巨頭各自擁有的先進晶片，都超過中國所有競爭對手的總和。如此一來，中共只能靠模型蒸餾來趕進度。

研究人員估計，中國人工智能模型比美國最先進的模型落後約3至6個月。專家估計，如果沒有模型蒸餾，這一差距可能接近翻倍。

為防止被中共蒸餾，Anthropic和OpenAI都在想辦法切斷中國企業模型能力獲取渠道，都著手封堵一項今年8月發現的漏洞，同時還加強模型蒸餾行動監測。

Anthropic還開始對Claude模型請求收費，即使模型察覺到對方意圖並拒絕回答，也照樣收費，讓對方偷雞不成反蝕一把米。

Anthropic透露，此舉長期來說未必奏效，但迄今為止蒸餾數據量減少90%至99%，但也因此損失5%至7%的收入。

Anthropic認為，中國公司在發布接近美國前沿水平的模型時，沒有設置防止濫用的安全限制，可能構成國家安全風險。

一味蒸餾永遠只能跟在後面

分析指出，由於美國前沿模型本身也是基於免費獲取的互聯網數據進行訓練，因此中國公司利用美國模型進行訓練，幾乎沒人覺得不妥。美國公司如完全切斷中國公司訪問渠道，未來可能會後悔。

另一方面，中國公司自己也認識到，過度依賴模型蒸餾，只能跟在美國後面跑。此外，未來如果出現遞歸式自我改進（人工智能模型自主開發下一代模型的技術），可能需要複雜的基礎設施，一味靠蒸餾的企業未必具備這些條件。

分析援引字節跳動創辦人張一鳴的講話指出，字節跳動今後不會利用模型蒸餾來大幅提升自家模型能力，模型蒸餾最多只能不斷縮小與前沿技術的差距，很難真正實現超越。但張一鳴承認，不靠美國前沿模型，字節跳動又開始落後。#