Mengapa chip K3 semakin murah justru semakin langka? Permintaan perangkat keras melonjak, efisiensi meroket

Kimi K3 降價不會減少晶片需求,反而可能推高整體硬體消耗。
(前情提要:本地跑 Kimi K3 硬體門檻?64 張 GPU 起跳、45kW 用電,玩家自架出局)
(背景補充:交易規模上看 100 億美元!傳 Anthropic 擬向 Meta 租用運算資源,緩解 GPU 短缺危機)

本文目錄

Toggle

  • Kimi K3 登場:效率飆升反推硬體需求
  • 傑文斯悖論:低價引爆更多 token 消耗
  • KV Cache 飆漲:長上下文壓榨記憶體
  • 競爭急凍:美系 AI 巨頭繼續加碼
  • 開源爆買:OpenRouter 資料顯示成長
  • 結論:Kimi K3 成硬體催化劑

Kimi K3 把 AI 投資者重新帶回一個核心問題:模型更便宜、更高效,是否意味著晶片和記憶體需求下降?花旗和美銀證券的答案都偏向否定,效率提升或許釋放更多使用量,進而推高總資源消耗。

據追風交易臺,月之暗面發布的 Kimi K3 擁有 2,8 兆引數,面向 100 萬 token 上下文視窗和長週期智慧體任務。花旗半導體分析師 Peter Lee 認為,即便 Kimi K3 被廣泛使用,伺服器 DDR5 和 eSSD 等通用記憶體需求仍會提升。

美銀證券半導體分析師 Vivek Arya 在 7 月 17 日的研究中也表示,美國前沿 AI 實驗室更或許提升算力投入,而不是減少投入。若中國開源模型持續逼近,OpenAI,Anthropic 和 Google 等領先者必需用更大訓練規模,更重推理和更快產品迭代維持差異化。

這意味著市場對 Kimi K3 的定價邏輯,不能只看單次推理成本下降。更關鍵的是,低價模型是否帶來更多呼叫,更長任務鏈和更多 token 生成。若答案為是,GPU,HBM,DDR5,eSSD,高速網路和推理系統都或許繼續受益。

Kimi K3 登場:效率飆升反推硬體需求

花旗將 Kimi K3 視為 AI 產業鏈中「傑文斯悖論」的潛在案例。該悖論的核心是,技術效率提升降低單位使用成本後,使用量或許大幅提升,最終資源總消耗不降反升。

Kimi K3 的吸引力來自低成本與高效能組合。公開價格顯示,快取命中輸入價格為每百萬 token 0,3 美元,輸出價格為每百萬 token 15 美元。其完整權重計劃於 7 月 27 日披露,目標是支援長週期智慧體工作。

花旗的判斷是,模型降價不會自動減少硬體需求。相反,低成本或許提高開發者和企業呼叫模型的意願,推動更多 AI 智慧體部署。智慧體任務並非一次性問答,而是在連續任務中不斷生成,讀取和處理 token。呼叫次數和任務長度上升,會把單位成本下降重新轉化為總資源消耗。

故而,Kimi K3 對半導體鏈條的影響,重點不在「單次呼叫是否更便宜」,而在「總 token 量是否擴大」。這正是花旗看好伺服器 DDR5 和 eSSD 需求的原因。

傑文斯悖論:低價引爆更多 token 消耗

Kimi K3 採用三項關鍵技術:Kimi Delta Attention,Attention Residuals 和 Stable LatentMoE。Kimi Delta Attention 用於降低 100 萬 token 上下文視窗的成本,Attention Residuals 用於在模型不同深度之間選擇性檢索表徵,Stable LatentMoE 則提升稀疏化程度,每個 token 僅啟用 896 個專家中的 16 個。

月之暗面的技術資料稱,這套架構使 Kimi K3 的擴充套件效率達到 K2 的 2,5 倍。高稀疏度和長上下文能力,是其壓低執行成本的重大基礎。

但花旗強調,這並不等於推理端資源壓力消失。Kimi K3 仍不是輕量級部署方案,其執行必需多節點叢集,超級節點配置超過 64 顆 GPU。更重大的是,長上下文和智慧體任務會推高 KV Cache 佔用,進而提升推理端記憶體負擔。

KV Cache 需求直接關聯伺服器 DDR5 和 eSSD。DDR5 承擔高頻資料存取,eSSD 受益於更大的快取和資料儲存需求。對記憶體廠商而言,關鍵變數不是單個模型是否更省算力,而是低價之後模型被呼叫多少次,每次呼叫生成多少 token,以及智慧體任務鏈被拉多長。

KV Cache 飆漲:長上下文壓榨記憶體

美銀證券的結論與花旗形成呼應,但關注點更偏向 GPU 和 AI 基礎設施。Vivek Arya 認為,更強的中國開源模型未必會讓美國 AI 巨頭削減算力投入。相反,模型差距收窄會提高領先者維持優勢的成本。

美銀證券表示,如果開源模型持續逼近,OpenAI,Anthropic 和 Google 必需依靠更大規模訓練,更多強化學習與合成資料迴圈,更重的測試時推理,以及更快的產品發布節奏來守住差異化。

這套邏輯不取決於哪一個模型短期領先。大模型排行榜或許迅速輪換,但企業真正購買的是穩定,低延遲,高可用的 AI 輸出,以及更低的「每單位有效產出」成本。當模型能力趨同,競爭壓力會傳導至底層基礎設施,包括 GPU,HBM,高速網路和推理系統。

故而,美銀證券認為,Kimi K3 這類模型的出現,不應被簡單理解為「模型更高效,晶片更少」。更現實的路徑是,模型競爭加劇,領先者為了維持距離繼續加碼算力。

競爭急凍:美系 AI 巨頭繼續加碼

Kimi K3 採用 MoE 架構,意味著總引數量和每次推理實際啟用的引數可以分離。這一變化降低了部分計算壓力,但也讓基礎設施瓶頸從單純算力,轉向視訊記憶體訪問,專家路由,響應延遲和互連能力。

美銀證券強調,MoE 推理要求系統更高效地搬運資料,排程專家模組,並連線更大的計算叢集。輝達提出,現代 MoE 推理必需更大的 GPU 域。其測算顯示,GB300 NVL72 在領先開源模型上的每瓦效能,最高可達到 Hopper 平台的 25 倍。

CoreWeave 圍繞 Kimi K2.6 的測試也說明,開源 MoE 模型即使每次只啟用部分引數,若要在速度和價效比上維持領先,仍必需經過最佳化的輝達 GB300/GB200 NVL72 基礎設施。

這意味著,模型權重或許逐步商品化,但執行模型所需的 GPU,高頻寬記憶體,網路互連和推理系統不會失去價值。相反,隨著模型呼叫量擴大,這些環節或許成為競爭更集中的地方。

開源爆買:OpenRouter 資料顯示成長

美銀證券還引用 OpenRouter 資料表示,模型呼叫量仍在迅速提升。作為連線多家模型實驗室的第三方 API 平台,OpenRouter 上的 token 使用量持續增長,其中中國 AI 實驗室模型的 token 使用量已經超過非中國實驗室模型。

這一資料不能直接代表所有企業和消費者場景,但它至少顯示,開發者在開放模型生態中的選擇正在變化。模型價格下降和能力提升,或許推動呼叫量繼續擴張,而不是被單一模型的效率提升抵消。

企業付費使用也在提升。Ramp 資料顯示,截至 2026 年 6 月,約 55% 的美國企業已付費訂閱 AI 模型,平台或工具,高於美國人口普查局 BTOS 調查的 21% 估計。按模型看,Anthropic 企業採用率為 42,4%,OpenAI 為 39,5%。

結論:Kimi K3 成硬體催化劑

不過,AI 支出仍高度集中。頭部 1% 的企業使用者,平均每名員工每月 AI 支出約 4833 美元,前 10% 為 516 美元,整體中位數僅為 11 美元。科技與媒體產業訂閱率達到 79,8%,大型企業採用率為 65,5%,高於中型企業的 61,3% 和小型企業的 48,7%。

這組資料支援一個判斷:AI 使用仍處於擴散過程中。若低價模型降低進入門檻,未來增量需求或許來自更多企業,更多開發者和更多智慧體應用。

花旗和美銀證券的共同結論是,Kimi K3 的意義不在於單一模型是否降低單位推理成本,而在於低成本是否釋放更大規模的工作負載。

對花旗而言,最直接的受益方向是伺服器 DDR5 和 eSSD。長上下文,KV Cache 和智慧體任務會提高記憶體訪問與儲存需求。對美銀證券而言,更重大的是 GPU,HBM,高速網路和推理系統,因為模型競爭會迫使領先者繼續投入基礎設施。

美銀證券還提到,Kimi K3 涉及「45 奈米開源 EDA」不應被簡單解讀為商業 EDA 被替代。相反,這表明晶片設計仍離不開 EDA 工具。在先進製程上,Cadence 和 Synopsys 等商業 EDA 廠商仍處於關鍵位置。

風險在於另一種情形:如果模型壓縮,推理最佳化和硬體效率提升長期快於新增工作負載,AI 基礎設施擴張或許階段性降溫。但在當前兩家投行的框架下,Kimi K3 更像是推高使用量的催化劑,而不是削弱晶片需求的訊號。效率提升之後,市場必需關注的反而是更多 token,更多推理,以及更多底層硬體消耗。

META0,49%
C2,15%
CRWV4,32%
RAMP0,39%
SNPS0,51%
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan