Локальная сборка Kimi K3: аппаратный порог? Старт с 64 GPU, потребление 45 кВт — игроки собирают всё сами, и игра заканчивается тем, что они «выбывают»

月之暗面本週發表 Kimi K3，以 2,8 трлн общих параметров成为史上最大开源权重模型，完整权重预计 7 月 27 日前上架。官方部署指引写明自架至少要 64 张加速器，单机玩家剩 K2 家族或官方 API 两条路。
（前情提要：月之暗面 Moonshot AI 即将推出 Kimi K3！具备 2,8 трлн параметров и百萬长文本，性能直逼 Anthropic Opus 4.8）
（背景补充：我的电脑可以本地运行 AI 模型吗？CanIRun.ai 帮你快速分析）

本文目录

Toggle

• MoE 是什么？
• 官方门槛：64 张 GPU 起跳
• 上一代还塞得进一台电脑

本周稍早，月之暗面（Moonshot AI）发表 Kimi K3，总参数达到 2,8 трлн，是史上最大的开源权重模型。光是要把这 2,8 трлн 个参数存进硬盘，用官方原生的 4 bit 格式（MXFP4）就需要 1,4 тБ 到 1,5 тБ 空间，且这还没开始跑推理。对於一般人来说的门槛非常非常高。

月之暗面表示，完整开源权重预计 7 月 27 日前上架，采用 Modified-MIT 授权，允许自行架设。截稿当下，完整权重与社群量化版本（例如 GGUF）都还没出现。

MoE 是什么？

Kimi K3 采用 MoE（混合专家）架构。简单来说就是，模型内部养了 896 个“专家”子网络，每次处理一个 token，系统只挑其中 16 个路由专家加上共享专家运算，不会全部算一遍，这也是为什么实际“醒着”工作的参数只有 50 млрд 到 60 млрд。

模型还采用新架构 Kimi Delta Attention（KDA），另搭配 Attention Residuals；官方自评在百万 token 长上下文下，解码速度最高提升 6,3 倍，上下文视窗达 100 万 token，也原生支援视觉输入。

官方门槛：64 张 GPU 起跳

月之暗面官方部署指引写明，自架 K3 至少需要 64 张以上的加速器。原生 MXFP4 权重约 1,5 тБ，是 DeepSeek-R1 671B（Q4 量化约 407GB）的 3,7 倍。单纯换算放权重需要几张 GPU：

• H100（80GB）：约 19 张
• H200（141GB）：约 11 张
• B200（192GB）：约 8 张

且这还没算 KV cache，也就是模型记住对话上下文用的内存；100 万 token 长上下文的 KV cache 需求官方尚未公布，但只会更多不会更少。

价格上，H100 80GB 单张约 2,5 тыс. 到 3,3 тыс. доллара（PCIe），SXM 版 3,5 тыс. 到 4 тыс. доллара以上；8 卡 H100 伺服器一台超过 30 万 доллара。按官方 64 张门槛，等于 8 台 8 卡伺服器，光硬件采购就超过 240 万 доллара，约新台币 7,000 万以上。

功耗上，H100 单张约 700W，64 张光 GPU 就约 45kW，远超一般家庭供电容量，是机房等级的用电。

上一代还塞得进一台电脑

对照上一代 K2 家族（1 трлн 参数，约 320 亿启用参数）更有感。社群替 K2 做出的 1,8 bit 极限量化，约 247GB 即可硬跑，一张 24GB 消费级显卡搭配系统内存卸载也能动；K2.5 需超过 380GB 统一内存，K2.6 的 Q2 版本约需 350GB。

上一代一台 512GB 的 Mac Studio 勉强跑得动，而 K3 则直接把门槛推回数据中心等级。对于一般散户如果想使用，就乖乖降级使用 K2 家族或直接调用官方 API 吧。