هل يشكّل تشغيل Kimi K3 محلياً عتبة الأجهزة؟ يبدأ الأمر من 64 بطاقة GPU، ويستهلك 45kW من الكهرباء، وينتهي المطاف باللاعبين وهم من يبنون تجهيزاتهم بأنفسهم.

أعلنت «الجهة المظلمة للقمر» هذا الأسبوع عن Kimi K3، وبإجمالي 2.8 تريليون إجمالي عدد المعلمات لتصبح أكبر نموذج أوزان مفتوح المصدر في التاريخ. من المتوقع أن تُدرج الأوزان الكاملة قبل 27 يوليو. توضح إرشادات النشر الرسمية أنه لبناء إعدادك بنفسك على الأقل تحتاج إلى 64 بطاقة تسريع، وبالنسبة للاعبين على جهاز واحد لديك خياران: إما عائلة K2 أو استخدام واجهة برمجة التطبيقات الرسمية.

(السياق: «الجهة المظلمة للقمر» Moonshot AI تستعد لإطلاق Kimi K3! مع 2.8 تريليون معلمة ونص طويل بملايين الرموز، وتقترب في الأداء من Anthropic Opus 4.8)

(معلومة إضافية: هل يمكن لجهاز الكمبيوتر الخاص بي تشغيل نماذج الذكاء الاصطناعي محلياً؟ يساعدك CanIRun.ai على تحليل سريع)

فهرس المحتويات

تبديل

• ما هو MoE؟
• العتبة الرسمية: الحد الأدنى 64 بطاقة GPU
• الجيل الأسبق كان يمكن حشوه داخل جهاز واحد

قبل قليل من هذا الأسبوع، أطلقت «الجهة المظلمة للقمر» (Moonshot AI) Kimi K3، بإجمالي 2.8 تريليون معلمة، لتصبح أكبر نموذج أوزان مفتوح المصدر في التاريخ. مجرد تخزين هذه الـ 2.8 تريليون معلمة على القرص الصلب يتطلب 1.4 تيرابايت إلى 1.5 تيرابايت من المساحة باستخدام تنسيق 4 bit الأصلي الرسمي (MXFP4)، وحتى ذلك الحين لم يبدأ تشغيل الاستدلال بعد. بالنسبة لمعظم الناس، فالعائق كبير جداً جداً.

تذكر «الجهة المظلمة للقمر» أن الأوزان المفتوحة المصدر بالكامل من المتوقع طرحها قبل 27 يوليو، مع اعتماد ترخيص Modified-MIT، بما يسمح بإعدادها بنفسك. حتى لحظة إعداد هذا التقرير، لم تظهر الأوزان الكاملة ولا إصدارات التسعير الكمّي في المجتمع (مثل GGUF).

ما هو MoE؟

يستخدم Kimi K3 بنية MoE (شبكة الخبراء المتمازجة). ببساطة، داخل النموذج توجد 896 شبكة فرعية «لخبراء»؛ وعند معالجة كل توكن، يختار النظام فقط 16 خبيراً توجيهياً بالإضافة إلى حساب خبيرٍ مشترك، ولا يقوم بحساب الجميع مرة واحدة. ولهذا السبب فقط تُعد المعلمات التي تعمل «فعلياً» بين 50 مليار إلى 60 مليار.

كما يعتمد النموذج بنية جديدة Kimi Delta Attention (KDA)، مع الاستفادة أيضاً من Attention Residuals. ووفقاً لتقييم رسمي، في سياقات بطول مليون توكن، يمكن أن يصل معدل فك التشفير إلى تحسن قدره 6.3 مرات. نافذة السياق تصل إلى 100 مليون توكن، وهو يدعم أيضاً إدخالاً بصرياً بشكل أصلي.

العتبة الرسمية: الحد الأدنى 64 بطاقة GPU

توضح إرشادات النشر الرسمية من «الجهة المظلمة للقمر» أنه لتشغيل K3 بنفسك ستحتاج إلى 64 بطاقة تسريع أو أكثر. تزن أوزان MXFP4 الأصلية حوالي 1.5 تيرابايت، أي أنها تعادل 3.7 أضعاف DeepSeek-R1 671B (مع تسعير Q4 بحجم يقارب 407GB). وبمجرد التحويل لتخزين الأوزان، فكم بطاقة GPU تحتاج:

• H100 (80GB): حوالي 19 بطاقة
• H200 (141GB): حوالي 11 بطاقة
• B200 (192GB): حوالي 8 بطاقات

ولا يشمل ذلك KV cache، أي الذاكرة التي يتذكر بها النموذج سياق المحادثة؛ وحتى الآن لم تُعلن «الجهة المظلمة للقمر» عن متطلبات KV cache في سياق بطول مليون توكن، لكن من المؤكد أنها لن تكون أقل بل ستزداد.

من ناحية السعر، يبلغ سعر كل شريحة H100 بسعة 80GB تقريباً بين 25,000 و33,000 دولار أمريكي (PCIe)، بينما نسخة SXM تتجاوز 35,000 إلى 40,000 دولار. إن خادم H100 ذو 8 بطاقات يتجاوز 300,000 دولار. وبحسب عتبة 64 بطاقة الرسمية، فهذا يعادل 8 خوادم كل منها من 8 بطاقات؛ وستتجاوز فقط مشتريات العتاد 2.4 مليون دولار أمريكي، أي ما يعادل أكثر من 70 مليون دولار أمريكي بحسب الدولار التايواني الجديد (TWD).

من ناحية استهلاك الطاقة، تستهلك شريحة H100 الواحدة حوالي 700W؛ ومع 64 شريحة GPU ستكون القدرة حوالي 45kW، وهو أعلى بكثير من سعة تزويد الطاقة المعتادة في المنازل، وبالتالي فهذا استهلاك بمستوى غرف الخوادم.

الجيل الأسبق كان يمكن حشوه داخل جهاز واحد

عند المقارنة بالجيل الأسبق من عائلة K2 (1 تريليون معلمة، حوالي 32 مليار معلمة فعالة) تتضح الفجوة. توفر المجتمع لـ K2 تسعيراً كمّياً قصوى 1.8 bit؛ يمكن تشغيله بقرابة 247GB فقط، ويمكن أن يعمل أيضاً باستخدام بطاقة رسومات استهلاكية سعة 24GB مع تفريغ الذاكرة النظامية. أما K2.5 فيحتاج إلى أكثر من 380GB من الذاكرة الموحدة، ونسخة Q2 من K2.6 تحتاج حوالي 350GB.

كان يمكن تشغيل الجيل الأسبق على جهاز Mac Studio بسعة 512GB بصعوبة، لكن K3 يعيد العتبة مباشرة إلى مستوى مركز البيانات. وبالنسبة للمستثمرين الأفراد الذين يريدون الاستخدام، فعليهم النزول إلى عائلة K2 أو استدعاء واجهة برمجة التطبيقات الرسمية مباشرة.