किमी K3 ओपन डे: 2.8 ट्रिलियन पैरामीटर्स, अब ओपन वेट

27 जुलाई 2026 को, Moonshot AI ने Kimi K3 ओपन डे आयोजित किया और तीन कनेक्टेड रिलीज़ की घोषणा की: Kimi K3 मॉडल वज़न, आधिकारिक तकनीकी घोषणा, और तीन इन्फ्रास्ट्रक्चर तकनीकें: MoonEP, FlashKDA, और AgentEnv। इस इवेंट ने Kimi K3 को सिर्फ एक नया बड़े पैमाने का मॉडल नहीं, बल्कि मॉडल एक्सेस, आर्किटेक्चर और डिप्लॉयमेंट इन्फ्रास्ट्रक्चर को कवर करने वाली एक रिलीज़ के रूप में भी प्रस्तुत किया।

मुख्य स्पेसिफिकेशन स्पष्ट है: Kimi K3 एक 2.8 ट्रिलियन-पैरामीटर ओपन-वेट मॉडल है, जो Mixture of Experts (MoE) आर्किटेक्चर पर आधारित है। Moonshot AI ने प्रमुख तकनीकी विवरण साझा किए, जिनमें 896 एक्सपर्ट, प्रति टोकन 16 एक्सपर्ट सक्रिय, 1M-टोकन कॉन्टेक्स्ट विंडो, 3:1 अनुपात में KDA + AttnRes, MoonViT-V2, और रिपोर्टेड 2.5x स्केलिंग एफिशिएंसी में सुधार शामिल हैं।

‘ओपन-वेट’ शब्द महत्वपूर्ण है। ओपन-वेट का अर्थ है कि प्रशिक्षित मॉडल वज़न परिभाषित शर्तों के तहत उपलब्ध कराए जाते हैं। इसका यह स्वतः मतलब नहीं है कि मॉडल पूरी तरह ओपन-सोर्स है, जो आम तौर पर सोर्स कोड, ट्रेनिंग डेटा, टूलिंग और पुनरुत्पादन पाइपलाइनों तक व्यापक पहुँच को दर्शाता है। फिर भी, ओपन-वेट एक्सेस डेवलपर्स और संगठनों के लिए यह बदल सकता है कि वे किसी बड़े AI मॉडल को कैसे डिप्लॉय, कैसे निरीक्षण करें, और उसके आसपास कैसे निर्माण करें।

Moonshot AI ने इस दृष्टिकोण के मूल्य को यह कहकर संक्षेपित किया कि “ओपन-वेट मॉडल... बुद्धिमत्ता तक पहुँच की बाधा कम करते हैं, नवाचार को बढ़ावा देते हैं, और उपयोगकर्ताओं को डेटा, गोपनीयता और स्वामित्व पर अधिक नियंत्रण देते हैं।”

ओपन डे इवेंट: तीन मुख्य रिलीज़

Kimi K3 ओपन डे तीन रिलीज़ श्रेणियों पर केंद्रित था।

पहले, Moonshot AI ने Kimi K3 मॉडल वज़न जारी किए। यह मुख्य ओपन-वेट घोषणा है। बिल्डर्स के लिए, वज़नों तक पहुँच केवल होस्टेड-ओनली API की तुलना में अधिक लचीला डिप्लॉयमेंट सक्षम कर सकती है, खासकर जब टीमों को इन्फ्रास्ट्रक्चर, लैटेंसी, गोपनीयता, या डेटा रेजिडेंसी पर नियंत्रण चाहिए।

दूसरे, Moonshot AI ने Kimi K3 की तकनीकी रिपोर्ट प्रकाशित की। यह इसलिए महत्वपूर्ण है क्योंकि बड़े-मॉडल की घोषणाओं का मूल्यांकन केवल पैरामीटर काउंट से नहीं किया जा सकता। आर्किटेक्चर, राउटिंग रणनीति, लॉन्ग-कॉन्टेक्स्ट डिज़ाइन, मल्टीमोडल क्षमता और एफिशिएंसी के दावे यह तय करते हैं कि मॉडल व्यवहार में उपयोगी है या नहीं।

तीसरे, Moonshot AI ने MoonEP, FlashKDA, और AgentEnv जारी किए। ये इन्फ्रास्ट्रक्चर तकनीकें एक्सपर्ट कम्युनिकेशन, अटेंशन प्रदर्शन और एजेंट निष्पादन को लक्षित करती हैं। इन्हें शामिल करना दिखाता है कि Kimi K3 ओपन डे सिर्फ एक मॉडल रिलीज़ नहीं था; यह बहुत बड़े ओपन-वेट मॉडलों को अधिक प्रभावी ढंग से उपयोग करने के लिए एक इन्फ्रास्ट्रक्चर रिलीज़ भी था।

मॉडल: प्रमुख स्पेसिफिकेशन

Kimi K3 एक 2.8 ट्रिलियन-पैरामीटर MoE मॉडल है। Mixture of Experts आर्किटेक्चर में, प्रत्येक टोकन के लिए मॉडल का केवल कुछ हिस्सा ही सक्रिय होता है। एक राउटर एक्सपर्ट्स के एक उपसमुच्चय का चयन करता है, जिससे सिस्टम समान आकार के एक डेंस मॉडल की तुलना में कम सक्रिय कंप्यूट के साथ बहुत बड़ी कुल क्षमता को संयोजित कर सकता है।

Moonshot AI के अनुसार, Kimi K3 में 896 एक्सपर्ट हैं, और प्रति टोकन 16 एक्सपर्ट सक्रिय होते हैं। यह डिज़ाइन मॉडल की दक्षता प्रोफ़ाइल का केंद्र है। यह मॉडल को इन्फ़ेरेंस के दौरान चयनात्मक सक्रियता उपयोग करते हुए भी विशाल समग्र क्षमता बनाए रखने देता है।

1M-टोकन संदर्भ विंडो सबसे व्यावहारिक विनिर्देशों में से एक है। लंबा संदर्भ पूरे दस्तावेज़ का विश्लेषण, बड़े कोडबेस की समीक्षा, बहु-फ़ाइल तर्क, कानूनी या वित्तीय दस्तावेज़ कार्यप्रवाह, और छोटे-छोटे टुकड़ों में हर इनपुट को मजबूर किए बिना लंबे एजेंट कार्यों का समर्थन कर सकता है।

Kimi K3 भी 3:1 अनुपात में KDA + AttnRes का उपयोग करता है, जो उसके लंबे-संदर्भ रणनीति से जुड़ा एक हाइब्रिड ध्यान डिज़ाइन है। यह मॉडल अपने विज़न आर्किटेक्चर के रूप में MoonViT-V2 शामिल करता है, जिससे यह संकेत मिलता है कि यह केवल टेक्स्ट-ओनली सिस्टम नहीं, बल्कि नेटिव मल्टीमॉडल क्षमता वाला मॉडल है। Moonshot AI ने 2.5x स्केलिंग दक्षता में सुधार भी रिपोर्ट किया है, जो यह दर्शाता है कि Kimi K3 को केवल स्केल के लिए नहीं, बल्कि अधिक व्यावहारिक प्रशिक्षण और अनुमान (inference) की लागत-प्रभावशीलता के लिए भी डिज़ाइन किया गया था।

इन्फ्रा रिलीज़: MoonEP, FlashKDA, और AgentEnv।

ओपन-वेट मॉडल्स को अभी भी उनके आसपास मजबूत सिस्टम्स की जरूरत होती है। बड़े MoE मॉडल्स को कुशल संचार (communication), तेज़ attention kernels, और सुरक्षित निष्पादन (execution) वातावरणों पर निर्भर रहना पड़ता है। Moonshot AI की इन्फ्रा रिलीज़ इन जरूरतों को सीधे संबोधित करती है।

MoonEP: MoE विशेषज्ञ संचार (Expert Communication)

MoonEP MoE विशेषज्ञ पैरेललिज़्म (expert parallelism) के लिए एक संचार लाइब्रेरी है। MoE सिस्टम्स में टोकन्स को अलग-अलग विशेषज्ञों (experts) तक रूट किया जाता है, और ये विशेषज्ञ कई डिवाइसों में वितरित हो सकते हैं। इससे संचार (communication) से जुड़ी चुनौतियाँ पैदा होती हैं, जो थ्रूपुट को सीमित कर सकती हैं और लेटेंसी बढ़ा सकती हैं।

Kimi K3 के लिए, 896 विशेषज्ञ और प्रति टोकन 16 सक्रिय के साथ, विशेषज्ञ रूटिंग एक बड़ा सिस्टम-स्तरीय (systems) मुद्दा है। MoonEP को वितरित विशेषज्ञ संचार (distributed expert communication) को बेहतर बनाने और बड़े पैमाने पर MoE डिप्लॉयमेंट में बॉटलनेक्स (bottlenecks) को कम करने के लिए डिज़ाइन किया गया है।

FlashKDA: तेज़ लंबी-संदर्भ (Long-Context) attention

FlashKDA KDA के लिए अनुकूलित एक attention kernel है। इसकी भूमिका खास तौर पर लंबे-संदर्भ वर्कलोड्स में महत्वपूर्ण हो जाती है, जहाँ प्रीफ़िल (prefill) कंप्यूटेशन महंगा हो सकता है। Moonshot AI ने बताया कि Nvidia H20 GPUs पर प्रीफ़िल प्रदर्शन में FlashKDA, flash-linear-attention बेसलाइन की तुलना में 1.72x से 2.22x तक स्पीडअप देता है।

यह महत्वपूर्ण है क्योंकि 1M-टोकन संदर्भ विंडो तभी उपयोगी है जब उसे कुशलता से सर्व किया जा सके। तेज़ attention kernels लंबी-दस्तावेज़ (long-document) विश्लेषण, कोड समीक्षा, रिसर्च वर्कफ़्लोज़, और बहु-चरणीय तर्क (multi-step reasoning) को प्रोडक्शन में अधिक व्यावहारिक बना सकते हैं।

AgentEnv: AI एजेंट्स के लिए सैंडबॉक्स

AgentEnv एक एजेंट सैंडबॉक्स सिस्टम है, जिसे KVCache.ai के साथ सह-विकसित किया गया है। यह एजेंट्स के लिए एक पृथक सैंडबॉक्स वातावरण उपलब्ध कराता है, जिन्हें चरणों को निष्पादित करने, कार्रवाइयों का परीक्षण करने, स्टेट को फोर्क करने, पूर्व अवस्थाओं को बहाल करने या समानांतर ब्रांच चलाने की आवश्यकता होती है।

एजेंट वर्कफ़्लोज़ अक्सर केवल टेक्स्ट जनरेशन से आगे जाते हैं। उनमें फ़ाइलों, टूल्स, कोड निष्पादन और बहु-चरणीय निर्णय शामिल हो सकते हैं। एक सैंडबॉक्स बाहरी सिस्टम्स से एजेंट व्यवहार को अलग करने में मदद करता है, साथ ही प्रयोग को समर्थन देता है। AgentEnv की स्नैपशॉट, रिस्टोर और फोर्क सुविधाएँ तब खास उपयोगी होती हैं जब एजेंट्स अंतिम परिणाम देने से पहले कई रास्तों को तलाशना चाहते हैं।

ओपन-वेट्स का महत्व क्यों है

ओपन-वेट एक्सेस मॉडल प्रदाताओं और बिल्डर्स के बीच के रिश्ते को बदल देता है। एक बंद, होस्टेड API शक्तिशाली हो सकता है, लेकिन इंफ्रास्ट्रक्चर, होस्टिंग, डेटा फ्लो और ऑपरेशनल सीमाएँ प्रदाता के नियंत्रण में ही रहती हैं। एक ओपन-वेट मॉडल योग्य टीमों को अपने सिस्टम्स में मॉडल को डिप्लॉय, अनुकूलित, ऑप्टिमाइज़ और इंटीग्रेट करने के लिए अधिक जगह देता है।

एंटरप्राइज़ के लिए सबसे बड़ा लाभ डिप्लॉयमेंट और डेटा नियंत्रण है। संवेदनशील दस्तावेज़, आंतरिक कोड, कानूनी रिकॉर्ड, ग्राहक जानकारी और वित्तीय सामग्री को निजी इंफ्रास्ट्रक्चर की आवश्यकता हो सकती है। ओपन-वेट एक्सेस ऐसे लोकल या प्राइवेट-क्लाउड डिप्लॉयमेंट का समर्थन कर सकता है जहाँ डेटा गवर्नेंस, गोपनीयता और स्वामित्व जैसी प्रमुख ज़रूरतें केंद्र में होती हैं।

डेवलपर्स के लिए, ओपन-वेट एक्सेस और गहरी तकनीकी इंटीग्रेशन सक्षम करता है। टीमें इन्फरेंस स्टैक्स को ऑप्टिमाइज़ कर सकती हैं, अनुकूलन (adaptation) तरीकों का परीक्षण कर सकती हैं, और मॉडल की ताकतों के आसपास वर्कफ़्लोज़ बना सकती हैं। Kimi K3 का MoE स्केल, 1M-टोकन कॉन्टेक्स्ट, MoonViT-V2 की विज़न क्षमता और इंफ्रास्ट्रक्चर रिलीज़ विशेषीकृत अनुप्रयोगों के लिए एक आधार तैयार करते हैं।

ओपन-सोर्स से अलग होने का बिंदु अभी भी आवश्यक है। ओपन-वेट्स अपने आप प्रशिक्षण डेटा, सोर्स पाइपलाइन या पूरी पुनरुत्पादन (reproduction) रेसिपी उपलब्ध नहीं कराते। हालांकि, यह फिर भी उन टीमों के लिए व्यावहारिक बाधाएँ कम कर सकता है जिन्हें मॉडल एक्सेस, निजी डिप्लॉयमेंट या प्रदर्शन और गोपनीयता पर अधिक नियंत्रण चाहिए।

निष्कर्ष: एक मॉडल और इंफ्रास्ट्रक्चर रिलीज़

Kimi K3 ओपन डे को तीन स्तरों—मॉडल एक्सेस, तकनीकी खुलासा, और डिप्लॉयमेंट इंफ्रास्ट्रक्चर—के बीच एक समन्वित रिलीज़ के रूप में समझना सबसे बेहतर है। 2.8 ट्रिलियन-पैरामीटर MoE मॉडल घोषणा का केंद्र है, लेकिन तकनीकी रिपोर्ट और इंफ्रास्ट्रक्चर टूल्स इसके व्यापक महत्व को समझने के लिए निर्णायक हैं।

आधिकारिक स्पेसिफिकेशन्स काफी व्यापक हैं: 2.8T कुल पैरामीटर्स, प्रति टोकन 16 सक्रियण के साथ 896 एक्सपर्ट्स, 1M-टोकन कॉन्टेक्स्ट विंडो, 3:1 अनुपात में KDA + AttnRes, MoonViT-V2, और रिपोर्टेड 2.5x स्केलिंग दक्षता में सुधार। MoonEP, FlashKDA और AgentEnv यह भी दिखाते हैं कि Moonshot AI बड़े ओपन-वेट मॉडल्स को प्रभावी ढंग से संचालित करने के लिए जरूरी सिस्टम्स को भी संबोधित कर रहा है।

Kimi K3 को पूरी तरह ओपन-सोर्स के रूप में वर्णित नहीं किया गया है; यह ओपन-वेट है। फिर भी, वेट्स, तकनीकी विवरण और सहायक इंफ्रास्ट्रक्चर को रिलीज़ करके Moonshot AI ने Kimi K3 को बड़े पैमाने पर ओपन-वेट AI विकास में एक महत्वपूर्ण घटना बना दिया।

अक्सर पूछे जाने वाले प्रश्न (FAQ)

प्र: Kimi K3 क्या है?

उ: Kimi K3, Moonshot AI की ओर से 2.8 ट्रिलियन-पैरामीटर ओपन-वेट Mixture of Experts (MoE) AI मॉडल है, जिसकी घोषणा 27 जुलाई 2026 को Kimi K3 ओपन डे पर की गई।

प्र: ओपन-वेट का क्या मतलब है?

उ: ओपन-वेट का मतलब है कि प्रशिक्षित मॉडल के वेट्स को परिभाषित लाइसेंसिंग शर्तों के तहत एक्सेस किया जा सकता है। यह ओपन-सोर्स से अलग है, जो आम तौर पर सोर्स कोड, डेटा और पुनरुत्पादन (reproduction) पाइपलाइनों तक व्यापक पहुंच का संकेत देता है।

प्र: Kimi K3 के साथ कौन-सी Infra तकनीकें रिलीज़ की गईं?

उ: Moonshot AI ने MoonEP, FlashKDA, और AgentEnv रिलीज़ किए। MoonEP MoE कम्युनिकेशन को सपोर्ट करता है, FlashKDA KDA अटेंशन को तेज़ करता है, और AgentEnv AI एजेंट्स के लिए एक सैंडबॉक्स सिस्टम उपलब्ध कराता है।

प्र: Kimi K3 की सबसे महत्वपूर्ण स्पेसिफिकेशन्स क्या हैं?

A: Kimi K3 में कुल 2.8T पैरामीटर हैं, 896 एक्सपर्ट्स हैं जिनमें प्रति टोकन 16 सक्रिय होते हैं, 1M-टोकन कॉन्टेक्स्ट विंडो है, KDA + AttnRes का 3:1 अनुपात है, MoonViT-V2 है, और 2.5x स्केलिंग एफिशिएंसी में सुधार है।

इस Kimi K3 विश्लेषण को Pi के साथ एक पॉलिश्ड PPT में बदलें, ताकि जटिल AI विकास स्पष्ट और प्रस्तुत करने में आसान हो जाएं।