Kimi K3 Open Day: 2.8조 파라미터, 이제 오픈 웨이트 공개
2026년 7월 27일, Moonshot AI는 Kimi K3 오픈데이를 개최하고 세 가지 연결된 공개를 발표했습니다. 즉, Kimi K3 모델 가중치, 공식 기술 공지, 그리고 세 가지 인프라 기술입니다. MoonEP, FlashKDA, AgentEnv. 이번 행사는 Kimi K3를 단지 새로운 대규모 모델로만이 아니라, 모델 접근, 아키텍처, 배포 인프라를 아우르는 공개로 포지셔닝했습니다.
핵심 사양은 명확합니다. Kimi K3는 2.8조 파라미터 규모의 오픈 웨이트 모델이며, Mixture of Experts (MoE) 아키텍처를 기반으로 구축됐습니다. Moonshot AI는 896개 전문가, 토큰당 16개 전문가가 활성화, 1M 토큰 컨텍스트 윈도우, 3:1 비율의 KDA + AttnRes, MoonViT-V2, 그리고 보고된 2.5배 스케일링 효율 향상 등 주요 기술 세부 정보를 공개했습니다.
오픈 웨이트라는 용어는 중요합니다. 오픈 웨이트란 학습된 모델 가중치가 정의된 조건에 따라 제공된다는 의미입니다. 이는 보통 더 넓은 범위의 소스 코드, 학습 데이터, 툴링, 재현 파이프라인에 대한 접근을 포함하는 경우가 많은, 모델이 완전히 오픈 소스라는 뜻은 아닙니다. 그럼에도 오픈 웨이트 접근은 개발자와 조직이 주요 AI 모델을 배포하고, 점검하며, 그 주위를 구축하는 방식을 바꿀 수 있습니다.

Moonshot AI는 이 접근 방식의 가치를 다음과 같이 요약했습니다. “오픈 웨이트 모델은… 지능에 대한 접근 장벽을 낮추고, 혁신을 촉진하며, 사용자에게 데이터, 프라이버시, 소유권에 대한 더 큰 통제권을 제공합니다.”
오픈데이 이벤트: 세 가지 핵심 공개
Kimi K3 오픈데이는 세 가지 공개 카테고스를 중심으로 진행됐습니다.
첫째, Moonshot AI는 Kimi K3 모델 가중치를 공개했습니다. 이는 핵심 오픈 웨이트 공지입니다. 빌더들에게 가중치에 대한 접근은 호스팅 전용 API만 사용하는 것보다 더 유연한 배포를 가능하게 할 수 있는데, 특히 팀이 인프라, 지연 시간, 프라이버시 또는 데이터 거주 요건에 대한 통제권이 필요할 때 그렇습니다.
둘째, Moonshot AI는 Kimi K3 기술 보고서를 공개했습니다. 이는 중요합니다. 대규모 모델의 공지는 파라미터 수만으로는 평가할 수 없기 때문입니다. 아키텍처, 라우팅 전략, 장문 컨텍스트 설계, 멀티모달 기능, 효율성 주장 여부가 실제로 모델을 유용하게 만드는지를 결정합니다.
셋째, Moonshot AI는 MoonEP, FlashKDA, AgentEnv를 공개했습니다. 이러한 인프라 기술은 전문가 간 통신, 어텐션 성능, 그리고 에이전트 실행을 목표로 합니다. 이번 포함은 Kimi K3 오픈데이가 단지 모델 공개에 그치지 않았고, 매우 대규모 오픈 웨이트 모델을 더 효과적으로 활용하기 위한 인프라 공개이기도 했음을 보여줍니다.
모델: 핵심 사양
Kimi K3는 2.8조 파라미터 MoE 모델입니다. Mixture of Experts 아키텍처에서는 각 토큰에 대해 모델의 일부만 활성화됩니다. 라우터가 전문가들 중 일부를 선택해, 유사한 크기의 밀집(dense) 모델보다 더 적은 활성 연산으로도 매우 큰 총 용량을 결합할 수 있게 합니다.
Moonshot AI에 따르면 Kimi K3에는 896개 전문가가 있으며, 토큰당 16개 전문가가 활성화됩니다. 이 설계는 모델의 효율성 프로파일의 핵심입니다. 추론(inference) 시 선택적 활성화를 사용하면서도 모델이 방대한 전체 용량을 보유할 수 있게 해줍니다.
| 사양 | Kimi K3 공식 상세 |
|---|---|
| 총 파라미터 | 2.8조 |
| 아키텍처 | Mixture of Experts (MoE) |
| 전문가 배분 | 토큰당 16개 활성화 / 896명의 전문가 |
| 컨텍스트 창 | 1M 토큰 |
| 어텐션 설계 | 3:1 비율의 KDA + AttnRes |
| 비전 아키텍처 | MoonViT-V2 |
| 스케일링 효율 | 2.5배 개선 |
1M-토큰 컨텍스트 창은 가장 실용적인 사양 중 하나입니다. 긴 컨텍스트는 전체 문서 분석, 대규모 코드베이스 검토, 다중 파일 추론, 법률 또는 재무 문서 워크플로, 그리고 모든 입력을 작은 조각으로 쪼개지 않고도 더 긴 에이전트 작업을 지원할 수 있습니다.
Kimi K3 역시 3:1 비율의 KDA + AttnRes를 사용하며, 긴 컨텍스트 전략과 연동된 하이브리드 어텐션 설계입니다. 이 모델의 비전 아키텍처로 MoonViT-V2가 포함되어 있어, 텍스트 전용 시스템이 아니라 네이티브 멀티모달 역량을 시사합니다. Moonshot AI는 또한 2.5배 스케일링 효율 향상을 보고했는데, 이는 Kimi K3가 단순히 스케일을 위한 것뿐 아니라 더 실용적인 학습 및 추론 경제성까지 고려해 설계되었음을 의미합니다.
인프라 릴리스: MoonEP, FlashKDA, AgentEnv.
오픈 웨이트 모델은 여전히 그 주변에 강력한 시스템이 필요합니다. 대형 MoE 모델은 효율적인 통신, 빠른 어텐션 커널, 그리고 안전한 실행 환경에 의존합니다. Moonshot AI의 인프라 릴리스는 이러한 요구를 직접적으로 해결합니다.
MoonEP: MoE 전문가(Expert) 통신
MoonEP는 MoE 전문가 병렬화를 위한 통신 라이브러리입니다. MoE 시스템에서는 토큰이 서로 다른 전문가로 라우팅되며, 그 전문가들은 여러 장치에 분산될 수 있습니다. 이로 인해 통신상의 문제가 발생해 처리량을 제한하고 지연 시간을 증가시킬 수 있습니다.
Kimi K3의 경우 896명의 전문가와 토큰당 16개 활성화가 적용되므로, 전문가 라우팅은 주요한 시스템 과제입니다. MoonEP는 분산된 전문가 통신을 개선하고, 대규모 MoE 배치에서의 병목을 줄이도록 설계되었습니다.
FlashKDA: 더 빠른 장기(롱) 컨텍스트 어텐션
FlashKDA는 KDA를 위해 최적화된 어텐션 커널입니다. 프리필(prefill) 계산이 비싸질 수 있는 장기 컨텍스트 워크로드에서 그 역할은 특히 중요합니다. Moonshot AI는 FlashKDA가 Nvidia H20 GPU에서 프리필 성능을 대상으로, flash-linear-attention 기준선과 비교해 1.72배~2.22배 속도 향상을 제공한다고 보고했습니다.
이는 1M-토큰 컨텍스트 창이 효율적으로 제공될 수 있어야만 의미가 있기 때문입니다. 더 빠른 어텐션 커널은 장문 문서 분석, 코드 리뷰, 연구 워크플로, 그리고 다단계 추론을 프로덕션 환경에서 더 실용적으로 만들 수 있습니다.
AgentEnv:AI 代理的沙盒环境
AgentEnv 是与 KVCache.ai 联合共同开发的代理沙盒系统。它为需要执行步骤、测试操作、分叉状态、还原先前状态或运行并行分支的代理提供隔离的沙盒环境。
代理工作流往往不止涉及文本生成。它们可能使用文件、工具、代码执行以及多步骤决策。沙盒有助于将代理行为与外部系统隔离开,同时支持探索与实验。当代理需要在产出最终结果之前探索多条路径时,AgentEnv 的快照、还原与分叉功能非常有用。
为什么开权重很重要
开权重的访问方式改变了模型提供方与构建者之间的关系。封闭的托管 API 可能很强大,但基础设施、托管、数据流以及运营限制仍由提供方掌控。开权重模型让具备资质的团队有更多空间去部署、适配、优化,并将模型集成到他们自己的系统中。
对企业而言,最大的优势是部署与数据控制。敏感文档、内部代码、法律记录、客户信息以及金融资料可能需要私有基础设施。开权重访问可支持本地或私有云部署,使数据治理、隐私与所有权成为核心要求。
对开发者而言,开权重访问使更深度的技术集成成为可能。团队可以优化推理栈,测试适配方法,并围绕模型的优势构建工作流。Kimi K3 的 MoE 规模、1M-token 上下文能力、MoonViT-V2 的视觉能力,以及基础设施发布,为专门化应用奠定了基础。
与开源之间的差异仍然至关重要。开权重并不会自动提供训练数据、源代码流水线或完整的复现方案。然而,它仍能降低那些需要模型访问、私有部署或更强性能与隐私控制的团队的实际门槛。
结论:模型与基础设施发布
Kimi K3 Open Day 最好理解为在三个层面上的协同发布:模型访问、技术披露以及部署基础设施。2.8 万亿参数的 MoE 模型是公告的核心,但技术报告与基础设施工具对于理解其更广泛的意义至关重要。
官方规格非常扎实:总参数 2.8T、每个 token 激活 16 个的 896 位专家、1M-token 上下文窗口、3:1 比例下的 KDA + AttnRes、MoonViT-V2,以及据称2.5 倍的扩展效率提升。MoonEP、FlashKDA 和 AgentEnv 表明 Moonshot AI 也在着手解决有效运行大型开权重模型所需的系统能力。
Kimi K3 并未被描述为完全开源;它是开权重。即便如此,通过发布权重、技术细节以及配套基础设施,Moonshot AI 仍让 Kimi K3 成为大规模开权重 AI 开发领域的一件重要事件。
常见问题(FAQ)
问:Kimi K3 是什么?
答:Kimi K3 是来自 Moonshot AI 的 2.8 万亿参数开权重专家混合(Mixture of Experts)AI 模型,于 2026 年 7 月 27 日在 Kimi K3 Open Day 上宣布。
问:开权重是什么意思?
答:开权重意味着训练好的模型权重可在特定许可条款下获取。它不同于开源,开源通常意味着对源代码、数据和复现流水线的更广泛访问。
问:Kimi K3 发布了哪些基础设施技术?
答:Moonshot AI 发布了 MoonEP、FlashKDA 和 AgentEnv。MoonEP 支持 MoE 通信,FlashKDA 加速 KDA 注意力,而 AgentEnv 为 AI 代理提供了沙盒系统。
问:Kimi K3 最重要的规格是什么?
A: Kimi K3 总计 2.8T 参数,896 位专家,每个 token 激活 16 位,1M-token 上下文窗口,KDA + AttnRes 按 3:1 比例,MoonViT-V2,以及 2.5x 的缩放效率提升。


