Ngày hội mở Kimi K3: 2,8 nghìn tỷ tham số, nay mở trọng số

Vào ngày 27 tháng 7 năm 2026, Moonshot AI đã tổ chức Kimi K3 Open Day và công bố ba bản phát hành liên kết: trọng số mô hình Kimi K3, thông báo kỹ thuậtchính thức và ba công nghệ hạ tầng: MoonEP, FlashKDA, và AgentEnv. Sự kiện định vị Kimi K3 không chỉ là một mô hình quy mô lớn mới mà còn là một bản phát hành bao gồm quyền truy cập mô hình, kiến trúc và hạ tầng triển khai.

Thông số nổi bật rất rõ ràng: Kimi K3 là một mô hình trọng số mở với 2,8 nghìn tỷ tham số được xây dựng trên kiến trúc Hỗn hợp Chuyên gia (MoE). Moonshot AI đã công bố các chi tiết kỹ thuật quan trọng, bao gồm 896 chuyên gia, 16 chuyên gia được kích hoạt cho mỗi token, cửa sổ ngữ cảnh 1M token, KDA + AttnRes theo tỷ lệ 3:1, MoonViT-V2, và mức cải thiện hiệu quả mở rộng 2,5 lầnđược báo cáo.

Thuật ngữ trọng số mở rất quan trọng. Trọng số mở nghĩa là các trọng số mô hình đã được huấn luyện được cung cấp theo các điều khoản xác định. Điều này không tự động có nghĩa là mô hình hoàn toàn mã nguồn mở, vốn thường hàm ý quyền truy cập rộng hơn vào mã nguồn, dữ liệu huấn luyện, công cụ và các quy trình tái tạo. Tuy vậy, quyền truy cập trọng số mở có thể thay đổi cách các nhà phát triển và tổ chức triển khai, kiểm tra và xây dựng dựa trên một mô hình AI lớn.

Moonshot AI đã tóm tắt giá trị của phương pháp này khi nói rằng “các mô hình trọng số mở... hạ thấp rào cản tiếp cận trí tuệ, thúc đẩy đổi mới và trao cho người dùng quyền kiểm soát lớn hơn đối với dữ liệu, quyền riêng tư và quyền sở hữu.”

Sự kiện Open Day: Ba bản phát hành cốt lõi

Kimi K3 Open Day tập trung vào ba nhóm bản phát hành.

Đầu tiên, Moonshot AI đã phát hành trọng số mô hình Kimi K3. Đây là thông báo cốt lõi về trọng số mở. Đối với những người xây dựng, quyền truy cập vào trọng số có thể cho phép triển khai linh hoạt hơn so với API chỉ được lưu trữ, đặc biệt khi các nhóm cần kiểm soát hạ tầng, độ trễ, quyền riêng tư hoặc nơi lưu trữ dữ liệu.

Thứ hai, Moonshot AI đã công bố báo cáo kỹ thuật Kimi K3. Điều này quan trọng vì các thông báo về mô hình lớn không thể được đánh giá chỉ bằng số lượng tham số. Kiến trúc, chiến lược định tuyến, thiết kế ngữ cảnh dài, năng lực đa phương thức và các tuyên bố về hiệu quả quyết định liệu một mô hình có hữu ích trên thực tế hay không.

Thứ ba, Moonshot AI đã phát hành MoonEP, FlashKDA, và AgentEnv. Các công nghệ hạ tầng này nhắm đến giao tiếp giữa các chuyên gia, hiệu năng chú ý và việc thực thi tác tử. Việc đưa chúng vào cho thấy Kimi K3 Open Day không chỉ là một bản phát hành mô hình; đó còn là một bản phát hành hạ tầng nhằm sử dụng các mô hình trọng số mở rất lớn hiệu quả hơn.

Mô hình: Thông số chính

Kimi K3 là một mô hình MoE 2,8 nghìn tỷ tham số. Trong kiến trúc Hỗn hợp Chuyên gia, chỉ một phần của mô hình được kích hoạt cho mỗi token. Một bộ định tuyến chọn một tập con các chuyên gia, cho phép hệ thống kết hợp tổng năng lực rất lớn với lượng tính toán hoạt động thấp hơn so với mô hình đặc có kích thước tương tự.

Theo Moonshot AI, Kimi K3 có 896 chuyên gia, với 16 chuyên gia được kích hoạt mỗi token. Thiết kế này là trọng tâm của đặc tính hiệu quả của mô hình. Nó cho phép mô hình duy trì năng lực tổng thể khổng lồ trong khi sử dụng kích hoạt có chọn lọc trong quá trình suy luận.

Cửa sổ ngữ cảnh 1M token là một trong những thông số thực tế nhất. Ngữ cảnh dài có thể hỗ trợ phân tích toàn bộ tài liệu, rà soát kho mã lớn, suy luận trên nhiều tệp, quy trình xử lý tài liệu pháp lý hoặc tài chính, và các tác vụ tác tử dài hơn mà không buộc mọi đầu vào phải chia thành các mảnh nhỏ.

Kimi K3 cũng sử dụng KDA + AttnRes theo tỷ lệ 3:1, một thiết kế cơ chế chú ý lai gắn liền với chiến lược ngữ cảnh dài của nó. Mô hình bao gồm MoonViT-V2 làm kiến trúc thị giác, cho thấy khả năng đa phương thức nguyên bản thay vì một hệ thống chỉ thuần văn bản. Moonshot AI cũng báo cáo cải thiện hiệu quả mở rộng quy mô 2,5x, cho thấy Kimi K3 được thiết kế không chỉ để mở rộng quy mô mà còn để có tính kinh tế thực tế hơn trong huấn luyện và suy luận.

Bản phát hành hạ tầng: MoonEP, FlashKDA, và AgentEnv.

Các mô hình trọng số mở vẫn cần các hệ thống mạnh mẽ xung quanh chúng. Các mô hình MoE lớn phụ thuộc vào giao tiếp hiệu quả, các kernel chú ý nhanh, và môi trường thực thi an toàn. Bản phát hành hạ tầng của Moonshot AI trực tiếp giải quyết những nhu cầu này.

MoonEP: Giao tiếp chuyên gia MoE

MoonEP là một thư viện giao tiếp cho tính song song chuyên gia MoE. Trong các hệ thống MoE, token được định tuyến đến các chuyên gia khác nhau, và các chuyên gia đó có thể được phân phối trên nhiều thiết bị. Điều này tạo ra các thách thức về giao tiếp có thể hạn chế thông lượng và tăng độ trễ.

Đối với Kimi K3, với 896 chuyên gia và 16 chuyên gia được kích hoạt mỗi token, định tuyến chuyên gia là một vấn đề hệ thống lớn. MoonEP được thiết kế để cải thiện giao tiếp chuyên gia phân tán và giảm các điểm nghẽn trong việc triển khai MoE quy mô lớn.

FlashKDA: Cơ chế chú ý ngữ cảnh dài nhanh hơn

FlashKDA là một kernel chú ý được tối ưu hóa cho KDA. Vai trò của nó đặc biệt quan trọng đối với các tác vụ ngữ cảnh dài, nơi tính toán nạp trước có thể trở nên tốn kém. Moonshot AI báo cáo rằng FlashKDA mang lại tăng tốc từ 1,72x đến 2,22x về hiệu năng nạp trước trên GPU Nvidia H20 so với các đường cơ sở flash-linear-attention.

Điều này quan trọng vì cửa sổ ngữ cảnh 1M token chỉ hữu ích nếu có thể được phục vụ hiệu quả. Các kernel chú ý nhanh hơn có thể giúp việc phân tích tài liệu dài, rà soát mã, quy trình nghiên cứu và suy luận nhiều bước trở nên thực tế hơn trong môi trường sản xuất.

AgentEnv: Hộp cát dành cho các Tác tử AI

AgentEnv là một hệ thống hộp cát tác tử được đồng phát triển cùng KVCache.ai. Hệ thống này cung cấp một môi trường hộp cát cô lập cho các tác tử cần thực thi các bước, thử nghiệm hành động, phân nhánh trạng thái, khôi phục trạng thái trước đó hoặc chạy các nhánh song song.

Quy trình làm việc của tác tử thường bao gồm nhiều hơn việc tạo văn bản. Chúng có thể sử dụng tệp, công cụ, thực thi mã và đưa ra quyết định nhiều bước. Hộp cát giúp tách biệt hành vi của tác tử khỏi các hệ thống bên ngoài, đồng thời hỗ trợ thử nghiệm. Các tính năng chụp nhanh, khôi phục và phân nhánh của AgentEnv hữu ích khi tác tử cần khám phá nhiều hướng trước khi tạo ra kết quả cuối cùng.

Vì sao trọng số mở quan trọng

Quyền truy cập trọng số mở thay đổi mối quan hệ giữa nhà cung cấp mô hình và người xây dựng. Một API được lưu trữ khép kín có thể mạnh mẽ, nhưng cơ sở hạ tầng, việc lưu trữ, luồng dữ liệu và các giới hạn vận hành vẫn do nhà cung cấp kiểm soát. Mô hình trọng số mở mang lại cho các đội ngũ đủ năng lực nhiều không gian hơn để triển khai, điều chỉnh, tối ưu hóa và tích hợp mô hình vào hệ thống của riêng họ.

Đối với doanh nghiệp, lợi thế lớn nhất là kiểm soát việc triển khai và dữ liệu. Tài liệu nhạy cảm, mã nội bộ, hồ sơ pháp lý, thông tin khách hàng và tài liệu tài chính có thể yêu cầu hạ tầng riêng tư. Quyền truy cập trọng số mở có thể hỗ trợ triển khai cục bộ hoặc trên đám mây riêng, nơi quản trị dữ liệu, quyền riêng tư và quyền sở hữu là những yêu cầu trọng tâm.

Đối với nhà phát triển, quyền truy cập trọng số mở cho phép tích hợp kỹ thuật sâu hơn. Các nhóm có thể tối ưu hóa ngăn xếp suy luận, thử nghiệm các phương pháp thích ứng và xây dựng quy trình làm việc xoay quanh các thế mạnh của mô hình. Quy mô MoE, ngữ cảnh 1M token, năng lực thị giác MoonViT-V2 và các bản phát hành hạ tầng của Kimi K3 tạo nền tảng cho các ứng dụng chuyên biệt.

Sự khác biệt với mã nguồn mở vẫn rất quan trọng. Trọng số mở không tự động cung cấp dữ liệu huấn luyện, quy trình nguồn hoặc công thức tái tạo đầy đủ. Tuy nhiên, nó vẫn có thể giảm các rào cản thực tế cho những nhóm cần truy cập mô hình, triển khai riêng tư hoặc kiểm soát nhiều hơn về hiệu năng và quyền riêng tư.

Kết luận: Một bản phát hành về mô hình và hạ tầng

Kimi K3 Open Day nên được hiểu đúng nhất là một bản phát hành phối hợp trên ba lớp: quyền truy cập mô hình, công bố kỹ thuật, và hạ tầng triển khai. Mô hình MoE 2,8 nghìn tỷ tham số là trọng tâm của thông báo, nhưng báo cáo kỹ thuật và các công cụ hạ tầng đóng vai trò then chốt để hiểu ý nghĩa rộng lớn hơn của nó.

Các thông số kỹ thuật chính thức rất đáng kể: 2,8T tổng số tham số, 896 chuyên gia với 16 chuyên gia được kích hoạt cho mỗi token, cửa sổ ngữ cảnh 1M token, KDA + AttnRes theo tỷ lệ 3:1, MoonViT-V2, và mức cải thiện hiệu quả mở rộng được báo cáo là 2,5 lần. MoonEP, FlashKDA và AgentEnv cho thấy Moonshot AI cũng đang giải quyết các hệ thống cần thiết để vận hành hiệu quả các mô hình trọng số mở lớn.

Kimi K3 không được mô tả là hoàn toàn mã nguồn mở; đây là mô hình trọng số mở. Dù vậy, bằng việc phát hành trọng số, chi tiết kỹ thuật và hạ tầng hỗ trợ, Moonshot AI đã biến Kimi K3 thành một sự kiện quan trọng trong quá trình phát triển AI trọng số mở quy mô lớn.

Các câu hỏi thường gặp (FAQ)

H: Kimi K3 là gì?

Đ: Kimi K3 là mô hình AI Mixture of Experts trọng số mở với 2,8 nghìn tỷ tham số của Moonshot AI, được công bố tại Kimi K3 Open Day vào ngày 27 tháng 7 năm 2026.

H: Trọng số mở có nghĩa là gì?

Đ: Trọng số mở nghĩa là các trọng số mô hình đã được huấn luyện có thể truy cập theo các điều khoản cấp phép xác định. Nó khác với mã nguồn mở, vốn thường ngụ ý quyền truy cập rộng hơn vào mã nguồn, dữ liệu và quy trình tái tạo.

H: Những công nghệ hạ tầng nào được phát hành cùng Kimi K3?

Đ: Moonshot AI đã phát hành MoonEP, FlashKDA, và AgentEnv. MoonEP hỗ trợ giao tiếp MoE, FlashKDA tăng tốc sự chú ý KDA và AgentEnv cung cấp hệ thống hộp cát cho các tác tử AI.

H: Những thông số quan trọng nhất của Kimi K3 là gì?

Đ: Kimi K3 có 2,8T tổng số tham số, 896 chuyên gia với 16 chuyên gia được kích hoạt cho mỗi token, cửa sổ ngữ cảnh 1M token, KDA + AttnRes theo tỷ lệ 3:1, MoonViT-V2 và mức cải thiện hiệu quả mở rộng 2,5 lần.

Hãy biến bài phân tích Kimi K3 này thành một bản PPT trau chuốt với Pi, giúp các phát triển AI phức tạp trở nên rõ ràng và dễ trình bày.