Skip to content
Moonshot AI опубликовала веса Kimi K3 — самой мощной открытой ИИ-модели с 2,8 трлн параметров
28 июля 17:14 1 Просмотров Новости

Moonshot AI опубликовала веса Kimi K3 — самой мощной открытой ИИ-модели с 2,8 трлн параметров

Революция в открытом ИИ

Moonshot AI опубликовала полные веса модели Kimi K3, позиционируя её как самую мощную открытую (open-weights) ИИ-модель на сегодняшний день. Модель доступна на платформе Hugging Face под собственной лицензией Kimi K3 License. Kimi K3 модель Moonshot AI

Технические характеристики

Kimi K3 имеет 2,8 трлн параметров общей сложности, при этом на обработку каждого токена задействуется около 104 млрд параметров. Модель построена на архитектуре Mixture-of-Experts (MoE), где из 896 экспертов одновременно активируются только 16 для обработки токена. Это позволяет существенно экономить вычислительные ресурсы при сохранении высокой производительности. Архитектура Mixture-of-Experts Kimi K3

Разработчики внедрили собственную архитектуру внимания Kimi Delta Attention в сочетании с Attention Residuals, которую они называют источником примерно 2,5-кратного прироста эффективности масштабирования по сравнению с предыдущей моделью Kimi K2.

Мультимодальность и контекст

Модель поддерживает контекстное окно до 1 млн токенов и обеспечивает нативную работу с изображениями и видео благодаря визуальному энкодеру MoonViT-V2. В независимых бенчмарках Kimi K3 показывает результаты на уровне флагманов конкурентов: 93,5 балла в GPQA Diamond (у GPT-5.6 Sol — 94,1, у Claude Opus 4.8 — 91) и 88,3 балла в Terminal-Bench 2.1 против 88,8 у GPT-5.6 Sol.

Требования и доступность

Для локального запуска полной версии Kimi K3 требуется сервер DGX B300 или аналогичная система с 2 ТБ видеопамяти. По оценкам сторонних разработчиков, полная версия модели весит около 1,4 ТБ, а для инференса в базовой точности нужно порядка восьми ускорителей уровня Nvidia H100. Доступна также облегчённая квантованная версия MXFP4 — она занимает около 594 ГБ и, по словам разработчиков, идентична по качеству версии, которая используется в облачном API компании. Сервер DGX B300 для запуска Kimi K3

Лицензирование и коммерческое использование

Веса ИИ-модели опубликованы под лицензией Kimi K3 License. Компании с выручкой выше $20 мллн не могут использовать её в коммерческих целях без договора с Moonshot. Обычные пользователи могут попробовать Kimi K3 в чате на сайте, в Kimi Work, Kimi Code и по API — по $3 и $15 за миллион входных и выходных токенов соответственно.

Позиционирование на рынке

Moonshot подчёркивает, что Kimi K3 — это «первая в мире открытая модель класса 3T» с числом параметров до 3 трлн. В рейтинге исследователей Artificial Analysis на общие знания модель занимает седьмое место после GPT-5.6 Sol (high), а в тестах на программирование — десятое, уступая GPT-5.6 Sol (medium).

Также вместе с весами опубликованы высокопроизводительные ядра внимания (attention kernels) и инструменты для работы с MoE. Технический отчёт доступен на GitHub.

Поделиться

Похожие публикации