Moonshot AI опубликовала веса модели Kimi-K3 — крупнейшую открытую ИИ-модель с 2,8 трлн параметров
Китайская компания Moonshot AI 28 июля 2026 года выполнила обещание и бесплатно опубликовала веса своей нашумевшей модели искусственного интеллекта Kimi-K3. Теперь любой обладатель достаточно мощных вычислительных ресурсов может запустить её на собственном оборудовании. Модель считается самой крупной открытой языковой моделью на сегодняшний день и демонстрирует производительность, близкую к передовым коммерческим решениям от OpenAI и Anthropic, при этом оставаясь значительно более доступной в эксплуатации.
Технические характеристики и архитектура
Kimi-K3 насчитывает 2,8 триллиона параметров, однако благодаря архитектуре Mixture-of-Experts (MoE) при обработке каждого токена одновременно активны лишь 104,2 миллиарда параметров. Всего в модели задействовано 896 «экспертов», из которых одновременно работает только 16. Такой подход позволяет существенно снизить вычислительные затраты на инференс.
Модель поддерживает контекстное окно до 1 миллиона токенов и нативно работает с изображениями и видео. Для хранения весов используется формат чисел MXFP4, а для активации входных данных — MXFP8. В обоих случаях применяется относительно низкая точность, что помогает экономить видеопамять.
Инновации в механизме внимания
Одной из ключевых особенностей Kimi-K3 является отказ от традиционного хранилища key-value (KV). Вместо него предлагается обработчик состояний фиксированного размера Kimi Delta Attention, который в теории обещает экономию видеопамяти и сокращение времени выполнения. Данный механизм кеширования обеспечивает попадание на 90 % для задач на написание кода, что критически снижает стоимость повторных запросов.
Производительность и бенчмарки
На практике подтвердилось, что Kimi-K3 значительно превосходит модели OpenAI GPT и Anthropic Claude предыдущих поколений и лишь немного уступает передовым решениям — GPT-5.6 Sol и Anthropic Fable 5. В отдельных тестах модель показывает результаты на уровне этих лидеров рынка.
Экономическая эффективность
Главным конкурентным преимуществом новой модели является стоимость эксплуатации. За ввод данных на своих ресурсах Moonshot AI взимает $3 за 1 млн токенов. Для сравнения:
- Anthropic Fable — $10 за 1 млн токенов
- OpenAI GPT-5.6 Sol — $5 за 1 млн токенов
При попадании запроса в кеш (90 % для задач кодирования) стоимость ввода для Kimi-K3 снижается до $0,30 за 1 млн токенов, что делает её в 10 раз дешевле американских аналогов в кэшируемых сценариях. Аналогичная ситуация наблюдается и с выходными токенами. Общая экономичность эксплуатации китайской модели составляет 2–3 раза дешевле американских конкурентов.
Оптимизация под доступное оборудование
Интересным деталью является то, что в документации упоминается работа модели на относительно скромных ускорителях Nvidia H20. Эти чипы не имеют встроенной поддержки MX с плавающей запятой, в отличие от семейства Blackwell, которые не поставляются в Китай. Это означает, что Kimi-K3 изначально оптимизирована для работы на менее мощном и более доступном оборудовании. Запуск на передовых ускорителях Nvidia Blackwell или других чипах с поддержкой MXFP может сделать её ещё более экономичной, однако официальными данными это пока не подтверждено.
Требования к железу и доступность
Для полноценного развертывания Kimi-K3 требуется инференс-сервер класса DGX B300 или аналогичная система с 2 ТБ видеопамяти. Веса модели уже доступны на платформе Hugging Face, а технический отчёт опубликован на GitHub.
Обычные пользователи могут попробовать возможности модели без развертывания собственной инфраструктуры — через чат на официальном сайте, в сервисах Kimi Work, Kimi Code и по API.
Открытые веса — не открытый исходный код
Важно отметить: публикация весов не означает раскрытия исходного кода. Процесс обучения и состав обучающего набора данных Moonshot AI держит в секрете. Модель распространяется под специальной лицензией Kimi K3 License, условия которой необходимо изучить перед коммерческим использованием.