Skip to content
Moonshot AI опубликовала веса модели Kimi-K3 — крупнейшую открытую ИИ-модель с 2,8 трлн параметров
29 июля 12:57 2 Просмотров Новости

Moonshot AI опубликовала веса модели Kimi-K3 — крупнейшую открытую ИИ-модель с 2,8 трлн параметров

Китайская компания Moonshot AI 28 июля 2026 года выполнила обещание и бесплатно опубликовала веса своей нашумевшей модели искусственного интеллекта Kimi-K3. Теперь любой обладатель достаточно мощных вычислительных ресурсов может запустить её на собственном оборудовании. Модель считается самой крупной открытой языковой моделью на сегодняшний день и демонстрирует производительность, близкую к передовым коммерческим решениям от OpenAI и Anthropic, при этом оставаясь значительно более доступной в эксплуатации.

логотип Moonshot AI и модель Kimi-K3

Технические характеристики и архитектура

Kimi-K3 насчитывает 2,8 триллиона параметров, однако благодаря архитектуре Mixture-of-Experts (MoE) при обработке каждого токена одновременно активны лишь 104,2 миллиарда параметров. Всего в модели задействовано 896 «экспертов», из которых одновременно работает только 16. Такой подход позволяет существенно снизить вычислительные затраты на инференс.

Модель поддерживает контекстное окно до 1 миллиона токенов и нативно работает с изображениями и видео. Для хранения весов используется формат чисел MXFP4, а для активации входных данных — MXFP8. В обоих случаях применяется относительно низкая точность, что помогает экономить видеопамять.

схема архитектуры MoE модели Kimi-K3 с 896 экспертами

Инновации в механизме внимания

Одной из ключевых особенностей Kimi-K3 является отказ от традиционного хранилища key-value (KV). Вместо него предлагается обработчик состояний фиксированного размера Kimi Delta Attention, который в теории обещает экономию видеопамяти и сокращение времени выполнения. Данный механизм кеширования обеспечивает попадание на 90 % для задач на написание кода, что критически снижает стоимость повторных запросов.

Производительность и бенчмарки

На практике подтвердилось, что Kimi-K3 значительно превосходит модели OpenAI GPT и Anthropic Claude предыдущих поколений и лишь немного уступает передовым решениям — GPT-5.6 Sol и Anthropic Fable 5. В отдельных тестах модель показывает результаты на уровне этих лидеров рынка.

Экономическая эффективность

Главным конкурентным преимуществом новой модели является стоимость эксплуатации. За ввод данных на своих ресурсах Moonshot AI взимает $3 за 1 млн токенов. Для сравнения:

  • Anthropic Fable — $10 за 1 млн токенов
  • OpenAI GPT-5.6 Sol — $5 за 1 млн токенов

При попадании запроса в кеш (90 % для задач кодирования) стоимость ввода для Kimi-K3 снижается до $0,30 за 1 млн токенов, что делает её в 10 раз дешевле американских аналогов в кэшируемых сценариях. Аналогичная ситуация наблюдается и с выходными токенами. Общая экономичность эксплуатации китайской модели составляет 2–3 раза дешевле американских конкурентов.

сравнение стоимости токенов Kimi-K3, GPT-5.6 Sol и Anthropic Fable

Оптимизация под доступное оборудование

Интересным деталью является то, что в документации упоминается работа модели на относительно скромных ускорителях Nvidia H20. Эти чипы не имеют встроенной поддержки MX с плавающей запятой, в отличие от семейства Blackwell, которые не поставляются в Китай. Это означает, что Kimi-K3 изначально оптимизирована для работы на менее мощном и более доступном оборудовании. Запуск на передовых ускорителях Nvidia Blackwell или других чипах с поддержкой MXFP может сделать её ещё более экономичной, однако официальными данными это пока не подтверждено.

Требования к железу и доступность

Для полноценного развертывания Kimi-K3 требуется инференс-сервер класса DGX B300 или аналогичная система с 2 ТБ видеопамяти. Веса модели уже доступны на платформе Hugging Face, а технический отчёт опубликован на GitHub.

Обычные пользователи могут попробовать возможности модели без развертывания собственной инфраструктуры — через чат на официальном сайте, в сервисах Kimi Work, Kimi Code и по API.

интерфейс Kimi Work и Kimi Code для работы с моделью

Открытые веса — не открытый исходный код

Важно отметить: публикация весов не означает раскрытия исходного кода. Процесс обучения и состав обучающего набора данных Moonshot AI держит в секрете. Модель распространяется под специальной лицензией Kimi K3 License, условия которой необходимо изучить перед коммерческим использованием.

Поделиться

Похожие публикации