Moonshot AI опубликовала полные веса Kimi K3 на Hugging Face в 13:31 UTC 27 июля, через одиннадцать дней после того, как модель вышла как hosted API. История коммитов репозитория показывает, что первоначальная загрузка произошла именно в этот момент; пять последующих коммитов — это правки README. При 2,8 трлн параметров это самый большой набор весов модели, когда-либо выложенный в открытый доступ для скачивания.
Что было опубликовано
В model card описана архитектура mixture-of-experts: 2,8 трлн общих параметров, из которых 104 млрд активируются на токен, выбранных из 896 экспертов — 16 routed и 2 shared — в 93 слоях. Длина контекста составляет 1 048 576 токенов. Веса поставляются в MXFP4 с активациями MXFP8, полученными с помощью quantisation-aware training, а общий объем репозитория составляет примерно 1,56 ТБ. За зрение отвечает энкодер MoonViT-V2 на 401 млн параметров. Среди самозаявленных результатов в карточке — GPQA Diamond 93,5, Terminal-Bench 2.1 88,3, BrowseComp 91,2 и DeepSWE 67,5.
Сюжет — в лицензии
Издание за изданием описывали условия как «модифицированную MIT-лицензию». Файл LICENSE в репозитории не является MIT и не представляет собой его модификацию. Это специальная Kimi K3 License — Hugging Face помечает ее как license: other — и в ней предусмотрены два коммерческих ограничения. Любой лицензиат, ведущий model-as-a-service бизнес, чья совокупная выручка превышает $20 million за любые последовательные 12 месяцев, должен подписать отдельное соглашение с Moonshot, прежде чем использовать модель в коммерческих целях. Любой продукт, построенный на ее основе и имеющий более 100 million ежемесячных активных пользователей или более $20 million ежемесячной выручки, должен заметно отображать «Kimi K3» в пользовательском интерфейсе. Внутреннее использование и доступ через собственные продукты Moonshot освобождаются от этих требований.
Открытые веса, не open source
Тренировочные данные и код обучения не включены, поэтому это релиз с открытыми весами, а не open-source-релиз — различие здесь важнее обычного, потому что условия точно настроены так, чтобы студенты, стартапы и исследователи могли свободно использовать модель, но крупный конкурент не мог перепродавать ее. Лояльность условий реальна. Но она и точечная.
День, когда она вышла
По времени это было вовсе не тихо. За четыре часа до загрузки Nvidia запустила альянс, утверждая, что открытые frontier-модели необходимы для киберобороны, и в нем не было ни одной закрытой model lab. Через пять часов после этого генеральный директор Anthropic опубликовал заявление, в котором отрицал, что его компания когда-либо добивалась запрета на открытые веса. В Вашингтоне активно обсуждают, не стоит ли ограничить китайские открытые модели; крупнейшая из них теперь существует публично, и к ней прикреплена китайская лицензия.
