Kimi K3 deep dive
2,8T open-source MoE — рекорд параметров и вызов Claude / GPT (2026)

В ночь на 16 июля 2026 Moonshot AI (月之暗面) тихо повесила в API-доках строку «Kimi K3 online» — без keynote, но с релизом крупнейшей open-source модели по числу параметров (2,8T). Этот разбор для AI-разработчиков и product lead'ов, которые выбирают inference stack: specs K3 и контекст релиза, три архитектурных слоя — KDA / AttnRes / Stable LatentMoE, полная таблица benchmark'ов vs Claude Fable 5 / GPT-5.6 Sol, pricing и четыре пути доступа, матрица сценариев, open-weight plan на 27 июля, 6-step onboarding checklist и 5 FAQ.

01

Что такое Kimi K3 и почему релиз меняет расклад open-source LLM

Kimi K3 — sparse MoE от Moonshot AI на 2,8 триллиона (2,8T) параметров. Это на ~75% больше прежнего рекордсмена DeepSeek V4 Pro (1,6T), в 2,7× больше Xiaomi open model (1,02T) и более чем в 7× больше Alibaba Qwen open tier (397B). При inference активируется 16 из 896 experts (sparsity 1,8%), контекст — 1M token, плюс native vision для image/video. Целевой профиль: complex coding, long-document reasoning, knowledge work.

Кратко: open-source heavyweight с native multimodal, контекстом 1M и сильным coding profile — API дешевле Claude Opus 4.8 примерно на 40%; полные веса на Hugging Face — 27 июля 2026.

Контекст релиза: low-key deploy, high-impact signal

  1. 01

    Scale record: за последние 12 месяцев Kimi family 9 месяцев держала верхнюю границу параметров среди open weights

  2. 02

    WAIC timing: релиз накануне World AI Conference 2026 (17–20 июля) — явный strategic signal для domestic и export narrative

  3. 03

    Commercial traction: ARR > $300M к июню 2026, 6-й funding round, pre-money valuation $31,5B

  4. 04

    API-first GTM: API revenue > 70% total; overseas paid user base +400% YoY

  5. 05

    Post-DeepSeek rebound: после 18 месяцев share erosion K3 — технический counter-move, не marketing-only launch

  6. 06

    Open-weight commitment: официальный WeChat post фиксирует 27 июля — full weights на Hugging Face

02

Архитектура: KDA, AttnRes и Stable LatentMoE — не parameter vanity

K3 — не naive scale-up: относительно Kimi K2 overall scaling efficiency выросла примерно в 2,5× за счёт трёх инженерных слоёв ниже.

2.1 Kimi Delta Attention (KDA) — hybrid linear attention

Full attention на длинном контексте раздувает KV cache квадратично. KDA чередует linear и full attention в пропорции 3:1: три linear layer обрабатывают local structure (дешёвый compute), один full attention layer сохраняет global information flow. Итог: KV cache memory до −75%, decode на 1M token до 6,3× быстрее, при этом на short/long context и RL scaling baseline pure full-attention превзойден.

2.2 Attention Residuals (AttnRes) — selective retrieval по глубине

Стандартный residual path равномерно накапливает activations — ранние high-value representations размываются в deep layers. AttnRes добавляет selective retrieval: модель может напрямую подтягивать ранние layer states. Training efficiency +~25%, extra compute overhead <2%.

2.3 Stable LatentMoE — 896 experts × 16 active

КомпонентМеханизм
Quantile BalancingExpert allocation из quantile router scores — без heuristic hyperparams на load balance
Per-Head MuonPer-attention-head optimizer state — адаптивнее на large-scale pretrain
SiTU (Sigmoid Tanh Unit)Улучшенный activation control в MoE routing path
Gated MLAВыше attention selectivity при сжатом KV representation
warning

Caveat: benchmark'и ниже — self-reported Moonshot AI. Разные harness'ы (K3 — Kimi Code, GPT — Codex, Claude — Claude Code); independent third-party reproduction ещё в процессе.

03

Benchmark'и: Kimi K3 vs Claude Fable 5 vs GPT-5.6 Sol

BenchmarkKimi K3Claude Fable 5GPT-5.6 SolClaude Opus 4.8GLM-5.2
DeepSWE67.570.073.059.046.2
Program Bench77.876.877.671.963.7
Terminal Bench 2.188.384.688.884.682.7
FrontierSWE81.286.671.366.767.3
SWE Marathon42.035.039.040.013.0
BrowseComp91.288.090.484.3
Automation Bench30.829.129.727.212.9
GPQA-Diamond93.592.694.191.091.2
MMMU-Pro (vision)81.681.283.078.9
OmniDocBench (docs)91.189.885.887.9

Readout: SWE Marathon (sustained long-horizon coding) — K3 лидирует с 42.0; Program Bench — marginal #1 (77.8); FrontierSWE — Fable 5 (86.6), но K3 сильно обгоняет GPT-5.6 Sol (71.3); OmniDocBench document understanding — K3 #1 (91.1). В Artificial Analysis Intelligence Index v4.1 K3 набирает 57.1 (4-е место) — за Fable 5 (59.9) и GPT-5.6 Sol (58.9), отставание от лидера 2.8 пункта.

04

Pricing и четыре пути подключения Kimi K3

МодельInput ($/M)Output ($/M)Cache hit inputContext
Kimi K3$3.00$15.00$0.301M
Claude Sonnet 5$3.00 (promo $2)$15.00 (promo $10)200K
Claude Opus 4.8$5.00$25.00200K
GPT-5.5$5.00$30.00400K
DeepSeek V4 Pro$1.74$3.48$0.145128K
Kimi K2.6$0.95$4.00$0.16256K

K3 по sticker price паритетен Claude Sonnet 5 ($3/$15), но даёт 5× context window. Cache hit — $0.30/M (1/10 standard input); в coding workflows cache hit rate часто >90% при стабильном system prompt и tool schema. Domestic API: input ¥20/M, output ¥100/M, cache hit ¥2/M; consumer tier на kimi.com — free account, prepaid от ¥199 (promo до 11 августа).

6-step checklist: подключить Kimi K3 сегодня

  1. 01

    Web/App (zero-config): kimi.com — регистрация (Google SSO), K3 по умолчанию в max reasoning effort

  2. 02

    API key: создать на platform.kimi.ai

  3. 03

    OpenAI-compatible client: base_url https://api.moonshot.ai/v1, model kimi-k3

  4. 04

    OpenRouter: model ID moonshotai/kimi-k3 — official pricing, no markup, full 1M context

  5. 05

    Cache tuning: reuse system prompt + tool definitions в agent loop; Mooncake disaggregated inference повышает prefix cache hit

  6. 06

    Mark 27 июля: full weights на Hugging Face — оценка private deploy (realistic floor: supernode 64+ GPU/NPU)

python
from openai import OpenAI

client = OpenAI(
    api_key="your_moonshot_api_key",
    base_url="https://api.moonshot.ai/v1"
)

response = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "Разбери этот diff и предложи patch..."}]
)
05

Матрица выбора, open-weight roadmap и cite-ready specs

СценарийМодельОбоснование
Sustained long-horizon codingKimi K3SWE Marathon #1, max context 1M
Repo-scale bugfixClaude Fable 5FrontierSWE / SWE-bench Pro lead
Terminal / toolchain agentsGPT-5.6 SolTerminal Bench + Coding Agent Index
Ultra-long docs + multimodalKimi K3OmniDocBench #1, native vision + 1M
Cost-sensitive batchDeepSeek V4 ProOutput $3.48/M — fraction of K3
Self-host open weights (post 27/07)Kimi K3Strongest downloadable checkpoint to date

Open-weight release 27 июля — что фиксировать

  • Parameter scale: первый open checkpoint >2T — largest downloadable weights на сегодня
  • Quantization-native training: MXFP4 weights + MXFP8 activations с pretrain stage — не post-hoc quant
  • Runtime stack: Day-0 target — vLLM, SGLang, transformers; HF — MXFP4/NVFP4 quant variants
  • Timeline: WAIC announcements 17–20 июля → 27 июля full weight drop
info

Signal: Chinese open AI смещается от «cheap tokens за share» к реальному frontier challenge — не vanity parameter count, а architecture-level engineering (KDA, AttnRes, Stable LatentMoE).

Если вы встраиваете Kimi K3 в local agent pipeline или Kimi Code-style long session coding, запуск CLI agent на ноутбуке или нестабильном VPS упирается в RAM pressure, dropped SSH sessions и отсутствие native Xcode/Metal toolchain; pure Linux VPS не закрывает iOS build + code signing loop. Для production, где нужны стабильные SSH long sessions, persistent DerivedData cache и headless iOS CI/CD, аренда Mac Mini в облаке NodeMini — обычно более надёжный runtime: dedicated node, provisioning за секунды, agent и compile pipeline на одном физическом Mac с Apple Silicon.

FAQ

Часто задаваемые вопросы

Да. Регистрация на kimi.com — free tier с K3 в max reasoning effort. API billed отдельно ($3/$15 per 1M tokens). Для stable agent host смотрите тарифы аренды Mac Mini.

Full weights на Hugging Face — 27 июля 2026. Production self-host требует supernode 64+ accelerators; 2,8T parameters не влезут на laptop RAM/VRAM. Realistic audience — inference providers и well-funded labs.

K3: ~2× parameters (2,8T vs 1,6T), context 1M vs 128K, сильнее на ряде coding/doc benchmark'ов. DeepSeek output $3,48/M — существенно дешевле. Cost-first → DeepSeek; long code / document understanding → K3.

Да: whole-repo ingest, длинные legal/research corpora, multi-turn agent state. K3 — flat pricing без length surcharge; KDA даёт до 6,3× faster decode на 1M. Ops-вопросы: справочный центр.

Moonshot AI обещает low и high в future update; сейчас только max mode. Следите за WAIC (17–20 июля) и weight release 27 июля.