Kimi K3 심층 리뷰
2.8조 파라미터, 오픈소스 LLM 신기록 (2026)

2026년 7월 16일 심야, Moonshot AI(월지암면)가 API 문서 상단에 「Kimi K3 출시」를 조용히 게시했습니다. 대규모 발표회 없이 현재 전 세계 파라미터 규모가 가장 큰 오픈소스 AI 모델(2.8조)을 공개했습니다. 본 글은 AI 개발자와 제품 의사결정자를 위해 K3 사양과 출시 배경, KDA / AttnRes / Stable LatentMoE 3대 아키텍처 혁신, Claude Fable 5 / GPT-5.6 Sol과의 전체 벤치마크 비교, 가격과 4가지 연동 방식, 시나리오별 선택 결정표, 7월 27일 전체 가중치 오픈소스 계획, 6단계 즉시 시작 체크리스트, FAQ를 다룹니다.

01

Kimi K3란? 이번 출시가 왜 중요한가

Kimi K3는 Moonshot AI가 공개한 2.8조(2.8T) 파라미터 희소 혼합 전문가(MoE) 모델입니다. 이전 기록 보유자 DeepSeek V4 Pro(1.6T)보다 약 75% 크며, Xiaomi 오픈소스 모델(1.02T)의 2.7배, Alibaba(397B)의 7배 이상입니다. 추론 시 896개 전문가 중 16개를 활성화(희소도 1.8%)하며, 100만 토큰 초장 컨텍스트와 네이티브 시각 이해를 갖추어 복잡한 프로그래밍, 장문 추론, 지식 업무에 최적화되었습니다.

한 줄 요약: Kimi K3는 이미지·영상을 네이티브로 이해하고 초장기 기억을 갖춘 오픈소스 「헤비급 프로그래밍 AI」이며, Claude Opus 4.8 대비 40% 저렴하고 전체 가중치는 7월 27일 오픈소스로 공개됩니다.

출시 배경: 저조한 자세 뒤에 숨은 전략적 신호

  1. 01

    규모 기록: 지난 12개월 중 Kimi 시리즈가 9개월간 오픈소스 모델 파라미터 규모 상한을 차지했습니다

  2. 02

    WAIC 타이밍: 2026 세계 AI 컨퍼런스(WAIC) 개막 전야(7월 17–20일)에 맞춰 출시되어 전략적 의도가 분명합니다

  3. 03

    상업화 급성장: 2026년 6월 기준 ARR 3억 달러 돌파, 올해 6라운드 투자 완료, 사전 가치 315억 달러

  4. 04

    API 주도: API 매출이 전체의 70% 이상, 해외 유료 사용자 400% 성장

  5. 05

    DeepSeek 충격 이후 반격: 지난 18개월 시장 점유율이 크게 축소된 뒤 K3는 기술 주권을 재확인하는 출시입니다

  6. 06

    완전 오픈소스 약속: 공식 WeChat 공지에서 7월 27일 Hugging Face에 전체 모델 가중치 공개를 명시했습니다

02

3대 아키텍처 혁신: KDA, AttnRes, Stable LatentMoE

Kimi K3는 단순한 파라미터 누적이 아닙니다. 아키텍처 층면에서 실질적 엔지니어링 혁신을 이뤘으며, Kimi K2 대비 전체 확장 효율이 약 2.5배 향상되었습니다.

2.1 Kimi Delta Attention(KDA) — 혼합 선형 어텐션

전통적 전체 어텐션은 긴 컨텍스트에서 KV 캐시 메모리가 제곱급으로 증가합니다. KDA는 3:1 비율로 선형 어텐션 레이어와 전체 어텐션 레이어를 교차 배치합니다. 3개의 선형 레이어가 지역 구조를 처리(계산 저렴)하고, 1개의 전체 어텐션 레이어가 전역 정보 흐름을 유지합니다. 결과적으로 KV 캐시 메모리가 최대 75% 감소하고, 100만 토큰 컨텍스트에서 디코딩 속도가 최대 6.3배 향상되며, 짧은/긴 컨텍스트 및 강화학습 확장 3가지 시나리오 모두에서 순수 전체 어텐션 베이스라인을 능가합니다.

2.2 Attention Residuals(AttnRes) — 깊이 간 선택적 검색

표준 잔차 연결은 깊이를 따라 정보를 균일하게 누적하여 초기 레이어의 핵심 표현이 심층에서 희석됩니다. AttnRes는 선택적 검색을 도입하여 모델이 깊이를 가로질러 더 이른 레이어의 고가치 표현을 직접 가져올 수 있습니다. 이로써 약 25% 학습 효율 향상을 달성하며, 추가 계산 부담은 2% 미만입니다.

2.3 Stable LatentMoE — 896 전문가 × 16 활성화

기술역할
Quantile Balancing라우터 점수 분위수에서 전문가 할당을 직접 도출하여 휴리스틱 하이퍼파라미터 제거
Per-Head Muon각 어텐션 헤드별 독립 최적화로 대규모 학습 적응성 향상
SiTU(Sigmoid Tanh Unit)개선된 활성화 함수 제어
Gated MLA어텐션 선택성 향상
warning

주의: 아래 벤치마크 데이터는 Moonshot AI 자체 보고치이며, 모델마다 서로 다른 추론 harness를 사용했습니다(K3는 Kimi Code, GPT는 Codex, Claude는 Claude Code). 독립 제3자 재현은 아직 진행 중입니다.

03

벤치마크: Kimi K3 vs Claude Fable 5 vs GPT-5.6 Sol

벤치마크Kimi K3Claude Fable 5GPT-5.6 SolClaude Opus 4.8GLM-5.2
DeepSWE67.570.073.059.046.2
Program Bench77.876.877.671.963.7
Terminal Bench 2.188.384.688.884.682.7
FrontierSWE81.286.671.366.767.3
SWE Marathon42.035.039.040.013.0
BrowseComp91.288.090.484.3
Automation Bench30.829.129.727.212.9
GPQA-Diamond93.592.694.191.091.2
MMMU-Pro(시각)81.681.283.078.9
OmniDocBench(문서)91.189.885.887.9

해석 포인트: SWE Marathon(지속적 장기 코드 작업)에서 K3가 42.0으로 크게 앞섭니다. Program Bench에서도 근소하게 1위(77.8)입니다. FrontierSWE는 Fable 5가 선두(86.6)이며, K3는 GPT-5.6 Sol(71.3)을 크게 앞섭니다. OmniDocBench 문서 이해에서 K3가 1위(91.1)입니다. Artificial Analysis Intelligence Index v4.1에서 K3는 57.1점으로 4위에 올랐으며, Claude Fable 5(59.9)와 GPT-5.6 Sol(58.9) 바로 뒤로 1위와 2.8점 차이입니다.

04

가격 비교와 4가지 즉시 사용 방법

모델입력($/M)출력($/M)캐시 히트 입력컨텍스트
Kimi K3$3.00$15.00$0.301M
Claude Sonnet 5$3.00(프로모 $2)$15.00(프로모 $10)200K
Claude Opus 4.8$5.00$25.00200K
GPT-5.5$5.00$30.00400K
DeepSeek V4 Pro$1.74$3.48$0.145128K
Kimi K2.6$0.95$4.00$0.16256K

K3 가격은 Claude Sonnet 5 정가($3/$15)와 동일하지만 5배 긴 컨텍스트를 제공합니다. 캐시 히트는 $0.30/M(정가의 1/10)까지 내려가며, 프로그래밍 시나리오에서 캐시 적중률이 90% 이상입니다. 중국 API: 입력 ¥20/M, 출력 ¥100/M, 캐시 히트 ¥2/M. 소비자용 Kimi.com 무료 계정으로 사용 가능하며, 선불 패키지는 ¥199부터(할인 8월 11일까지).

Kimi K3 즉시 시작 6단계

  1. 01

    웹/App(가장 간단): kimi.com 접속, 계정 등록(Google 지원), K3는 기본 최대 추론 강도로 실행

  2. 02

    API Key 발급: platform.kimi.ai에서 키 생성

  3. 03

    OpenAI 호환 클라이언트 설정: base_url을 https://api.moonshot.ai/v1, model을 kimi-k3로 지정

  4. 04

    OpenRouter 연동: 모델 ID moonshotai/kimi-k3, 공식 가격 그대로, 전체 1M 컨텍스트

  5. 05

    캐시 최적화 활성화: 프로그래밍 워크플로에서 system prompt와 도구 정의를 재사용하고 Mooncake 분리 추론 아키텍처로 캐시 적중률 향상

  6. 06

    7월 27일 표시: Hugging Face에 전체 가중치 공개 예정, 로컬/프라이빗 배포 평가 가능(64+ 가속 카드 슈퍼노드 필요)

python
from openai import OpenAI

client = OpenAI(
    api_key="your_moonshot_api_key",
    base_url="https://api.moonshot.ai/v1"
)

response = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "이 코드를 분석해 주세요..."}]
)
05

어떻게 선택할까? 오픈소스 약속과 인용 가능한 기술 데이터

시나리오추천 모델이유
지속적 장기 코드 작업Kimi K3SWE Marathon 1위, 최장 컨텍스트
복잡한 Repo급 버그 수정Claude Fable 5FrontierSWE / SWE-bench Pro 대폭 선두
터미널/툴체인 AgentGPT-5.6 SolTerminal Bench 및 Coding Agent Index 선두
초장문 문서/멀티모달 이해Kimi K3OmniDocBench 1위, 네이티브 시각 + 1M 컨텍스트
비용 민감 시나리오DeepSeek V4 Pro출력 $3.48/M로 K3보다 훨씬 저렴
오픈소스 자체 배포(7/27 이후)Kimi K3지금까지 가장 강력한 다운로드 가능 오픈소스 가중치

7월 27일 오픈소스 약속

  • 파라미터 규모: 지금까지 파라미터가 가장 큰 다운로드 가능 오픈소스 모델, 최초 2조 파라미터급 오픈소스 가중치
  • 양자화 설계: MXFP4 가중치와 MXFP8 활성화로 학습, 처음부터 양자화 인식
  • 프레임워크 지원: vLLM, SGLang, transformers Day-0 지원 예상, Hugging Face에 MXFP4/NVFP4 양자화 버전 등장 예정
  • 주요 일정: 7월 17–20일 WAIC 추가 발표 → 7월 27일 전체 가중치 오픈소스
info

신호 의미: 중국 AI 오픈소스 생태계가 「저가로 시장 확보」에서 진정한 지능 프론티어 도전으로 전환하고 있음을 보여 줍니다. 단순 파라미터 과시가 아니라 아키텍처 층면의 엔지니어링 혁신입니다.

Kimi K3를 로컬 Agent 파이프라인이나 Kimi Code류 장기 세션 프로그래밍 환경에 연동할 계획이라면, 노트북이나 불안정한 VPS에서 CLI Agent를 실행할 때 메모리 부족, 세션 중단, Xcode/Metal 툴체인 부재 문제가 자주 발생합니다. 순수 Linux VPS는 iOS 빌드·서명 체인을 커버할 수 없습니다. 안정적 SSH 장기 세션, DerivedData 캐시, iOS CI/CD 자동화가 필요한 프로덕션 환경에서는 NodeMini Mac Mini 클라우드 대여가 일반적으로 더 나은 선택입니다. 전용 노드와 초 단위 프로비저닝으로 Agent와 빌드 작업이 동일한 실제 Mac에서 지속 실행됩니다.

FAQ

자주 묻는 질문

가능합니다. kimi.com에서 무료 계정을 등록하면 K3를 사용할 수 있으며, 기본적으로 최대 추론 강도로 실행됩니다. API 호출은 유료입니다($3/$15 per 1M tokens). 안정적인 Agent 실행 환경이 필요하면 Mac Mini 대여 가격을 참고하세요.

전체 가중치는 2026년 7월 27일 Hugging Face에서 공개됩니다. 프로덕션급 배포에는 64장 이상 가속 카드 슈퍼노드가 필요하며, 일반 노트북으로는 2.8T 파라미터를 감당할 수 없습니다. 추론 서비스 업체와 자원이 충분한 연구실이 자체 호스팅에 더 적합합니다.

K3는 파라미터가 거의 2배(2.8T vs 1.6T), 컨텍스트 1M vs 128K, 다수 벤치마크에서 더 강합니다. DeepSeek는 출력 $3.48/M로 비용이 훨씬 낮습니다. 비용 민감하면 DeepSeek, 장기 코드/문서 이해는 K3를 선택하세요.

전체 코드베이스 분석, 장문 법률·연구 문서, 다회 Agent 장기 메모리에 매우 실용적입니다. K3는 통일 가격으로 과금되며 길이 추가 요금이 없고, KDA 아키텍처로 100만 토큰에서 디코딩 속도가 6.3배 향상됩니다. 운영 관련 질문은 헬프 센터를 참고하세요.

Moonshot AI는 low와 high 모드가 후속 업데이트에서 출시될 예정이라고 밝혔으며, 현재는 max 모드만 사용 가능합니다. WAIC(7월 17–20일)와 7월 27일 가중치 공개에서 추가 업데이트를 확인하세요.