Moonshot AI
Kimi K3.1 Highspeed오픈소스
Latency-optimized serving tier of Kimi K3.1 — 1M context at flash-class throughput.
지능 지수
91.5 #13
AAQI 60.0
출력 속도
130 t/s
ITL 7.7 ms/tok
블렌디드 가격 (3:1)
$3.13 /1M
입력 $1.5/M · 출력 $8/M
컨텍스트
1.0M
≈ A4 2,500페이지 · 최대 출력 65,536
Quality Domain Radar
6-Axis Frontier Evaluation vs Category Average & Flagship
Kimi K3.1 Highspeed
Claude Mythos Preview (#1)
Average (68)
직접적인 벤치마크 측정이 없는 경우 레이더 축은 카테고리 점수로 근사됩니다 — 평가 방법 참조.
강점과 트레이드오프
강점
- 130 tok/s — fastest 1M-context open model
- Roughly half the Pro tier’s blended price
- Same agentic tool-use lineage as K3.1 Pro
주의할 점
- Caps reasoning effort vs. Pro — drops on the hardest tasks
- 65K output window vs. 131K on Pro
- Still needs multi-node serving to self-host
핵심 사용 사례
Real-time agent loops
High-throughput tool calling for interactive copilots.
High-volume RAG
Cheap 1M-context reads over large corpora.
Voice-adjacent LLM backends
Sub-second first token keeps spoken agents snappy.
개발자 퀵스타트 및 API
먼저
MOONSHOT_API_KEY를 설정하세요 — API 키 발급curl https://api.moonshot.ai/v1/chat/completions \
-H "Authorization: Bearer $MOONSHOT_API_KEY" \
-H "content-type: application/json" \
-d '{
"model": "kimi-k3-1-highspeed",
"messages": [{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}]
}'import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.moonshot.ai/v1",
api_key=os.environ["MOONSHOT_API_KEY"],
)
resp = client.chat.completions.create(
model="kimi-k3-1-highspeed",
messages=[{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}],
)
print(resp.choices[0].message.content)const res = await fetch("https://api.moonshot.ai/v1/chat/completions", {
method: "POST",
headers: {
Authorization: `Bearer ${process.env.MOONSHOT_API_KEY}`,
"content-type": "application/json",
},
body: JSON.stringify({
model: "kimi-k3-1-highspeed",
messages: [{ role: "user", content: "Refactor this function for O(n) time and explain the change." }],
}),
});
console.log((await res.json()).choices[0].message.content);공식 리소스 및 링크
API 배포
호스트 및 레이턴시 비교
Groq, Cerebras, Together, DeepInfra, Fireworks, Bedrock, Azure의 처리량, TTFT, 캐시 가격.
GroqCerebrasTogether AIDeepInfraFireworks AIAWS BedrockAzure AI
출처별 점수
카테고리별 점수
벤치마크 결과
실시간 맞대결
실시간 스펙 및 아키텍처
내부 구조
Kimi K3.1 Highspeed — 2.8T MoE, speculative decode
- Same K3.1 weights served with aggressive speculative decoding
- Sub-600ms TTFT at 130 tok/s on dedicated capacity
- 1M context retained; 65K max output
- Lower reasoning-effort ceiling than the Pro tier
출시일
2026년 10월 20일
아키텍처
Kimi K3.1 Highspeed — 2.8T MoE, speculative decode
파라미터 수
2.8T MoE
라이선스
Open Weights
컨텍스트 창
1,000,000 tokens
최대 출력
65,536 tokens
모달리티
text + image
캐시 가격
읽기 $0.15 · 쓰기 $1.88 /1M
추론
에포트 레벨
입력 가격
$1.5/M
출력 가격
$8/M
출력 속도
130 t/s
첫 토큰 생성 시간
—
데이터 업데이트
2026년 10월 22일
하드웨어 및 로컬 추론
데이터: Convly AI (CC BY 4.0) ↗최소 GPU
Multi-node cluster (e.g. 2× 8-GPU H200 141GB nodes)
월 예상 청구액
월 예상 지출
$0.00
GPT-4o 대비 절감액 계산 중…
인용 및 임베드
GitHub Markdown 배지
Loading badge markdown...BibTeX
@misc{llmpodium2026kimik31highspeed,
title = {Benchmark Analysis and Intelligence Evaluation of Kimi K3.1 Highspeed},
author = {LLMPodium Research},
year = {2026},
url = {https://llmpodium.com/models/kimi-k3-1-highspeed}
}점수 배지 삽입
GitHub 또는 Hugging Face README에 실시간 Podium 점수 배지를 추가하세요 — 실시간 순위로 연결됩니다.
미리보기
Markdown
Loading badge snippet...HTML
Loading badge snippet...Moonshot AI의 다른 모델
대체 모델
성능, 가격 및 벤치마크 점수를 기반으로 한 Kimi K3.1 Highspeed의 주요 대체 모델.