IBM
Granite 4.2 8B Instruct오픈소스
IBM Granite 4.2 8B lightweight enterprise foundation model with high throughput and low cost.
지능 지수
49.2 #402
AAQI 43.0
출력 속도
115 t/s
TTFT 200 ms · ITL 8.7 ms/tok
블렌디드 가격 (3:1)
$0.22 /1M
입력 $0.15/M · 출력 $0.45/M
컨텍스트
128K
≈ A4 320페이지 · 최대 출력 8,192
Quality Domain Radar
6-Axis Frontier Evaluation vs Category Average & Flagship
Granite 4.2 8B Instruct
Claude Mythos Preview (#1)
Average (68)
직접적인 벤치마크 측정이 없는 경우 레이더 축은 카테고리 점수로 근사됩니다 — 평가 방법 참조.
강점과 트레이드오프
강점
- Open weights — self-host, fine-tune and audit with no vendor lock-in
- Sub-400ms time-to-first-token
- Very low blended price — $0.22/1M mixed tokens
- Cheap prompt-cache reads at $0.02/1M
핵심 사용 사례
Real-time agents
Low-latency loops for voice, gaming and interactive copilots.
High-volume batch jobs
Classification, extraction and summarization at minimal cost per call.
On-prem deployment
Air-gapped and regulated-environment serving on your own hardware.
개발자 퀵스타트 및 API
먼저
HF_TOKEN를 설정하세요 — API 키 발급curl https://router.huggingface.co/v1/chat/completions \
-H "Authorization: Bearer $HF_TOKEN" \
-H "content-type: application/json" \
-d '{
"model": "granite-4-2-8b",
"messages": [{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}]
}'import os
from openai import OpenAI
client = OpenAI(
base_url="https://router.huggingface.co/v1",
api_key=os.environ["HF_TOKEN"],
)
resp = client.chat.completions.create(
model="granite-4-2-8b",
messages=[{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}],
)
print(resp.choices[0].message.content)const res = await fetch("https://router.huggingface.co/v1/chat/completions", {
method: "POST",
headers: {
Authorization: `Bearer ${process.env.HF_TOKEN}`,
"content-type": "application/json",
},
body: JSON.stringify({
model: "granite-4-2-8b",
messages: [{ role: "user", content: "Refactor this function for O(n) time and explain the change." }],
}),
});
console.log((await res.json()).choices[0].message.content);공식 리소스 및 링크
API 배포
호스트 및 레이턴시 비교
Groq, Cerebras, Together, DeepInfra, Fireworks, Bedrock, Azure의 처리량, TTFT, 캐시 가격.
GroqCerebrasTogether AIDeepInfraFireworks AIAWS BedrockAzure AI
출처별 점수
카테고리별 점수
벤치마크 결과
실시간 스펙 및 아키텍처
내부 구조
Dense · 8 billion
- Prompt caching supported — cached input reads at $0.02/1M tokens.
출시일
2026년 7월 20일
아키텍처
Dense · 8 billion
파라미터 수
8 billion
라이선스
Open Weights
컨텍스트 창
128,000 tokens
최대 출력
8,192 tokens
모달리티
text
캐시 가격
읽기 $0.02 · 쓰기 $0.2 /1M
추론
—
입력 가격
$0.15/M
출력 가격
$0.45/M
출력 속도
115 t/s
첫 토큰 생성 시간
200 ms
데이터 업데이트
2026년 8월 28일
월 예상 청구액
월 예상 지출
$0.00
GPT-4o 대비 절감액 계산 중…
인용 및 임베드
GitHub Markdown 배지
Loading badge markdown...BibTeX
@misc{llmpodium2026granite428b,
title = {Benchmark Analysis and Intelligence Evaluation of Granite 4.2 8B Instruct},
author = {LLMPodium Research},
year = {2026},
url = {https://llmpodium.com/models/granite-4-2-8b}
}점수 배지 삽입
GitHub 또는 Hugging Face README에 실시간 Podium 점수 배지를 추가하세요 — 실시간 순위로 연결됩니다.
미리보기
Markdown
Loading badge snippet...HTML
Loading badge snippet...IBM의 다른 모델
대체 모델
성능, 가격 및 벤치마크 점수를 기반으로 한 Granite 4.2 8B Instruct의 주요 대체 모델.