IBM
Granite 4.2 3B InstructOffen
IBM Granite 4.2 3B compact SLM optimized for on-device and low-latency inference.
Intelligenz
42.0 #435
AAQI 36.0
Ausgabegeschwindigkeit
148 t/s
TTFT 160 ms · ITL 6.8 ms/tok
Blended-Preis (3:1)
$0.11 /1M
Input $0.08/M · Output $0.2/M
Kontext
128K
≈ 320 A4-Seiten · max. Output 8,192
Quality Domain Radar
6-Axis Frontier Evaluation vs Category Average & Flagship
Granite 4.2 3B Instruct
Claude Mythos Preview (#1)
Average (68)
Radar-Achsen sind aus Kategorie-Scores approximiert, wo direkte Benchmark-Messungen fehlen — siehe Methodik.
Stärken & Trade-offs
Wo das Modell gewinnt
- Open weights — self-host, fine-tune and audit with no vendor lock-in
- 148 tok/s output — fast enough for real-time agents
- Sub-200ms time-to-first-token
- Very low blended price — $0.11/1M mixed tokens
Killer-Anwendungsfälle
Real-time agents
Low-latency loops for voice, gaming and interactive copilots.
High-volume batch jobs
Classification, extraction and summarization at minimal cost per call.
On-prem deployment
Air-gapped and regulated-environment serving on your own hardware.
Developer-Quickstart & API
Setzen Sie zuerst
HF_TOKEN — API-Schlüssel holencurl https://router.huggingface.co/v1/chat/completions \
-H "Authorization: Bearer $HF_TOKEN" \
-H "content-type: application/json" \
-d '{
"model": "granite-4-2-3b",
"messages": [{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}]
}'import os
from openai import OpenAI
client = OpenAI(
base_url="https://router.huggingface.co/v1",
api_key=os.environ["HF_TOKEN"],
)
resp = client.chat.completions.create(
model="granite-4-2-3b",
messages=[{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}],
)
print(resp.choices[0].message.content)const res = await fetch("https://router.huggingface.co/v1/chat/completions", {
method: "POST",
headers: {
Authorization: `Bearer ${process.env.HF_TOKEN}`,
"content-type": "application/json",
},
body: JSON.stringify({
model: "granite-4-2-3b",
messages: [{ role: "user", content: "Refactor this function for O(n) time and explain the change." }],
}),
});
console.log((await res.json()).choices[0].message.content);Offizielle Ressourcen & Links
API-Bereitstellung
Hosts & Latenz vergleichen
Durchsatz, TTFT und Cache-Preise bei Groq, Cerebras, Together, DeepInfra, Fireworks, Bedrock und Azure.
GroqCerebrasTogether AIDeepInfraFireworks AIAWS BedrockAzure AI
Ergebnisse nach Quelle
Kategorie-Punkte
Benchmark-Ergebnisse
Live-Spezifikationen & Architektur
Unter der Haube
Dense · 3 billion
- Prompt caching supported — cached input reads at $0.01/1M tokens.
Veröffentlichungsdatum
20. Juli 2026
Architektur
Dense · 3 billion
Parameter
3 billion
Lizenz
Open Weights
Kontextfenster
128,000 tokens
Max. Ausgabe
8,192 tokens
Modalitäten
text
Cache-Preise
Lesen $0.01 · Schreiben $0.1 /1M
Reasoning
—
Eingabepreis
$0.08/M
Ausgabepreis
$0.2/M
Ausgabegeschwindigkeit
148 t/s
Zeit bis zum ersten Token
160 ms
Daten aktualisiert
28. Aug. 2026
Geschätzte Monatsrechnung
Geschätzte Monatsausgaben
$0.00
Ersparnis ggü. GPT-4o wird berechnet…
Zitieren & Einbetten
GitHub-Markdown-Badge
Loading badge markdown...BibTeX
@misc{llmpodium2026granite423b,
title = {Benchmark Analysis and Intelligence Evaluation of Granite 4.2 3B Instruct},
author = {LLMPodium Research},
year = {2026},
url = {https://llmpodium.com/models/granite-4-2-3b}
}Score-Badge einbetten
Fügen Sie Ihrem GitHub- oder Hugging-Face-README ein Live-Podium-Score-Badge hinzu — es verlinkt auf das Live-Ranking.
Vorschau
Markdown
Loading badge snippet...HTML
Loading badge snippet...Mehr von IBM
Alternative Modelle
Nächste Alternativen zu Granite 4.2 3B Instruct basierend auf Leistung, Preis und Benchmarks.