IBM

Granite 4.2 8B InstructOffen

IBM Granite 4.2 8B lightweight enterprise foundation model with high throughput and low cost.

#402veröffentlicht 20. Juli 2026·Open Weights·8 billion
text128K ctx
API-AnbieterAPI-Key holen →Rangliste
Intelligenz
49.2 #402
AAQI 43.0
Ausgabegeschwindigkeit
115 t/s
TTFT 200 ms · ITL 8.7 ms/tok
Blended-Preis (3:1)
$0.22 /1M
Input $0.15/M · Output $0.45/M
Kontext
128K
≈ 320 A4-Seiten · max. Output 8,192

Quality Domain Radar

6-Axis Frontier Evaluation vs Category Average & Flagship

Granite 4.2 8B Instruct
Claude Mythos Preview (#1)
Average (68)
Coding (44)Mathematics (45.2)Hard Science (GPQA) (46)Agentic & Tool Use (42)Knowledge (MMLU) (45)Vision / Multimodal (25)

Radar-Achsen sind aus Kategorie-Scores approximiert, wo direkte Benchmark-Messungen fehlen — siehe Methodik.

Stärken & Trade-offs

Wo das Modell gewinnt

  • Open weights — self-host, fine-tune and audit with no vendor lock-in
  • Sub-400ms time-to-first-token
  • Very low blended price — $0.22/1M mixed tokens
  • Cheap prompt-cache reads at $0.02/1M

Killer-Anwendungsfälle

Real-time agents
Low-latency loops for voice, gaming and interactive copilots.
High-volume batch jobs
Classification, extraction and summarization at minimal cost per call.
On-prem deployment
Air-gapped and regulated-environment serving on your own hardware.

Developer-Quickstart & API

Setzen Sie zuerst HF_TOKEN — API-Schlüssel holen
curl https://router.huggingface.co/v1/chat/completions \
  -H "Authorization: Bearer $HF_TOKEN" \
  -H "content-type: application/json" \
  -d '{
    "model": "granite-4-2-8b",
    "messages": [{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}]
  }'

Offizielle Ressourcen & Links

API-Bereitstellung

Hosts & Latenz vergleichen

Durchsatz, TTFT und Cache-Preise bei Groq, Cerebras, Together, DeepInfra, Fireworks, Bedrock und Azure.

GroqCerebrasTogether AIDeepInfraFireworks AIAWS BedrockAzure AI
Anbieter-Matrix ansehen →

Ergebnisse nach Quelle

Live-Spezifikationen & Architektur

Unter der Haube
Dense · 8 billion
  • Prompt caching supported — cached input reads at $0.02/1M tokens.
Veröffentlichungsdatum
20. Juli 2026
Architektur
Dense · 8 billion
Parameter
8 billion
Lizenz
Open Weights
Kontextfenster
128,000 tokens
Max. Ausgabe
8,192 tokens
Modalitäten
text
Cache-Preise
Lesen $0.02 · Schreiben $0.2 /1M
Reasoning
—
Eingabepreis
$0.15/M
Ausgabepreis
$0.45/M
Ausgabegeschwindigkeit
115 t/s
Zeit bis zum ersten Token
200 ms
Daten aktualisiert
28. Aug. 2026

Geschätzte Monatsrechnung

Geschätzte Monatsausgaben
$0.00
Ersparnis ggü. GPT-4o wird berechnet…

Zitieren & Einbetten

GitHub-Markdown-Badge
Loading badge markdown...
BibTeX
@misc{llmpodium2026granite428b,
  title = {Benchmark Analysis and Intelligence Evaluation of Granite 4.2 8B Instruct},
  author = {LLMPodium Research},
  year = {2026},
  url = {https://llmpodium.com/models/granite-4-2-8b}
}

Score-Badge einbetten

Fügen Sie Ihrem GitHub- oder Hugging-Face-README ein Live-Podium-Score-Badge hinzu — es verlinkt auf das Live-Ranking.

Vorschau
Granite 4.2 8B Instruct LLMPodium Score
Markdown
Loading badge snippet...
HTML
Loading badge snippet...

Mehr von IBM

Alternative Modelle

Nächste Alternativen zu Granite 4.2 8B Instruct basierend auf Leistung, Preis und Benchmarks.

0 / 4