IBM
Granite 4.2 3B InstructOuvert
IBM Granite 4.2 3B compact SLM optimized for on-device and low-latency inference.
Intelligence
42.0 #435
AAQI 36.0
Vitesse Sortie
148 t/s
TTFT 160 ms · ITL 6.8 ms/tok
Prix mixte (3:1)
$0.11 /1M
Entrée $0.08/M · Sortie $0.2/M
Contexte
128K
≈ 320 pages A4 · sortie max 8,192
Quality Domain Radar
6-Axis Frontier Evaluation vs Category Average & Flagship
Granite 4.2 3B Instruct
Claude Mythos Preview (#1)
Average (68)
Les axes du radar sont approximés depuis les scores par catégorie lorsque les mesures directes manquent — voir Méthodologie.
Points forts & compromis
Là où il gagne
- Open weights — self-host, fine-tune and audit with no vendor lock-in
- 148 tok/s output — fast enough for real-time agents
- Sub-200ms time-to-first-token
- Very low blended price — $0.11/1M mixed tokens
Cas d'usage clés
Real-time agents
Low-latency loops for voice, gaming and interactive copilots.
High-volume batch jobs
Classification, extraction and summarization at minimal cost per call.
On-prem deployment
Air-gapped and regulated-environment serving on your own hardware.
Démarrage rapide développeur & API
Définissez d’abord
HF_TOKEN — obtenir une clé APIcurl https://router.huggingface.co/v1/chat/completions \
-H "Authorization: Bearer $HF_TOKEN" \
-H "content-type: application/json" \
-d '{
"model": "granite-4-2-3b",
"messages": [{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}]
}'import os
from openai import OpenAI
client = OpenAI(
base_url="https://router.huggingface.co/v1",
api_key=os.environ["HF_TOKEN"],
)
resp = client.chat.completions.create(
model="granite-4-2-3b",
messages=[{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}],
)
print(resp.choices[0].message.content)const res = await fetch("https://router.huggingface.co/v1/chat/completions", {
method: "POST",
headers: {
Authorization: `Bearer ${process.env.HF_TOKEN}`,
"content-type": "application/json",
},
body: JSON.stringify({
model: "granite-4-2-3b",
messages: [{ role: "user", content: "Refactor this function for O(n) time and explain the change." }],
}),
});
console.log((await res.json()).choices[0].message.content);Ressources & liens officiels
Déploiement API
Comparer hôtes et latence
Débit, TTFT et tarifs de cache chez Groq, Cerebras, Together, DeepInfra, Fireworks, Bedrock et Azure.
GroqCerebrasTogether AIDeepInfraFireworks AIAWS BedrockAzure AI
Scores par Source
Scores par Catégorie
Résultats de Benchmarks
Specs en direct & architecture
Sous le capot
Dense · 3 billion
- Prompt caching supported — cached input reads at $0.01/1M tokens.
Date de Sortie
20 juil. 2026
Architecture
Dense · 3 billion
Paramètres
3 billion
Licence
Open Weights
Fenêtre de Contexte
128,000 tokens
Sortie max
8,192 tokens
Modalités
text
Tarifs du cache
lecture $0.01 · écriture $0.1 /1M
Raisonnement
—
Prix Entrée
$0.08/M
Prix Sortie
$0.2/M
Vitesse Sortie
148 t/s
Temps au Premier Token
160 ms
Données mises à jour
28 août 2026
Facture mensuelle estimée
Dépense mensuelle estimée
$0.00
Calcul des économies vs GPT-4o…
Citer et intégrer
Badge Markdown GitHub
Loading badge markdown...BibTeX
@misc{llmpodium2026granite423b,
title = {Benchmark Analysis and Intelligence Evaluation of Granite 4.2 3B Instruct},
author = {LLMPodium Research},
year = {2026},
url = {https://llmpodium.com/models/granite-4-2-3b}
}Intégrer le badge de score
Ajoutez un badge Podium Score en direct à votre README GitHub ou Hugging Face — il renvoie vers le classement en direct.
Aperçu
Markdown
Loading badge snippet...HTML
Loading badge snippet...Plus de IBM
Modèles alternatifs
Meilleures alternatives à Granite 4.2 3B Instruct selon les capacités, le prix et les benchmarks.