IBM

Granite 4.2 3B InstructOuvert

IBM Granite 4.2 3B compact SLM optimized for on-device and low-latency inference.

#435publié le 20 juil. 2026·Open Weights·3 billion
text128K ctx
Fournisseurs APIObtenir la clé API →Classement
Intelligence
42.0 #435
AAQI 36.0
Vitesse Sortie
148 t/s
TTFT 160 ms · ITL 6.8 ms/tok
Prix mixte (3:1)
$0.11 /1M
Entrée $0.08/M · Sortie $0.2/M
Contexte
128K
≈ 320 pages A4 · sortie max 8,192

Quality Domain Radar

6-Axis Frontier Evaluation vs Category Average & Flagship

Granite 4.2 3B Instruct
Claude Mythos Preview (#1)
Average (68)
Coding (35)Mathematics (38)Hard Science (GPQA) (38)Agentic & Tool Use (40)Knowledge (MMLU) (39)Vision / Multimodal (25)

Les axes du radar sont approximés depuis les scores par catégorie lorsque les mesures directes manquent — voir Méthodologie.

Points forts & compromis

Là où il gagne

  • Open weights — self-host, fine-tune and audit with no vendor lock-in
  • 148 tok/s output — fast enough for real-time agents
  • Sub-200ms time-to-first-token
  • Very low blended price — $0.11/1M mixed tokens

Cas d'usage clés

Real-time agents
Low-latency loops for voice, gaming and interactive copilots.
High-volume batch jobs
Classification, extraction and summarization at minimal cost per call.
On-prem deployment
Air-gapped and regulated-environment serving on your own hardware.

Démarrage rapide développeur & API

Définissez d’abord HF_TOKEN — obtenir une clé API
curl https://router.huggingface.co/v1/chat/completions \
  -H "Authorization: Bearer $HF_TOKEN" \
  -H "content-type: application/json" \
  -d '{
    "model": "granite-4-2-3b",
    "messages": [{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}]
  }'

Ressources & liens officiels

Déploiement API

Comparer hôtes et latence

Débit, TTFT et tarifs de cache chez Groq, Cerebras, Together, DeepInfra, Fireworks, Bedrock et Azure.

GroqCerebrasTogether AIDeepInfraFireworks AIAWS BedrockAzure AI
Voir la matrice des fournisseurs →

Scores par Source

Specs en direct & architecture

Sous le capot
Dense · 3 billion
  • Prompt caching supported — cached input reads at $0.01/1M tokens.
Date de Sortie
20 juil. 2026
Architecture
Dense · 3 billion
Paramètres
3 billion
Licence
Open Weights
Fenêtre de Contexte
128,000 tokens
Sortie max
8,192 tokens
Modalités
text
Tarifs du cache
lecture $0.01 · écriture $0.1 /1M
Raisonnement
—
Prix Entrée
$0.08/M
Prix Sortie
$0.2/M
Vitesse Sortie
148 t/s
Temps au Premier Token
160 ms
Données mises à jour
28 août 2026

Facture mensuelle estimée

Dépense mensuelle estimée
$0.00
Calcul des économies vs GPT-4o…

Citer et intégrer

Badge Markdown GitHub
Loading badge markdown...
BibTeX
@misc{llmpodium2026granite423b,
  title = {Benchmark Analysis and Intelligence Evaluation of Granite 4.2 3B Instruct},
  author = {LLMPodium Research},
  year = {2026},
  url = {https://llmpodium.com/models/granite-4-2-3b}
}

Intégrer le badge de score

Ajoutez un badge Podium Score en direct à votre README GitHub ou Hugging Face — il renvoie vers le classement en direct.

Aperçu
Granite 4.2 3B Instruct LLMPodium Score
Markdown
Loading badge snippet...
HTML
Loading badge snippet...

Plus de IBM

Modèles alternatifs

Meilleures alternatives à Granite 4.2 3B Instruct selon les capacités, le prix et les benchmarks.

0 / 4