IBM
Granite 4.2 8B InstructAbierto
IBM Granite 4.2 8B lightweight enterprise foundation model with high throughput and low cost.
Inteligencia
49.2 #402
AAQI 43.0
Velocidad de Salida
115 t/s
TTFT 200 ms · ITL 8.7 ms/tok
Precio combinado (3:1)
$0.22 /1M
Entrada $0.15/M · Salida $0.45/M
Contexto
128K
≈ 320 páginas A4 · salida máx. 8,192
Quality Domain Radar
6-Axis Frontier Evaluation vs Category Average & Flagship
Granite 4.2 8B Instruct
Claude Mythos Preview (#1)
Average (68)
Los ejes del radar se aproximan a partir de las puntuaciones de categoría cuando faltan mediciones directas — ver Metodología.
Fortalezas y compromisos
Donde gana
- Open weights — self-host, fine-tune and audit with no vendor lock-in
- Sub-400ms time-to-first-token
- Very low blended price — $0.22/1M mixed tokens
- Cheap prompt-cache reads at $0.02/1M
Casos de uso clave
Real-time agents
Low-latency loops for voice, gaming and interactive copilots.
High-volume batch jobs
Classification, extraction and summarization at minimal cost per call.
On-prem deployment
Air-gapped and regulated-environment serving on your own hardware.
Inicio rápido para desarrolladores y API
Define primero
HF_TOKEN — obtener una clave APIcurl https://router.huggingface.co/v1/chat/completions \
-H "Authorization: Bearer $HF_TOKEN" \
-H "content-type: application/json" \
-d '{
"model": "granite-4-2-8b",
"messages": [{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}]
}'import os
from openai import OpenAI
client = OpenAI(
base_url="https://router.huggingface.co/v1",
api_key=os.environ["HF_TOKEN"],
)
resp = client.chat.completions.create(
model="granite-4-2-8b",
messages=[{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}],
)
print(resp.choices[0].message.content)const res = await fetch("https://router.huggingface.co/v1/chat/completions", {
method: "POST",
headers: {
Authorization: `Bearer ${process.env.HF_TOKEN}`,
"content-type": "application/json",
},
body: JSON.stringify({
model: "granite-4-2-8b",
messages: [{ role: "user", content: "Refactor this function for O(n) time and explain the change." }],
}),
});
console.log((await res.json()).choices[0].message.content);Recursos y enlaces oficiales
Despliegue de API
Comparar hosts y latencia
Throughput, TTFT y precios de caché en Groq, Cerebras, Together, DeepInfra, Fireworks, Bedrock y Azure.
GroqCerebrasTogether AIDeepInfraFireworks AIAWS BedrockAzure AI
Puntuaciones por Fuente
Puntuaciones por Categoría
Resultados de Benchmarks
Especificaciones en vivo y arquitectura
Bajo el capó
Dense · 8 billion
- Prompt caching supported — cached input reads at $0.02/1M tokens.
Fecha de Lanzamiento
20 jul 2026
Arquitectura
Dense · 8 billion
Parámetros
8 billion
Licencia
Open Weights
Ventana de Contexto
128,000 tokens
Salida máx.
8,192 tokens
Modalidades
text
Precios de caché
lectura $0.02 · escritura $0.2 /1M
Razonamiento
—
Precio de Entrada
$0.15/M
Precio de Salida
$0.45/M
Velocidad de Salida
115 t/s
Tiempo al Primer Token
200 ms
Datos actualizados
28 ago 2026
Factura mensual estimada
Gasto mensual estimado
$0.00
Calculando ahorro vs GPT-4o…
Citar e insertar
Badge de Markdown para GitHub
Loading badge markdown...BibTeX
@misc{llmpodium2026granite428b,
title = {Benchmark Analysis and Intelligence Evaluation of Granite 4.2 8B Instruct},
author = {LLMPodium Research},
year = {2026},
url = {https://llmpodium.com/models/granite-4-2-8b}
}Insertar insignia de puntuación
Añade una insignia de Podium Score en vivo a tu README de GitHub o Hugging Face — enlaza al ranking en vivo.
Vista previa
Markdown
Loading badge snippet...HTML
Loading badge snippet...Más de IBM
Modelos alternativos
Alternativas más cercanas a Granite 4.2 8B Instruct según rendimiento, precio y benchmarks.