IBM
Granite 4.2 8B InstructОткрытая
IBM Granite 4.2 8B lightweight enterprise foundation model with high throughput and low cost.
Интеллект
49.2 #402
AAQI 43.0
Скорость вывода
115 t/s
TTFT 200 ms · ITL 8.7 ms/tok
Смешанная цена (3:1)
$0.22 /1M
Вход $0.15/M · Выход $0.45/M
Контекст
128K
≈ 320 стр. A4 · макс. выход 8,192
Quality Domain Radar
6-Axis Frontier Evaluation vs Category Average & Flagship
Granite 4.2 8B Instruct
Claude Mythos Preview (#1)
Average (68)
Оси радара приближены по категорийным оценкам там, где нет прямых бенчмарк-измерений — см. Методология.
Сильные стороны и компромиссы
Где модель выигрывает
- Open weights — self-host, fine-tune and audit with no vendor lock-in
- Sub-400ms time-to-first-token
- Very low blended price — $0.22/1M mixed tokens
- Cheap prompt-cache reads at $0.02/1M
Киллер-сценарии
Real-time agents
Low-latency loops for voice, gaming and interactive copilots.
High-volume batch jobs
Classification, extraction and summarization at minimal cost per call.
On-prem deployment
Air-gapped and regulated-environment serving on your own hardware.
Быстрый старт для разработчика и API
Сначала задайте
HF_TOKEN — получить ключ APIcurl https://router.huggingface.co/v1/chat/completions \
-H "Authorization: Bearer $HF_TOKEN" \
-H "content-type: application/json" \
-d '{
"model": "granite-4-2-8b",
"messages": [{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}]
}'import os
from openai import OpenAI
client = OpenAI(
base_url="https://router.huggingface.co/v1",
api_key=os.environ["HF_TOKEN"],
)
resp = client.chat.completions.create(
model="granite-4-2-8b",
messages=[{"role": "user", "content": "Refactor this function for O(n) time and explain the change."}],
)
print(resp.choices[0].message.content)const res = await fetch("https://router.huggingface.co/v1/chat/completions", {
method: "POST",
headers: {
Authorization: `Bearer ${process.env.HF_TOKEN}`,
"content-type": "application/json",
},
body: JSON.stringify({
model: "granite-4-2-8b",
messages: [{ role: "user", content: "Refactor this function for O(n) time and explain the change." }],
}),
});
console.log((await res.json()).choices[0].message.content);Официальные ресурсы и ссылки
Развёртывание API
Хосты и задержка
Пропускная способность, TTFT и цены на кэш у Groq, Cerebras, Together, DeepInfra, Fireworks, Bedrock и Azure.
GroqCerebrasTogether AIDeepInfraFireworks AIAWS BedrockAzure AI
Оценки по источникам
Оценки по категориям
Результаты бенчмарков
Живые характеристики и архитектура
Под капотом
Dense · 8 billion
- Prompt caching supported — cached input reads at $0.02/1M tokens.
Дата выпуска
20 июл. 2026 г.
Архитектура
Dense · 8 billion
Параметры
8 billion
Лицензия
Open Weights
Контекстное окно
128,000 tokens
Макс. вывод
8,192 tokens
Модальности
text
Цены кэша
чтение $0.02 · запись $0.2 /1M
Рассуждение
—
Цена ввода
$0.15/M
Цена вывода
$0.45/M
Скорость вывода
115 t/s
Время до первого токена
200 ms
Данные обновлены
28 авг. 2026 г.
Оценка ежемесячного счёта
Оценка расходов в месяц
$0.00
Считаем экономию против GPT-4o…
Цитирование и вставка
Бейдж GitHub Markdown
Loading badge markdown...BibTeX
@misc{llmpodium2026granite428b,
title = {Benchmark Analysis and Intelligence Evaluation of Granite 4.2 8B Instruct},
author = {LLMPodium Research},
year = {2026},
url = {https://llmpodium.com/models/granite-4-2-8b}
}Бейдж оценки для README
Живой бейдж Podium Score для README на GitHub или Hugging Face — ведёт на актуальный рейтинг.
Превью
Markdown
Loading badge snippet...HTML
Loading badge snippet...Ещё от IBM
Альтернативные модели
Ближайшие альтернативы для Granite 4.2 8B Instruct по возможностям, цене и бенчмаркам.