NVIDIA B300 SXM 270GB: бенчмарки инференса

Черновая программная страница. Данные выводятся из канонических записей результатов и не копируются в конфигурацию страницы.

Ключевые метрики

Offline

Токенов в секунду

165432 tokens/s

Offline

Сэмплов в секунду

1282.63 samples/s

Offline

TTFT p50

— ms

Offline

TPOT p50

— ms/token

Все throughput-значения — полная система (не на одну GPU).

Название: NVIDIA B300 SXM 270GB
Описание: Blackwell Ultra SXM accelerator with 270 GB HBM3e in the MLPerf v6.0 DGX B300 submission and a submitted 1,100 W TGP.
memory_type: HBM3e
interface: PCIe Gen5 x16 host interface
tdp_w: 1100

Таблица канонических результатов бенчмарка
Результат	Сценарий	Precision	GPU	Токенов в секунду	Сэмплов в секунду	TTFT p50	TPOT p50
6.0-0073 NVIDIA	Offline	fp4	8×	165432	1282.63	—	—
6.0-0073 NVIDIA	Server	fp4	8×	141565.45	1097.56	260.98	21.65
6.0-0073 MLCommons	Offline	fp4	8×	112954	413.71	—	—
6.0-0073 MLCommons	Server	fp4	8×	107317.80	393.11	325.95	118.74
6.0-0073 MLCommons	Offline	fp4	8×	103961	79.40	—	—
6.0-0073 MLCommons	Server	fp4	8×	100327.65	76.66	156.44	47.81
6.0-0073 MLCommons	Offline	fp4	8×	70325.70	18.75	—	—
6.0-0073 MLCommons	Server	fp4	8×	42721.39	11.39	512.14	60.68
6.0-0073 MLCommons	Offline	fp4	8×	1951.60	3.07	—	—
6.0-0073 MLCommons	Server	fp4	8×	1460.25	2.29	1748.70	119.86

Показывать только исходные полносистемные результаты с проверенным raw-артефактом; не делить результат на число GPU.

MLPerf измеряет полную восьми-GPU систему, а не изолированную GPU.
CPU в MLPerf submission отличается от CPU на текущей продуктовой странице DGX B300.
Offline и Server нельзя объединять в один рейтинг без разделения по сценарию и модели.

6.0-0073 — источник(получено 2026-07-12)
6.0-0073 — источник(получено 2026-07-12)
6.0-0073 — источник(получено 2026-07-12)
6.0-0073 — источник(получено 2026-07-12)
6.0-0073 — источник(получено 2026-07-12)
6.0-0073 — источник(получено 2026-07-12)
6.0-0073 — источник(получено 2026-07-12)
6.0-0073 — источник(получено 2026-07-12)
6.0-0073 — источник(получено 2026-07-12)
6.0-0073 — источник(получено 2026-07-12)

Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.