NVIDIA DGX B200 vs DGX B300: сравнение полных систем
Эта техническая версия сравнения сосредоточена на полном объекте измерения: восьми-GPU системах NVIDIA DGX B200 и DGX B300. Она использует те же две совместимые пары официальных результатов MLPerf® Inference v6.0 для Llama 3.1 8B, что и основная страница B200 vs B300, но раскрывает системные снимки — CPU, объём памяти, версии драйверов, CUDA, TensorRT и параметры нагрузки. Поскольку обе страницы опираются на один набор доказательств и отвечают на близкий поисковый запрос, эта версия не индексируется отдельно и канонизируется на основное сравнение.
Результаты пригодны для полносистемного межзаявочного сопоставления при одинаковом профиле модели и сценарии. Они не являются контролируемым тестом двух машин в одной среде: B200 и B300 поданы разными организациями, а версии драйвера и часть настроек нагрузки различаются. Поэтому системная страница используется как подробный слой конфигурации и источник контекста, а не как самостоятельный SEO-дубликат.
- Сравниваются полные DGX-системы с восемью GPU, а не отдельные ускорители.
- Offline и Server остаются раздельными сценариями с отдельными таблицами.
- Системные и программные различия показываются рядом с результатами.
- Канонический URL — основная страница NVIDIA B200 vs B300.
Ключевые метрики
Offline
Выходных токенов/с (полная система)
160403 vs 165432tokens/s
scope: system
Server
Выходных токенов/с (полная система)
130007.69 vs 141565.45tokens/s
scope: system
Все throughput-значения — полная система (не на одну GPU).
Сравнение по сценариям
Offline и Server показаны отдельно. Значения — полная система с несколькими GPU.
| Сценарий | NVIDIA DGX B200 (8× B200) | NVIDIA DGX B300 (8× B300) | Δ tokens/s | Δ % |
|---|---|---|---|---|
| Offline · tokens/s | 160403 | 165432 | 5029.00 | 3.14% |
| Offline · samples/s | 1243.49 | 1282.63 | — | — |
| Server · tokens/s | 130007.69 | 141565.45 | 11557.76 | 8.89% |
| Server · samples/s | 1007.85 | 1097.56 | — | — |
Расчёт CloudCompute; не официальный показатель MLPerf®
Пропускная способность по сценариям
Offline
| System | tokens/s |
|---|---|
| NVIDIA DGX B200 (8× B200) | 160403 |
| NVIDIA DGX B300 (8× B300) | 165432 |
Server
| System | tokens/s |
|---|---|
| NVIDIA DGX B200 (8× B200) | 130007.69 |
| NVIDIA DGX B300 (8× B300) | 141565.45 |
Расчёт CloudCompute; не официальный показатель MLPerf®
Результаты
| Результат | Сценарий | Precision | GPU | Выходных токенов/с | Сэмплов/с | TTFT p50 | TTFT p95 | TPOT p50 | TPOT p95 |
|---|---|---|---|---|---|---|---|---|---|
6.0-0073 NVIDIA | Offline | fp4 | 8× | 165432 system | 1282.63 system | — per_request | — per_request | — per_request | — per_request |
6.0-0062 Lambda_SIT | Offline | fp4 | 8× | 160403 system | 1243.49 system | — per_request | — per_request | — per_request | — per_request |
6.0-0073 NVIDIA | Server | fp4 | 8× | 141565.45 system | 1097.56 system | 260.98 per_request | 989.25 per_request | 21.65 per_request | 31.35 per_request |
6.0-0062 Lambda_SIT | Server | fp4 | 8× | 130007.69 system | 1007.85 system | 179.27 per_request | 701.39 per_request | 17.17 per_request | 20.56 per_request |
Методология
Применяется тот же строгий fingerprint, что и на основной странице: совпадают версия набора, раздел, сценарий, профиль, ревизия модели, TensorRT 10.14, FP4, набор данных, SLO и число ускорителей. Все значения сохраняются как показатели полной системы. Производные отношения маркируются отдельно, а задержки Server не используются для причинного вывода из-за различий достигнутой нагрузки.
Оговорки
- Заявку DGX B200 подала Lambda_SIT, а заявку DGX B300 — NVIDIA.
- Версии GPU-драйвера различаются; это не лабораторный A/B-тест с единым образом ПО.
- Снимок системы из submission имеет приоритет над текущей розничной спецификацией продукта.
- Страница доступна для пользователей и внутренних ссылок, но имеет noindex и canonical на основное сравнение.
Источники и обязательная атрибуция
- MLPerf® Inference v6.0, Closed Division, Llama 3.1 8B, Offline and Server; submitted by Lambda_SIT; NVIDIA DGX B200 system with 8× NVIDIA B200 SXM 180 GB accelerators; result entry 6.0-0062. Retrieved from MLCommons on 12 July 2026. Result verified by MLCommons Association. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information.
- MLPerf® Inference v6.0, Closed Division, Llama 3.1 8B, Offline and Server; submitted by NVIDIA; NVIDIA DGX B300 system with 8× NVIDIA B300 SXM 270 GB accelerators; result entry 6.0-0073. Retrieved from MLCommons on 12 July 2026. Result verified by MLCommons Association. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information.
Процентные отношения и абсолютные разницы рассчитаны CloudCompute и не являются официальными результатами MLCommons.
The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information.
FAQ
Почему эта страница не индексируется отдельно?
Она использует те же четыре результата, что и основное сравнение B200 vs B300. Canonical предотвращает конкуренцию двух почти одинаковых URL.
Чем системная страница отличается от GPU-страницы?
Здесь акцент сделан на полном снимке системы и программного стека. Основная страница ориентирована на запрос B200 vs B300, но также явно раскрывает полносистемный характер данных.
Можно ли считать разницу результатом только замены B200 на B300?
Нет. Отправители, драйверы и параметры нагрузки различаются, поэтому наблюдаемую разницу нельзя изолировать до одного компонента.
Основное сравнение и связанные страницы
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.