NVIDIA DGX B200 8× B200: бенчмарки
Черновая программная страница. Данные выводятся из канонических записей результатов и не копируются в конфигурацию страницы.
Ключевые метрики
Offline
Токенов в секунду
160403 tokens/s
Offline
Сэмплов в секунду
1243.49 samples/s
Offline
TTFT p50
— ms
Offline
TPOT p50
— ms/token
Все throughput-значения — полная система (не на одну GPU).
Спецификации
- Название
- NVIDIA DGX B200 with 8× B200 SXM 180GB
- Описание
- The MLPerf v6.0 DGX B200 platform configuration used by the normalized B200 results.
Результаты
| Результат | Сценарий | Precision | GPU | Токенов в секунду | Сэмплов в секунду | TTFT p50 | TPOT p50 |
|---|---|---|---|---|---|---|---|
6.0-0062 Lambda_SIT | Offline | fp4 | 8× | 160403 | 1243.49 | — | — |
6.0-0062 Lambda_SIT | Server | fp4 | 8× | 130007.69 | 1007.85 | 179.27 | 17.17 |
Методология
Показывать только исходные полносистемные результаты с проверенным raw-артефактом; не делить результат на число GPU.
Оговорки
- Показатели относятся к полной восьми-GPU системе.
- Нормализация на одну GPU запрещена без отдельного опубликованного результата.
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.