NVIDIA H100 SXM 80GB: бенчмарки инференса
Черновая программная страница. Данные выводятся из канонических записей результатов и не копируются в конфигурацию страницы.
Спецификации
- Название
- NVIDIA H100 SXM 80GB
- Описание
- Hopper-generation SXM data-center accelerator with 80 GB HBM3, up to 700 W configurable TDP and 900 GB/s NVLink.
- memory_type
- HBM3
- interface
- SXM with PCIe Gen5 host interface
- tdp_w
- 700
- mig_supported
- 1
- fp64_tflops
- 34
- fp32_tflops
- 67
- fp16_tflops
- 1979
- bf16_tflops
- 1979
- fp8_tflops
- 3958
- int8_tops
- 3958
Методология
Показывать только исходные полносистемные результаты с проверенным raw-артефактом; не делить результат на число GPU.
Оговорки
- В MLPerf Inference v6.0 не найдено подходящих H100 LLM-строк для этого набора данных.
- Страница остаётся noindex до импорта сопоставимых результатов из другого официального набора.
Источники
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.