Hopper
2023
Доступна на CloudCompute
H100 NVL
94 ГБ HBM2e · 1671 FP16 TFLOPS · 400 Вт TDP
94 ГБ
VRAM
1,671
FP16 TFLOPS
3936
ГБ/с bandwidth
Технические характеристики
- Архитектура
- Hopper
- Поколение
- 2023
- Form factor
- NVL
- VRAM
- 94 ГБ HBM2e
- VRAM bandwidth
- 3936 ГБ/с
- CUDA-ядра
- 16 896
- Tensor cores
- 4th Gen
- FP32 TFLOPS
- 60
- FP16 TFLOPS
- 1671
- BF16 TFLOPS
- 1671
- FP8 TFLOPS
- 3341
- TDP
- 400 Вт
- NVLink
- Да (v4, 600 ГБ/с)
- Max NVLink GPU
- 2× GPU
- PCIe Gen
- Gen 5
- ECC память
- Да
- MIG
- Да (до 7 инстансов)
Типичное применение
Обучение моделей
LLM Инференс
Multi-GPU конфигурации
1×
94 ГБ суммарно
2×
188 ГБ суммарно