AMD Instinct MI355X 288GB: бенчмарки инференса
Черновая программная страница. Характеристики берутся из официальной карточки AMD, а результаты — только из канонических записей после проверки raw-артефактов.
Спецификации
- Название
- AMD Instinct MI355X 288GB
- Описание
- High-density CDNA 4 OAM accelerator with 288 GB HBM3E, 8 TB/s peak memory bandwidth and 1,400 W board power.
- memory_type
- HBM3E
- interface
- PCIe 5.0 x16
- tdp_w
- 1400
- fp64_tflops
- 78.6
- fp32_tflops
- 157.3
- fp16_tflops
- 2500
- bf16_tflops
- 2500
- fp8_tflops
- 5000
- int8_tops
- 5000
Методология
Показывать только полносистемные результаты с точной конфигурацией и raw-log; не вычислять single-GPU throughput делением системного результата.
Оговорки
- 8-GPU и многоузловые кластерные результаты являются разными системными конфигурациями.
- В 11-узловой строке MLPerf расходятся 87 GPU в имени платформы и 88 Total Accelerators.
- Нельзя делить кластерный throughput на число GPU и публиковать это как измеренный single-GPU результат.
Источники
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.