AMD Instinct MI325X 256GB: бенчмарки инференса
Черновая программная страница. Характеристики берутся из официальной карточки AMD, а результаты — только из канонических записей после проверки raw-артефактов.
Спецификации
- Название
- AMD Instinct MI325X 256GB
- Описание
- CDNA 3 OAM accelerator with 256 GB HBM3E, 6 TB/s peak memory bandwidth and 1,000 W peak board power.
- memory_type
- HBM3E
- interface
- PCIe 5.0 x16
- tdp_w
- 1000
- fp64_tflops
- 81.7
- fp32_tflops
- 163.4
- fp16_tflops
- 1307.4
- bf16_tflops
- 1307.4
- fp8_tflops
- 2614.9
- int8_tops
- 2614.9
Методология
Показывать только полносистемные результаты с точной конфигурацией и raw-log; не вычислять single-GPU throughput делением системного результата.
Оговорки
- MLPerf-кандидаты относятся к полной системе MangoBoost с 8× MI325X, а не к одной GPU.
- Исходный system JSON и raw performance log пока не получены, поэтому значения не входят в канонический рейтинг.
- MI300X и MI325X можно сравнивать только после проверки одинакового harness и полного набора параметров.
Источники
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.