AMD Instinct MI300X 192GB: бенчмарки инференса
Черновая программная страница. Характеристики берутся из официальной карточки AMD, а результаты — только из канонических записей после проверки raw-артефактов.
Спецификации
- Название
- AMD Instinct MI300X 192GB
- Описание
- CDNA 3 OAM accelerator with 192 GB HBM3, 5.3 TB/s peak memory bandwidth and 750 W peak board power.
- memory_type
- HBM3
- interface
- PCIe 5.0 x16
- tdp_w
- 750
- fp64_tflops
- 81.7
- fp32_tflops
- 163.4
- fp16_tflops
- 1307.4
- bf16_tflops
- 1307.4
- fp8_tflops
- 2614.9
- int8_tops
- 2614.9
Методология
Показывать только полносистемные результаты с точной конфигурацией и raw-log; не вычислять single-GPU throughput делением системного результата.
Оговорки
- MLPerf-кандидаты относятся к полной системе MangoBoost с 8× MI300X, а не к одной GPU.
- Исходный system JSON и raw performance log пока не получены, поэтому значения не входят в канонический рейтинг.
- Сравнения допустимы только при совпадении модели, сценария, division, precision и программного стека.
Источники
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.