AMD Instinct MI350X 288GB: бенчмарки инференса
Черновая программная страница. Характеристики берутся из официальной карточки AMD, а результаты — только из канонических записей после проверки raw-артефактов.
Спецификации
- Название
- AMD Instinct MI350X 288GB
- Описание
- CDNA 4 OAM accelerator with 288 GB HBM3E, 8 TB/s peak memory bandwidth and 1,000 W board power.
- memory_type
- HBM3E
- interface
- PCIe 5.0 x16
- tdp_w
- 1000
- fp64_tflops
- 72.1
- fp32_tflops
- 144.2
- fp16_tflops
- 2300
- bf16_tflops
- 2300
- fp8_tflops
- 4600
- int8_tops
- 4600
Методология
Показывать только полносистемные результаты с точной конфигурацией и raw-log; не вычислять single-GPU throughput делением системного результата.
Оговорки
- Найденные GPT-OSS-120B результаты относятся к MLPerf Open division и не смешиваются с Closed division.
- В агрегированной строке неполны поля ОС и ПО, а число CPU-ядер выглядит ошибочным.
- До проверки system JSON и raw log результаты остаются кандидатами и не выводятся как канонические.
Источники
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.