NVIDIA L4 24GB: бенчмарки инференса
Черновая программная страница. Данные выводятся из канонических записей результатов и не копируются в конфигурацию страницы.
Спецификации
- Название
- NVIDIA L4 24GB
- Описание
- Low-profile PCIe accelerator with 24 GB memory, a 72 W TDP and a PCIe Gen4 x16 interface.
- interface
- PCIe Gen4 x16
- tdp_w
- 72
- fp32_tflops
- 30.3
- fp16_tflops
- 242
- bf16_tflops
- 242
- fp8_tflops
- 485
- int8_tops
- 485
Методология
Показывать только исходные полносистемные результаты с проверенным raw-артефактом; не делить результат на число GPU.
Оговорки
- MLPerf v6.0 содержит для L4 только edge YOLO результаты, которые не импортированы как LLM-инференс.
- Страница остаётся noindex до появления подходящих LLM-результатов.
Источники
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.