NVIDIA L40S 48GB: бенчмарки инференса
Черновая программная страница. Данные выводятся из канонических записей результатов и не копируются в конфигурацию страницы.
Спецификации
- Название
- NVIDIA L40S 48GB
- Описание
- Ada Lovelace PCIe accelerator with 48 GB GDDR6 ECC, a 350 W maximum power limit and no NVLink or MIG support.
- memory_type
- GDDR6 ECC
- interface
- PCIe Gen4 x16
- tdp_w
- 350
- mig_supported
- fp32_tflops
- 91.6
- fp16_tflops
- 733
- bf16_tflops
- 733
- fp8_tflops
- 1466
- int8_tops
- 1466
Методология
Показывать только исходные полносистемные результаты с проверенным raw-артефактом; не делить результат на число GPU.
Оговорки
- MLPerf v6.0 содержит для L40S только edge YOLO результаты, которые не импортированы как LLM-инференс.
- Страница остаётся noindex до появления подходящих LLM-результатов.
Источники
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.