Benchmarks
Бенчмарки GPU и систем
Каталог канонических результатов (в том числе MLPerf® Inference): GPU, модели, движки и полные системы. Показатели хранятся один раз в записях результатов; страницы только запрашивают их. Полносистемные значения не делятся на число GPU.
GPU
- AMD Instinct MI300X 192GB: бенчмарки инференса
- AMD Instinct MI325X 256GB: бенчмарки инференса
- AMD Instinct MI350X 288GB: бенчмарки инференса
- AMD Instinct MI355X 288GB: бенчмарки инференса
- NVIDIA B200 SXM 180GB: бенчмарки инференса
- NVIDIA B300 SXM 270GB: бенчмарки инференса
- NVIDIA H100 SXM 80GB: бенчмарки инференса
- NVIDIA H200 NVL 141GB: бенчмарки инференса
- NVIDIA H200 SXM 141GB: бенчмарки
- NVIDIA L4 24GB: бенчмарки инференса
- NVIDIA L40S 48GB: бенчмарки инференса
- RTX PRO 6000 Blackwell Server: бенчмарки инференса
Качество моделей
- AIME benchmark: результаты LLM по годам
- BFCL benchmark: function calling моделей
- GPQA benchmark: результаты моделей
- LiveCodeBench: результаты моделей для кода
- LongBench v2: результаты long-context моделей
- MMLU benchmark: результаты моделей
- MMLU-Pro benchmark: результаты моделей
- MMMU benchmark: результаты мультимодальных моделей
- MMMU-Pro benchmark: standard и vision-only