Бенчмарки GPT-OSS-120B на GPU и серверных системах
Черновая программная страница. Результаты выводятся из канонических записей; публикация требует ручной проверки сопоставимости.
Ключевые метрики
Offline
Токенов в секунду
103961 tokens/s
Offline
Запросов/сэмплов в секунду
79.40 samples/s
Все throughput-значения — полная система (не на одну GPU).
Спецификации
- Название
- OpenAI gpt-oss-120b
- Описание
- Open-weight mixture-of-experts reasoning model with 117 billion total parameters, approximately 5.1 billion active parameters per token and a 128K-token context window.
Результаты
| Результат | Сценарий | Precision | GPU | Токенов в секунду | Запросов/сэмплов в секунду |
|---|---|---|---|---|---|
6.0-0073 MLCommons | Offline | fp4 | 8× | 103961 | 79.40 |
6.0-0073 MLCommons | Server | fp4 | 8× | 100327.65 | 76.66 |
Оговорки
- Результаты MLPerf относятся к полной системе, а не к изолированной GPU.
- Результат системы с несколькими GPU нельзя делить на число ускорителей без опубликованной нормализации.
- Сравнивать следует только одинаковые версию набора, сценарий, профиль, ревизию модели и точность.
- MLCommons reference implementation указывает openai/gpt-oss-120b, commit b5c939d.
Аренда GPU в CloudCompute
Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.