Конфигурации и цены
Конфигурации для этой GPU уточняйте напрямую.
Связаться с намиПолные технические характеристики и AI/ML бенчмарки
NVIDIA B200 в базе GPUСистемные бенчмарки
Канонические MLPerf® и другие результаты на полных системах — отдельно от ориентировочных tok/s на этой странице.
Технические характеристики
- Архитектура
- Blackwell
- VRAM
- 192 ГБ
- FP16 TFLOPS
- 2230
- Пропускная способность памяти
- 8000 ГБ/с
- TDP
- 1000 Вт
- NVLink
- Да
Подходит для
NVIDIA B200 — флагман архитектуры Blackwell и единственная доступная GPU, на которой Llama 3.1 70B в float16 запускается на одной карте без квантизации. 192 ГБ HBM3e с пропускной способностью 8 ТБ/с и 2230 TFLOPS по FP16 делают B200 инструментом для самых требовательных задач: вывода моделей 70B+ в production, обучения крупных моделей и мультиагентных систем. NVLink 5.0 позволяет объединять несколько B200 для работы с моделями 400B+ параметров.
Сколько моделей поместится
Приблизительная оценка: params × precision × overhead < VRAM
Llama 3.1 8B (fp16)
~16 ГБ, помещается с запасом
Llama 3.1 70B (fp16)
~140 ГБ, помещается полностью — уникально для одной карты
Llama 3.1 405B (fp8)
не помещается (~486 ГБ) — нужно несколько B200
Mistral 7B (fp16)
~17 ГБ, помещается с запасом
Stable Diffusion XL
~10 ГБ
Whisper large-v3
~3 ГБ
Сравнение с похожими GPU
| Характеристика | NVIDIA B200 | NVIDIA H200 SXM | NVIDIA H100 SXM |
|---|---|---|---|
| VRAM | 192 ГБ | 141 ГБ | 80 ГБ |
| от ₽/час | — | — | — |
| Подходит для | Обучение больших моделей, Вывод моделей 70B+ | Обучение больших моделей, Вывод моделей 70B+ | Обучение LLM, Fine-tuning больших моделей |
| Страница | Текущая | Открыть → | Открыть → |