Как быстро можно запустить NVIDIA H200 SXM?

Инстанс с NVIDIA H200 SXM запускается за 30 секунд после оплаты. Вы получаете SSH-доступ и ссылку на Jupyter Notebook. Никаких заявок и ожидания — всё автоматически.

Какие способы оплаты доступны?

Принимаем банковские карты РФ (Visa, Mastercard, МИР). Для юридических лиц — оплата по счёту с договором и закрывающими документами (акт, счёт-фактура). НДС включён в стоимость.

В чём разница между H200 и H100?

H200 использует ту же архитектуру Hopper, что и H100, но оснащён памятью HBM3e объёмом 141 ГБ вместо 80 ГБ HBM3 у H100. Пропускная способность памяти увеличилась с 3,35 до 4,8 ТБ/с, что критично для задач с большим KV-кешем и вывода моделей с длинным контекстом.

Для каких задач нужен H200, а не H100?

H200 особенно выгоден для вывода моделей с длинным контекстом (128k+ токенов), задач с несколькими одновременными запросами к большим моделям (70B+) и научных вычислений с большими массивами данных в памяти.

Поддерживает ли H200 FP8?

Да. H200 наследует все возможности H100 по FP8, включая нативную поддержку на уровне тензорных ядер. Это позволяет вдвое увеличить пропускную способность по сравнению с FP16 при минимальной потере точности.

Сколько моделей помещается в 141 ГБ VRAM?

Веса Llama 3.1 70B в float16 занимают ~140 ГБ — на границе 141 ГБ VRAM. С учётом накладных расходов на активации и KV-кеш (×1.2) суммарно требуется ~168 ГБ, поэтому рекомендуется FP8 (~84 ГБ весов, ~100 ГБ с overhead). В 4-bit квантизации — модель 280B+. Для работы без квантизации с моделями 100B+ требуется несколько H200 с NVLink.

Аренда NVIDIA H200 SXM — от 793.84 ₽/час

Name: Аренда NVIDIA H200 SXM
Brand: NVIDIA
Availability: InStock

141 ГБ VRAM · Hopper

Арендовать

Оплата картой РФ

Договор и документы

Запуск за 30 секунд

Поддержка на русском

Конфигурации и цены

Доступно прямо сейчас: 4 конфигурации

Конфигурация	₽/час	₽/мес	Доступность	Действие
1× NVIDIA H200 SXM / 24 vCPU / 140 ГБ VRAM	793.84 ₽	579 503 ₽	Доступно	Выбрать
2× NVIDIA H200 SXM / 48 vCPU / 140 ГБ VRAM	1587.54 ₽	1 158 904 ₽	Доступно	Выбрать
4× NVIDIA H200 SXM / 112 vCPU / 140 ГБ VRAM	2756.7 ₽	2 012 391 ₽	Доступно	Выбрать
8× NVIDIA H200 SXM / 256 vCPU / 140 ГБ VRAM	6242.87 ₽	4 557 295 ₽	Доступно	Выбрать

* Цены в рублях с НДС. Почасовая тарификация без минимального срока аренды. Счёт и закрывающие документы по запросу.

Смотреть конфигурации в каталоге →

Технические характеристики

Архитектура: Hopper
VRAM: 141 ГБ
CUDA-ядра: 16896
FP32 TFLOPS: 67
FP16 TFLOPS: 1979
Пропускная способность памяти: 4800 ГБ/с
TDP: 700 Вт
NVLink: Да

Подходит для

Обучение больших моделей Вывод моделей 70B+ Высокопроизводительные вычисления Научные вычисления Мультиагентные системы

NVIDIA H200 SXM — флагман поколения Hopper с 141 ГБ памяти HBM3e и пропускной способностью 4,8 ТБ/с. Наибольший объём VRAM среди доступных для аренды GPU делает H200 идеальным выбором для вывода очень крупных моделей и задач с длинным контекстом.

Сколько моделей поместится

Приблизительная оценка: params × precision × overhead < VRAM

Llama 3.1 8B (fp16)

~16 ГБ, помещается с запасом

Llama 3.1 70B (fp16)

~168 ГБ — превышает 141 ГБ VRAM, используйте fp8 (~84 ГБ)

Llama 3.1 70B (fp8)

~84 ГБ, помещается с запасом — рекомендуется

Mistral 7B (fp16)

~17 ГБ, помещается с запасом

Stable Diffusion XL

~10 ГБ

Whisper large-v3

~3 ГБ

Сравнение с похожими GPU

Характеристика	NVIDIA H200 SXM	NVIDIA H100 SXM	NVIDIA A100
VRAM	141 ГБ	80 ГБ	80 ГБ
от ₽/час	793.84 ₽	—	—
Подходит для	Обучение больших моделей, Вывод моделей 70B+	Обучение LLM, Fine-tuning больших моделей	Обучение LLM, Fine-tuning
Страница	Текущая	Открыть →	Открыть →

Часто задаваемые вопросы

Готовы начать?

Почасовая тарификация. Без подписки. Запуск за 30 секунд.

Создать аккаунт