Как быстро можно запустить NVIDIA H200 SXM?

Инстанс с NVIDIA H200 SXM запускается за 30 секунд после оплаты. Вы получаете SSH-доступ и ссылку на Jupyter Notebook. Никаких заявок и ожидания — всё автоматически.

Какие способы оплаты доступны?

Принимаем банковские карты РФ (Visa, Mastercard, МИР). Для юридических лиц — оплата по счёту с договором и закрывающими документами (акт, счёт-фактура). НДС включён в стоимость.

В чём разница между H200 и H100?

H200 использует ту же архитектуру Hopper, что и H100, но оснащён памятью HBM3e объёмом 141 ГБ вместо 80 ГБ HBM3 у H100. Пропускная способность памяти увеличилась с 3,35 до 4,8 ТБ/с, что критично для задач с большим KV-кешем и вывода моделей с длинным контекстом.

Для каких задач нужен H200, а не H100?

H200 особенно выгоден для вывода моделей с длинным контекстом (128k+ токенов), задач с несколькими одновременными запросами к большим моделям (70B+) и научных вычислений с большими массивами данных в памяти.

Поддерживает ли H200 FP8?

Да. H200 наследует все возможности H100 по FP8, включая нативную поддержку на уровне тензорных ядер. Это позволяет вдвое увеличить пропускную способность по сравнению с FP16 при минимальной потере точности.

Сколько моделей помещается в 141 ГБ VRAM?

Веса Llama 3.1 70B в float16 занимают ~140 ГБ — на границе 141 ГБ VRAM. С учётом накладных расходов на активации и KV-кеш (×1.2) суммарно требуется ~168 ГБ, поэтому рекомендуется FP8 (~84 ГБ весов, ~100 ГБ с overhead). В 4-bit квантизации — модель 280B+. Для работы без квантизации с моделями 100B+ требуется несколько H200 с NVLink.

Аренда NVIDIA H200 SXM

141 ГБ VRAM · Hopper

Арендовать

Оплата картой РФ

Договор и документы

Запуск за 30 секунд

Поддержка на русском

Конфигурации и цены

По запросу — свяжитесь с нами

Конфигурации для этой GPU уточняйте напрямую.

Связаться с нами

Системные бенчмарки

Канонические MLPerf® и другие результаты на полных системах — отдельно от ориентировочных tok/s на этой странице.

Каталог бенчмарков

Технические характеристики

Архитектура: Hopper
VRAM: 141 ГБ
CUDA-ядра: 16896
FP32 TFLOPS: 67
FP16 TFLOPS: 1979
Пропускная способность памяти: 4800 ГБ/с
TDP: 700 Вт
NVLink: Да

Подходит для

Обучение больших моделей Вывод моделей 70B+ Высокопроизводительные вычисления Научные вычисления Мультиагентные системы

NVIDIA H200 SXM — флагман поколения Hopper с 141 ГБ памяти HBM3e и пропускной способностью 4,8 ТБ/с. Наибольший объём VRAM среди доступных для аренды GPU делает H200 идеальным выбором для вывода очень крупных моделей и задач с длинным контекстом.

Сколько моделей поместится

Приблизительная оценка: params × precision × overhead < VRAM

Llama 3.1 8B (fp16)

~16 ГБ, помещается с запасом

Llama 3.1 70B (fp16)

~168 ГБ — превышает 141 ГБ VRAM, используйте fp8 (~84 ГБ)

Llama 3.1 70B (fp8)

~84 ГБ, помещается с запасом — рекомендуется

Mistral 7B (fp16)

~17 ГБ, помещается с запасом

Stable Diffusion XL

~10 ГБ

Whisper large-v3

~3 ГБ

Сравнение с похожими GPU

Характеристика	NVIDIA H200 SXM	NVIDIA H100 SXM	NVIDIA A100
VRAM	141 ГБ	80 ГБ	80 ГБ
от ₽/час	—	—	—
Подходит для	Обучение больших моделей, Вывод моделей 70B+	Обучение LLM, Fine-tuning больших моделей	Обучение LLM, Fine-tuning
Страница	Текущая	Открыть →	Открыть →

Часто задаваемые вопросы

Готовы начать?

Почасовая тарификация. Без подписки. Запуск за 30 секунд.

Создать аккаунт