Аренда NVIDIA H200 SXM — от 390.06 ₽/час

Инстанс с NVIDIA H200 SXM запускается за 30 секунд после оплаты. Вы получаете SSH-доступ и ссылку на Jupyter Notebook. Никаких заявок и ожидания — всё автоматически.

Принимаем банковские карты РФ (Visa, Mastercard, МИР). Для юридических лиц — оплата по счёту с договором и закрывающими документами (акт, счёт-фактура). НДС включён в стоимость.

H200 использует ту же архитектуру Hopper, что и H100, но оснащён памятью HBM3e объёмом 141 ГБ вместо 80 ГБ HBM3 у H100. Пропускная способность памяти увеличилась с 3,35 до 4,8 ТБ/с, что критично для задач с большим KV-кешем и вывода моделей с длинным контекстом.

H200 особенно выгоден для вывода моделей с длинным контекстом (128k+ токенов), задач с несколькими одновременными запросами к большим моделям (70B+) и научных вычислений с большими массивами данных в памяти.

Да. H200 наследует все возможности H100 по FP8, включая нативную поддержку на уровне тензорных ядер. Это позволяет вдвое увеличить пропускную способность по сравнению с FP16 при минимальной потере точности.

Веса Llama 3.1 70B в float16 занимают ~140 ГБ — на границе 141 ГБ VRAM. С учётом накладных расходов на активации и KV-кеш (×1.2) суммарно требуется ~168 ГБ, поэтому рекомендуется FP8 (~84 ГБ весов, ~100 ГБ с overhead). В 4-bit квантизации — модель 280B+. Для работы без квантизации с моделями 100B+ требуется несколько H200 с NVLink.