Аренда NVIDIA RTX 4090 — от 52.25 ₽/час

RTX 4090 — видеокарта Ada Lovelace с 24 ГБ GDDR6X. Её можно рассматривать для экспериментов на одной GPU, генерации изображений и обучения адаптеров. Вместимость определяется моделью и настройками движка.

Какие задачи проверить

Инференс небольшой модели. В инструкции для Qwen2.5 7B BF16 задан контекст 4 096 токенов и одна активная последовательность. Только веса занимают около 15,2 ГБ в десятичных единицах. Проверьте полный запрос перед увеличением контекста и параллелизма.

Генерация изображений. Начните с одного изображения нужного разрешения. Добавляйте ControlNet, апскейлер и дополнительные модели по одному, записывая пиковый расход памяти.

LoRA и QLoRA. Зафиксируйте длину последовательности, optimizer, rank адаптера и batch. Для полного fine-tuning нужен другой бюджет памяти, чем для инференса или обучения адаптеров.

Когда выбрать другую GPU

Сравнивайте с RTX 3090, если задача помещается на обеих картах. С RTX 5090 — если 24 ГБ стало мало. С A100 80 ГБ — если требуется существенно больше памяти. Дополнительная VRAM сама по себе не доказывает ускорение задачи, которая уже помещалась.

Выбор GPU · RTX 4090 против A100 80 ГБ · Стоимость задачи.

Ограничения карты и предложения

У RTX 4090 нет NVLink. Работа на нескольких GPU всё ещё возможна при поддержке со стороны ПО, но важны PCIe-топология сервера и доступные способы обмена. Две 4090 не загружают модель автоматически как одна карта на 48 ГБ.

Проверка перед длительной арендой

Запустите точный checkpoint и свой сценарий на выбранном предложении. Проверьте свободную VRAM, выполните одну типичную задачу, затем повторите с максимальным нужным входом или batch. Запишите версии движка и пиковую память. Успешная загрузка весов не проверяет вместимость всей задачи.

Расчёт памяти · Запуск LLM · Одна GPU или несколько.

Характеристики: спецификация NVIDIA. Рекомендации основаны на вместимости и требованиях задач; новые замеры скорости здесь не заявлены.