Конфигурации и цены
Конфигурации для этой GPU уточняйте напрямую.
Связаться с намиТехнические характеристики
- Архитектура
- Ada Lovelace
- VRAM
- 16 ГБ
- CUDA-ядра
- 10240
- FP32 TFLOPS
- 52.2
- FP16 TFLOPS
- 104.4
- Пропускная способность памяти
- 736 ГБ/с
- TDP
- 320 Вт
- NVLink
- Нет
Подходит для
NVIDIA RTX 4080 Super — потребительская GPU поколения Ada Lovelace с 16 ГБ GDDR6X VRAM. Сбалансированный выбор для inference моделей до 13B (с квантизацией), Stable Diffusion XL, LoRA fine-tuning и рендеринга. По цене заметно дешевле RTX 4090 при тех же архитектурных возможностях — Tensor Cores 4-го поколения, поддержка FP8 и DLSS 3.
Карта хорошо подходит, если задачи укладываются в 16 ГБ VRAM: длинный контекст для 7B моделей в fp16, 13B в fp8/4-bit, генерация изображений и видео в SDXL, обучение LoRA-адаптеров. Для моделей крупнее 13B в fp16 или для полноценного обучения с нуля рекомендуем RTX 4090, A100 или H100.
Сколько моделей поместится
Приблизительная оценка: params × precision × overhead < VRAM
Llama 3.1 8B (fp16)
~16 ГБ, помещается впритык; используйте fp8 (~8 ГБ) для запаса под контекст
Llama 3.1 8B (fp8 / 4-bit)
~8 ГБ / ~5 ГБ — большой запас под длинный контекст и батчинг
13B-class (4-bit)
~8 ГБ, помещается с запасом
13B-class (fp16)
~31 ГБ — не помещается; используйте fp8 или 4-bit
Stable Diffusion XL
~10 ГБ, рекомендуется
Whisper large-v3
~3 ГБ
Сравнение с похожими GPU
| Характеристика | NVIDIA RTX 4080 Super | NVIDIA RTX 4090 | NVIDIA RTX 3090 |
|---|---|---|---|
| VRAM | 16 ГБ | 24 ГБ | 24 ГБ |
| от ₽/час | — | 70.51 ₽ | 90.85 ₽ |
| Подходит для | LLM inference (7–13B), Stable Diffusion XL | LLM inference, Генерация изображений | LLM inference, Генерация изображений |
| Страница | Текущая | Открыть → | Открыть → |