RTX 5090 vs RTX 4090 — сравнение характеристик и цен аренды
GPU 1
RTX 5090
GPU 2
RTX 4090
RTX 5090 или RTX 4090: 32 или 24 ГБ для AI?
Практическое различие по вместимости — 32 ГБ у RTX 5090 против 24 ГБ у RTX 4090. Номинальной памяти на треть больше, но это не означает на треть более крупную модель при любых настройках: остаются расходы движка, кэш и точность.
Когда дополнительные 8 ГБ меняют выбор
| Задача | Что проверить |
|---|---|
| LLM уже помещается в 24 ГБ | Измерьте обе карты с одинаковыми моделью, точностью, контекстом и параллелизмом |
| Задача немного превышает 24 ГБ | Проверьте, позволяют ли 32 ГБ отказаться от CPU offload с запасом памяти |
| Длиннее запросы или больше одновременных последовательностей | Посчитайте рост кэша и протестируйте нужные лимиты |
| Image-workflow с несколькими моделями | Измерьте пик при одновременной работе компонентов |
| Контейнер для старой архитектуры | Перед длительным запуском проверьте поддержку Blackwell в framework и расширениях |
Например, идеализированные BF16-веса условной модели 14B занимают около 28 ГБ в десятичных единицах. Сам по себе расчёт не гарантирует безопасный запуск на карте с 32 ГБ: точное число параметров, кэш и память движка могут занять остаток. Сравнивайте размер checkpoint и измеренную доступную память в одинаковых единицах.
Вместимость и скорость — разные вопросы
Если 24 ГБ достаточно, цена аренды 5090 должна оправдываться измеренным временем выполнения или характеристиками сервиса. Сохраняйте задачу неизменной и оценивайте качество результата. Не переводите игровые графики с генерацией кадров, AI TOPS и отношение bandwidth в токены в секунду.
Если 4090 требует CPU offload, а 5090 — нет, запишите это различие. Такое сравнение полезно для практического выбора, но не изолирует скорость самих GPU.
Перед запуском
Ни у одной карты нет NVLink. Не складывайте память двух GPU без проверки поддерживаемого способа распределения модели и топологии хоста. Для задачи, превышающей одну карту на 32 ГБ, сравните L40S на 48 ГБ, A100 или осознанно настроенный multi-GPU.
Новые замеры производительности здесь не заявлены. Характеристики: RTX 5090, RTX 4090.
Предложения RTX 5090 · Предложения RTX 4090 · Расчёт памяти · Стоимость задачи · Выбор GPU.
Сравнение характеристик
| Характеристика | RTX 5090 | RTX 4090 |
|---|---|---|
| VRAM | 32ГБ | 24ГБ |
| VRAM bandwidth | 1 792ГБ/с | 1 008ГБ/с |
| CUDA-ядра | 21 760 | 16 384 |
| FP32 TFLOPS | 209.0 | 82.6 |
| FP16 TFLOPS | 838.0 | 165.2 |
| BF16 TFLOPS | 838.0 | 165.2 |
| FP8 TFLOPS | 1 676.0 | — |
| TDP | 575Вт | 450Вт |
| Llama 3.1 8B FP16 tok/s | — | 680 |
| Llama 3.1 8B FP8 tok/s | — | 1 200 |
| SDXL img/s | — | 3.2 |
| Архитектура | Blackwell | Ada Lovelace |
| Form factor | PCIE | PCIE |
| NVLink | Нет | Нет |
| MIG | Нет | Нет |
| ECC память | Нет | Нет |
Значения tokens/sec приблизительные — зависят от конфигурации сервера и настроек vLLM/TGI.
Аренда на CloudCompute
Похожие сравнения
Другие сравнения с RTX 5090
Другие сравнения с RTX 4090