GPU 1

RTX 5090

32 ГБ Blackwell
VS

GPU 2

RTX 5080

Blackwell 16 ГБ

Выводы

Лучше для обучения моделей

RTX 5090

Сравнение характеристик

Характеристика RTX 5090 RTX 5080
VRAM 32ГБ 16ГБ
VRAM bandwidth 1 792ГБ/с 960ГБ/с
CUDA-ядра 21 760 10 752
FP32 TFLOPS 209.0 137.7
FP16 TFLOPS 838.0 550.8
BF16 TFLOPS 838.0 550.8
FP8 TFLOPS 1 676.0 1 101.6
TDP 575Вт 360Вт
Архитектура Blackwell Blackwell
Form factor PCIE PCIE
NVLink Нет Нет
MIG Нет Нет
ECC память Нет Нет

Значения tokens/sec приблизительные — зависят от конфигурации сервера и настроек vLLM/TGI.

Аренда на CloudCompute

RTX 5090

По запросу

Арендовать RTX 5090

RTX 5080

По запросу

Арендовать RTX 5080