L4 vs RTX 4070 Ti — сравнение характеристик и цен аренды

GPU 1

L4

24 ГБAda Lovelace
VS

GPU 2

RTX 4070 Ti

Ada Lovelace12 ГБ

Выводы

Лучше для обучения моделей

L4

Выгоднее VRAM/₽

RTX 4070 Ti

Сравнение характеристик

Характеристика L4 RTX 4070 Ti
VRAM 24ГБ 12ГБ
VRAM bandwidth 300ГБ/с 504ГБ/с
CUDA-ядра 7 424 7 680
FP32 TFLOPS 30.3 40.1
FP16 TFLOPS 121.0 80.2
BF16 TFLOPS 121.0 80.2
FP8 TFLOPS 242.0 —
INT8 TOPS 242.0 —
TDP 72Вт 285Вт
Архитектура Ada Lovelace Ada Lovelace
Form factor PCIE PCIE
NVLink НетНет
MIG НетНет
ECC память ДаНет

Значения tokens/sec приблизительные — зависят от конфигурации сервера и настроек vLLM/TGI.

Аренда на CloudCompute

RTX 4070 Ti

40.21 ₽/час

Арендовать RTX 4070 Ti

Похожие сравнения