Ada Lovelace
2022
RTX 4080
16 ГБ GDDR6X · 97.5 FP16 TFLOPS · 320 Вт TDP
16 ГБ
VRAM
98
FP16 TFLOPS
717
ГБ/с bandwidth
Технические характеристики
- Архитектура
- Ada Lovelace
- Поколение
- 2022
- Form factor
- PCIe
- VRAM
- 16 ГБ GDDR6X
- VRAM bandwidth
- 717 ГБ/с
- CUDA-ядра
- 9 728
- Tensor cores
- 4th Gen
- FP32 TFLOPS
- 48.7
- FP16 TFLOPS
- 97.5
- BF16 TFLOPS
- 97.5
- TDP
- 320 Вт
- NVLink
- Нет
- PCIe Gen
- Gen 4
- ECC память
- Нет
- MIG
- Нет
AI/ML бенчмарки
Tokens per second — выше лучше. Значения приблизительные, зависят от конфигурации сервера.
SDXL (images/sec)
1.90 img/s
Типичное применение
LLM Инференс
Image generation
Multi-GPU конфигурации
1×
16 ГБ суммарно
2×
32 ГБ суммарно