Ampere 2021

RTX 3080 Ti

12 ГБ GDDR6X · 68.2 FP16 TFLOPS · 350 Вт TDP

12 ГБ

VRAM

68

FP16 TFLOPS

912

ГБ/с bandwidth

Технические характеристики

Архитектура
Ampere
Поколение
2021
Form factor
PCIe
VRAM
12 ГБ GDDR6X
VRAM bandwidth
912 ГБ/с
CUDA-ядра
10 240
Tensor cores
3rd Gen
FP32 TFLOPS
34.1
FP16 TFLOPS
68.2
BF16 TFLOPS
68.2
TDP
350 Вт
NVLink
Нет
PCIe Gen
Gen 4
ECC память
Нет
MIG
Нет

AI/ML бенчмарки

Tokens per second — выше лучше. Значения приблизительные, зависят от конфигурации сервера.

SDXL (images/sec) 0.90 img/s

Типичное применение

LLM Инференс Image generation
Уточнить наличие ← Все GPU