NCCL Tests: результаты multi-GPU бенчмарков

Черновая страница набора NCCL Tests. Она останется noindex до импорта конфигурационно полных публичных или CloudCompute-запусков.

Методология

Сравнения требуют одинаковых collective, datatype, message sweep, GPU count, topology and software versions.

Оговорки

  • Теоретическая пропускная способность NVLink, PCIe или InfiniBand не является результатом NCCL Tests.
  • Bus bandwidth — нормализованная метрика collective; она не равна физической скорости отдельного линка.

Источники

Аренда GPU в CloudCompute

Бенчмарки выше измеряют полные системы из публичных заявок. Для аренды отдельных GPU смотрите каталог и цены.