Networking

Каналы связи

Физическая среда передачи данных между узлами: оптика (ВОЛС), медь, радио и сотовая связь — со своей скоростью, задержкой и дальностью.

Что такое Каналы связи

Канал связи — физическая среда, по которой данные идут от одного узла к другому, вместе с оборудованием на её концах. Всё, что происходит выше — IP, TCP, HTTP, — опирается на канал и наследует его ограничения: быстрее скорости света пакет не пойдёт, а сквозь потери канала не пробьётся ни один протокол.

Канал характеризуют тремя числами: пропускная способность (сколько бит в секунду), задержка (за сколько миллисекунд бит долетит) и потери. Скорость передачи данных — это первое из них, и её принято мерить в битах, а не байтах: канал 1 Гбит/с даёт не больше 125 МБ/с даже теоретически.

ВОЛС и другие среды

ВОЛС расшифровывается как волоконно-оптическая линия связи — канал, где данные передаются светом по стеклянному волокну. Это основа всего современного интернета: магистрали между городами и континентами, связность внутри ЦОД, подключение домов по GPON.

Среда Скорость Дальность Где встречается
Витая пара (медь) 1–10 Гбит/с до 100 м внутри стойки, офис
Многомодовая оптика 10–400 Гбит/с сотни метров внутри ЦОД
Одномодовая оптика 10–400 Гбит/с и выше десятки и сотни км магистрали, между ЦОД
Wi-Fi сотни Мбит/с — единицы Гбит/с десятки метров последняя пара метров
Cellular (3G/4G/5G) единицы — сотни Мбит/с километры мобильные устройства, IoT
Спутник десятки Мбит/с глобально там, где нет ничего другого

Cellular — общее название сотовой связи, где покрытие строится из ячеек-сот вокруг базовых станций. Для сервера это в первую очередь резервный канал и способ подключить телеметрию там, где кабеля нет.

Преимущества оптики перед медью — не только скорость: она не боится электромагнитных наводок, не проводит ток и передаёт сигнал на километры без усиления. По одному волокну через DWDM пускают десятки независимых каналов на разных длинах волны.

Задержка: чего не купить за деньги

Пропускную способность можно нарастить, задержку — нет, она упирается в расстояние. В оптике сигнал идёт примерно 200 000 км/с, и это даёт неустранимый минимум:

Плечо RTT, порядок
Внутри ЦОД доли миллисекунды
Москва — Петербург ~10 мс
Москва — Франкфурт ~40 мс
Москва — Сингапур ~150 мс

Отсюда два следствия. Первое: канал «толстый, но далёкий» плохо утилизируется одним TCP-потоком — на длинных плечах помогают несколько параллельных соединений. Второе: если пользователи далеко, единственный способ снизить задержку — придвинуть данные к ним, то есть CDN или второй регион.

RDMA и сети GPU-кластеров

RDMA (Remote Direct Memory Access) — технология, позволяющая сетевой карте писать прямо в память другого узла, минуя процессор и ядро ОС. Копирований и переключений контекста нет, поэтому задержка падает до единиц микросекунд.

Именно на RDMA (в вариантах InfiniBand и RoCE v2) строят межузловые сети GPU-кластеров: при распределённом обучении карты постоянно обмениваются градиентами, и обычный TCP-стек здесь становится узким местом. Библиотека NCCL поверх RDMA и GPUDirect передаёт данные из VRAM одной карты в VRAM другой, вообще не трогая системную память.

ISP и связность

ISP (Internet Service Provider) — интернет-провайдер, компания, дающая доступ в сеть. Провайдеры соединяются между собой на точках обмена трафиком (IX) и по прямым стыкам, обмениваясь маршрутами по BGP.

Для размещения сервера это важнее, чем кажется: заявленные гигабиты порта ничего не значат, если у площадки один аплинк. Смотреть надо на число независимых провайдеров, присутствие на точках обмена и наличие резерва — при обрыве единственного канала не спасёт ни RAID, ни кластер.

Связанные термины

Готовы запустить GPU-задачу?

Запустить GPU-сервер