Infrastructure
SSH
Протокол защищённого удалённого доступа к серверу через зашифрованный терминал.
Что такое SSH
SSH (Secure Shell) — криптографический протокол для безопасного удалённого доступа к серверу. Весь трафик шифруется, аутентификация — через пароль или SSH-ключ. Для работы с GPU-инстансами SSH — основной способ подключения.
Базовые команды
# Подключиться к серверу
ssh user@IP_ADDRESS
# С нестандартным портом
ssh -p 22222 user@IP_ADDRESS
# С SSH-ключом
ssh -i ~/.ssh/my_key.pem user@IP_ADDRESS
# Совместить ключ и порт
ssh -i ~/.ssh/cloudcompute.pem -p 12345 user@192.168.1.100
Port forwarding (проброс портов)
SSH tunneling — локальный доступ к сервисам на удалённом сервере:
# Пробросить порт 8000 (vLLM на сервере) на localhost:8000
ssh -L 8000:localhost:8000 user@SERVER_IP
# JupyterLab: пробросить порт 8888
ssh -L 8888:localhost:8888 user@SERVER_IP
# Фоновый туннель без открытия терминала
ssh -N -L 8888:localhost:8888 user@SERVER_IP &
После этого можно открыть http://localhost:8888 в браузере и работать с JupyterLab прямо на сервере.
~/.ssh/config — удобные алиасы
Host cloudcompute-gpu
HostName 192.168.1.100
Port 22345
User user
IdentityFile ~/.ssh/cloudcompute.pem
LocalForward 8888 localhost:8888
LocalForward 8000 localhost:8000
После этого: ssh cloudcompute-gpu — одна команда подключает и пробрасывает порты.
Связанные термины
- SSH-ключ — безопасный метод аутентификации
- JupyterLab — веб-среда, доступная через SSH tunneling
- GPU-инстанс — сервер, к которому подключаются по SSH
Готовы запустить GPU-задачу?
Запустить GPU-сервер