Установка SillyTavern для облачного GPU: Windows, macOS, Linux
SillyTavern отвечает за интерфейс и сборку промпта. Для ответов ему нужен отдельный backend с моделью. В этой схеме SillyTavern работает на вашем компьютере, а модель — на арендованном GPU. Для обычного текстового клиента мощная видеокарта на локальном компьютере не нужна.
Подготовка
Установите Git и Node.js 24 LTS с npm. В новом терминале проверьте git --version, node --version и npm --version. Рассматриваемый релиз допускает Node 20+, но поддержка Node 20 уже завершена; используйте поддерживаемую LTS-ветку. Выберите папку с правом записи для обычного пользователя. В Windows не устанавливайте приложение в Program Files и не запускайте его от администратора.
Инструкция привязана к SillyTavern 1.19.0, commit 7e8663cd9c184a550b37238218bdd32c6efc68e9. Это фиксированная версия исходников, а не обещание всегда использовать последний релиз. Официальные скрипты запуска устанавливают npm-зависимости; фиксация исходников не фиксирует автоматически все пакеты и внешние сервисы.
Windows PowerShell
Откройте PowerShell в выбранной родительской папке. Устанавливайте в новый каталог, отдельно от уже существующего SillyTavern.
git clone --branch 1.19.0 --depth 1 https://github.com/SillyTavern/SillyTavern.git SillyTavern-1.19.0
if ($LASTEXITCODE -ne 0) { throw 'Clone failed' }
Set-Location SillyTavern-1.19.0
if ((git rev-parse HEAD) -ne '7e8663cd9c184a550b37238218bdd32c6efc68e9') { throw 'Unexpected revision' }
.\Start.bat
Оставьте консоль открытой. Ошибку установки npm нужно исправить, даже если скрипт после неё пытается запустить сервер. Браузер должен открыть локальный адрес из консоли, обычно http://127.0.0.1:8000.
macOS или Linux
В терминале, из выбранной родительской папки:
set -euo pipefail
git clone --branch 1.19.0 --depth 1 https://github.com/SillyTavern/SillyTavern.git SillyTavern-1.19.0
cd SillyTavern-1.19.0
test "$(git rev-parse HEAD)" = "7e8663cd9c184a550b37238218bdd32c6efc68e9"
bash start.sh
Для следующих запусков возвращайтесь в тот же каталог и выполняйте bash start.sh. В Windows используйте Start.bat. Вторая установка в другой папке получает своё расположение данных: из-за этого может показаться, что прежние чаты исчезли.
Проверка локального доступа
После первого запуска откройте созданный config.yaml. Для этой схемы важны следующие значения по умолчанию:
dataRoot: ./data
listen: false
port: 8000
whitelistMode: true
Это поля для проверки в существующем файле, а не замена всего конфига. Оставьте сервер локальным. Не отключайте CSRF и whitelist ради исправления подключения к модели. После изменений конфигурации перезапустите SillyTavern. Если порт 8000 занят, выберите другой свободный локальный порт и используйте адрес из консоли.
SSH-туннель должен работать на том же компьютере, что и сервер SillyTavern. При переносе интерфейса в контейнер или на VPS адрес 127.0.0.1 будет относиться уже к этому окружению; описанная здесь локальная схема подключения изменится.
Сначала подключение, затем персонажи
Выберите Ollama через SSH или vLLM с API-ключом. Обе инструкции начинают со списка моделей, затем проверяют одну настоящую генерацию. Открытая страница означает только запуск интерфейса, а не готовность модели.
Когда обычный чат заработает, импортируйте пример персонажа с lorebook. Первую проверку проводите без расширений и чужих пресетов промпта. Запишите версию backend и ID модели рядом с версией клиента.
Обновления и завершение работы
Установка зафиксирована на теге: автоматическое обновление под движущуюся release-ветку здесь не подходит. Сначала сделайте копию, затем установите выбранный новый релиз в отдельную папку и следуйте инструкции восстановления. Сохраните старые данные вместе с их версией: новый релиз может изменить формат настроек.
Локальный сервер останавливается через Ctrl+C. Закончив работу, закройте SSH-туннель. Это не освобождает арендованный GPU: завершите сессию через управление инстансом после сохранения удалённых файлов.
Источники: установка в Windows, macOS/Linux, исходники релиза, поддержка версий Node.js.
Готовы запустить?
Запустить GPU-сервер