Выбор модели перед запуском чат-бота
В приложении «Свой чат-бот» появился выбор проверенной модели перед запуском: Llama 3.1 8B, Qwen2.5 7B или Mistral 7B.
Выбор модели перед запуском чат-бота
В приложении «Свой чат-бот с open-source LLM» больше не нужно стартовать только с одной моделью. Перед запуском теперь можно выбрать один из проверенных пресетов:
- Llama 3.1 8B — базовый вариант для первого запуска и простого чата
- Qwen2.5 7B — хороший выбор для русского и английского текста
- Mistral 7B — быстрый универсальный вариант для экспериментов
Мы скачиваем выбранную модель во время подготовки инстанса, поэтому после открытия Open WebUI можно сразу начинать диалог. Если нужна более крупная или специализированная модель, её по-прежнему можно скачать после запуска через интерфейс Open WebUI или командой ollama pull.