LLM без цензуры: модели, alignment и системный промпт

LLM без цензуры — не отдельный технический класс моделей и не официальная характеристика. Обычно так называют языковые модели, которые реже отвечают шаблонным отказом и оставляют владельцу приложения больше контроля через системный промпт.

Их также называют uncensored LLM, low-refusal models или менее ограниченными fine-tune-моделями. При этом открытая лицензия, отсутствие отказов, качество рассуждений и возможность самостоятельного запуска — разные свойства. Они не обязательно встречаются вместе.

Попробовать модели в чате
Открыть основную страницу «Нейросеть без цензуры»

От базовой модели до чат-ассистента

Большая языковая модель обычно проходит несколько этапов.

1. Предварительное обучение

На этапе pretraining модель учится предсказывать продолжение текста на большом корпусе данных. Результат называют base model — базовой моделью.

Она может продолжать текст и воспроизводить закономерности языка, но не обязательно стабильно выполняет инструкции пользователя. На запрос она иногда отвечает как продолжение документа, а не как помощник.

2. Instruction tuning

Затем модель дообучают на парах «инструкция — желательный ответ». Так появляется instruct- или chat-версия.

Instruction tuning улучшает:

• выполнение заданий;
• соблюдение формата;
• ведение диалога;
• работу с системными и пользовательскими сообщениями.

3. Preference tuning и alignment

На следующем этапе модель может обучаться на человеческих или автоматически сформированных предпочтениях. К известным подходам относятся RLHF, RLAIF и DPO.

Цель не сводится только к безопасности. Preference tuning может улучшать полезность, вежливость, структуру и соответствие намерению пользователя. Но вместе с этим в модель могут быть заложены правила отказа и стандартный стиль поведения.

Именно здесь у разных ассистентов появляется разная склонность:

• отвечать прямо;
• добавлять предупреждения;
• отклонять чувствительные запросы;
• следовать системному промпту;
• отдавать приоритет правилам провайдера.

Как появляется uncensored fine-tune

Не существует одного стандартного способа «убрать цензуру». Разработчики независимых моделей используют разные комбинации:

• выбирают менее ограниченную базовую или instruct-модель;
• исключают из обучающего набора шаблонные отказы;
• добавляют примеры прямых ответов;
• дообучают модель на диалогах и инструкциях;
• используют preference datasets с другим представлением о желательном поведении;
• делают merge нескольких fine-tune-моделей;
• задают поведение через специальный системный промпт.

Поэтому две модели с ярлыком uncensored могут сильно различаться. Одна будет универсальным помощником, другая — моделью для художественного текста, третья — слабой моделью, которая просто редко отказывается.

Open source, open weights и uncensored — разные понятия

Эти термины часто смешивают.

Open-weight модель может иметь строгую отказную настройку. Uncensored-модель может предоставляться только через API. Self-hosting не делает модель автоматически менее ограниченной: всё зависит от выбранных весов и настроек.

Uncensored LLM и jailbreak

Jailbreak не изменяет веса модели. Это промпт, который пытается заставить уже выровненную модель проигнорировать часть правил.

Uncensored fine-tune меняет само поведение модели через данные и обучение.

Исследования jailbreak-атак показывают, что некоторые промпты могут переноситься между моделями, но такие атаки остаются способом обхода, а не устойчивой моделью поведения. Для приложения логичнее выбрать подходящий LLM и явно задать собственную политику.

Что действительно нужно оценивать

Частота отказов — только один показатель.

Instruction following

Модель должна соблюдать формат, роль, ограничения длины и обязательные пункты. Если она отвечает на всё, но игнорирует половину инструкции, для приложения это слабый вариант.

Фактическая точность

Модель с меньшим числом отказов может чаще давать уверенный ответ там, где данных недостаточно. Нужна отдельная проверка галлюцинаций и неопределённости.

Русский язык

Многие независимые fine-tune-модели ориентированы прежде всего на английский. Нужно проверять:

• естественность фраз;
• падежи и род;
• обращение на «ты» или «вы»;
• сохранение стиля;
• отсутствие дословных кальк.

Длинный контекст

Заявленный размер context window не гарантирует, что модель стабильно помнит ранние инструкции. Проверьте её на реальном диалоге нужной длины.

Скорость и стоимость

Модель 70B может писать лучше в сложном сценарии, но быть избыточной для короткого помощника. Сравнивайте итоговое качество на рубль, а не только размер.

Модели для сравнения

В CloudCompute доступны модели с разной специализацией.

Для универсального старта разумно проверить Dolphin Mistral 24B Venice Edition. Для художественного текста — Cydonia и Skyfall. Magnum и Euryale имеет смысл добавлять, когда важны длинные диалоги или более сложная проза.

Системный промпт и параметры генерации

Даже подходящая модель может давать плохой результат без ясной инструкции.

Простой системный промпт:

Отвечай прямо и конкретно. Соблюдай формат пользователя. Не добавляй общие предупреждения, если они не нужны для точности. Разделяй подтверждённые факты, выводы и неизвестные данные. Не выдумывай источники.

Кроме промпта влияют параметры генерации:

• temperature — вариативность ответа;
• top_p — ограничение распределения токенов;
• max_tokens — максимальная длина;
• repetition penalties — борьба с повторениями;
• structured output — принудительный формат, если поддерживается.

Слишком высокая temperature может увеличить разнообразие, но ухудшить точность и соблюдение инструкции. Для прямого помощника обычно стоит начинать с умеренных значений и менять один параметр за раз.

Hosted API или самостоятельный запуск

Hosted API

Плюсы:

• быстрый старт;
• не нужно выбирать и обслуживать GPU;
• можно переключать модели;
• оплата за фактическое использование.

Минусы:

• запрос проходит через инфраструктуру провайдера;
• доступность и версия модели зависят от сервиса;
• правила платформы сохраняются.

Открыть API-модели
Быстрый старт

Собственная GPU

Плюсы:

• фиксированная версия модели;
• контроль над движком, системным промптом и логированием;
• возможность использовать собственные fine-tune-модели.

Минусы:

• требуется память GPU;
• нужно настроить inference server;
• появляются мониторинг, хранение весов и обновления.

Для самостоятельного запуска доступны шаблоны Ollama, Open WebUI, Oobabooga, llama.cpp и vLLM.

Минимальный тест перед выбором

Создайте набор из 10–20 реальных запросов и оценивайте каждую модель по одной шкале:

Используйте несколько генераций и одинаковые параметры. Не меняйте промпт между моделями, иначе сравнение теряет смысл.

Частые вопросы

Uncensored LLM всегда лучше обычной instruct-модели?

Нет. Она может реже отказываться, но уступать по точности, программированию, инструментам или языку.

Alignment всегда ухудшает модель?

Нет. Instruction tuning и preference tuning часто существенно улучшают полезность и следование намерению пользователя. Проблемой становится не сам alignment, а несоответствие универсальной политики вашей конкретной задаче.

Можно ли полностью снять ограничения системным промптом?

Нет. Системный промпт влияет на поведение, но не гарантированно отменяет привычки, заложенные обучением модели или внешним сервисом.

Какая модель лучше для русского?

Это нужно проверять отдельно. Начните с Dolphin Mistral 24B Venice Edition и Cydonia, затем сравните с более крупной моделью на собственном наборе русских промптов.

Нужна ли собственная GPU?

Для тестирования — нет. Для фиксированной версии, собственного fine-tune или отдельной политики хранения данных — возможно.

Следующий шаг

Сначала сравните несколько моделей через чат без лишних отказов. После выбора используйте hosted API или разверните модель на собственной GPU.

Попробовать модели
Открыть каталог API