LLM MIT

DeepSeek R1 14B

14B параметров · Transformer · Контекст 128k · DeepSeek · 2025

Запустить на GPU HuggingFace →

VRAM по точности

Точность VRAM Качество Рекомендация
FP16 28 ГБ Максимальное Для продакшена
FP8 14 ГБ Отличное Оптимально
INT8 14 ГБ Хорошее
INT4/Q4 7 ГБ Приемлемое Для экспериментов

Совместимые GPU

GPU VRAM Поддерживает
Рек. NVIDIA RTX 4090
24 ГБ FP16, FP8, INT8, INT4 Арендовать
NVIDIA A100
80 ГБ FP16, FP8, INT8, INT4 Арендовать
NVIDIA H100 SXM
80 ГБ FP16, FP8, INT8, INT4 Арендовать

Рекомендуемые фреймворки

vLLM Ollama llama.cpp

Быстрый старт

vllm 
docker run --gpus all -p 8000:8000 vllm/vllm-openai:latest \
  --model DeepSeek-R1-Distill-Qwen-14B \
  --quantization fp8

Характеристики модели

Технические параметры

Разработчик
DeepSeek
Год выпуска
2025
Параметры
14B
Архитектура
Transformer
Контекстное окно
128,000 токенов
Лицензия
MIT

Применение

Reasoning Math Code generation Chain-of-thought

DeepSeek R1 14B — «золотая середина» линейки R1-Distill: заметно умнее 7B при всё ещё реалистичном однокарточном деплое. Хорошо подходит для математики, логических головоломок и задач, где нужен явный chain-of-thought без прыжка к 32B+.

База — Qwen 14B, контекст 128k, лицензия MIT; качество reasoning ближе к тяжёлым моделям, чем у типичных instruct 14B.

Запуск на cloudcompute.ru

Шаг 1 — Арендуйте GPU

Для DeepSeek R1 14B в fp8 удобнее всего RTX 4090 (около 14 ГБ под веса); для fp16 смотрите A100 или H100. Перейдите в каталог GPU и арендуйте инстанс с Docker-образом.

Шаг 2 — Запустите vLLM

docker run --gpus all -p 8000:8000 vllm/vllm-openai:latest \
  --model deepseek-ai/DeepSeek-R1-Distill-Qwen-14B \
  --dtype auto \
  --max-model-len 32768

Шаг 3 — Отправьте запрос

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-ai/DeepSeek-R1-Distill-Qwen-14B",
    "messages": [{"role": "user", "content": "Реши задачу: в треугольнике сумма углов 180°. Два угла по 50°. Найди третий. Объясни ход мыслей."}]
  }'

Альтернативно, используйте Ollama для быстрого старта:

ollama run deepseek-r1:14b

Оптимизация

  • На RTX 4090 чаще всего выгоден fp8/квантизация; fp16 может не поместиться с комфортным запасом под KV-cache.
  • Сокращайте --max-model-len, если видите OOM при одновременных запросах.
  • Для production задайте лимиты на длину reasoning-части ответа (stop sequences или max_tokens), чтобы стабилизировать latency.