Langflow + Ollama

Для кого

Разработчики AI-агентов и RAG-систем, которые хотят визуально проектировать пайплайны с локальными LLM.

Что внутри

• Langflow — визуальный drag-and-drop конструктор AI-пайплайнов
• Ollama — локальные LLM для инференса (по умолчанию — Qwen3-Coder:30b)
• Поддержка RAG, цепочек, агентов

Как начать

1. Запустите инстанс с этим шаблоном
2. Откройте Langflow на порту 7860
3. Создайте flow из готовых компонентов или начните с шаблона

Рекомендации по GPU

• 16 ГБ VRAM — модели 7B–8B через Ollama
• 24 ГБ VRAM (RTX 4090) — модели до 30B, параллельные запросы
• 40+ ГБ VRAM — 70B модели