Чат и RAG Ожидаемая совместимость

AnythingLLM с CloudCompute

Подключите воркспейсы и агенты AnythingLLM к CloudCompute через провайдер OpenAI (Generic).

Ожидаемая совместимость: инструмент поддерживает кастомные OpenAI-совместимые API endpoints. CloudCompute проверяет полную совместимость функций.

AnythingLLM и CloudCompute.ru

AnythingLLM — платформа для чата, поиска по документам и агентов, доступная как desktop- и self-hosted-приложение.

Провайдер OpenAI (Generic) рассчитан на сервисы с OpenAI-совместимыми запросами и ответами. Так CloudCompute.ru можно настроить как провайдер языковой модели без отдельной интеграции AnythingLLM.

Документация: AnythingLLM — OpenAI Generic

Настройка

В настройках AnythingLLM:

  1. Откройте настройки провайдера языковой модели.
  2. Выберите OpenAI (Generic).
  3. Укажите API base URL CloudCompute.ru.
  4. Введите API-ключ CloudCompute.ru.
  5. Укажите поддерживаемый model ID CloudCompute.ru.
  6. Сохраните конфигурацию и проверьте её в workspace.
Provider:  OpenAI (Generic)
Base URL:  https://app.cloudcompute.ru/api/v1
API key:   cc-...
Model ID:  openai/gpt-4o

Берите реальные model ID из каталога API-моделей.

Замечания по совместимости

Языковая модель и embedding-модель — разные части setup для retrieval-augmented generation. Подключение чат-модели CloudCompute.ru само по себе не настраивает embeddings.

Базовый чат должен работать, если выбранная модель следует OpenAI-совместимому формату ответа. Инструменты агента, генерация embeddings, транскрипция и функции, привязанные к workspace, нужно тестировать отдельно.

FAQ

Настраивает ли чат-модель эмбеддинги?

Нет. Языковая модель и модель эмбеддингов — разные части RAG. Подключение чат-модели CloudCompute не настраивает эмбеддинги.

Какой провайдер выбрать?

OpenAI (Generic) — для сервисов с OpenAI-совместимыми запросами и ответами.

Что тестировать в первую очередь?

Базовый чат в воркспейсе. Инструменты агентов, эмбеддинги, транскрипцию и специфичные функции проверяйте отдельно.

Готовы подключить

Создайте командный API-ключ в кабинете, затем вставьте base URL и ключ в ваш инструмент.

Получить API-ключ