Обработка CSV через API инференса на Python

Отправляйте по одному запросу на строку CSV: классифицируйте обращения, переводите описания товаров или получайте краткие выжимки. Пример использует Python 3.10 или новее и стандартную библиотеку — устанавливать пакеты не нужно. Запросы Chat Completions выполняются последовательно, без автоматических повторов.

1. Получите API-доступ

Создайте аккаунт или откройте API-доступ, создайте ключ команды и пополните баланс российской картой в рублях. Выберите текстовую модель в каталоге с актуальными ценами и скопируйте её полный ID.

Базовый адрес: https://app.cloudcompute.ru/api/v1. Здесь используются обычные последовательные запросы, а не асинхронный Batch API поставщика; отдельная скидка за пакетную обработку не подразумевается. Формат отдельного запроса описан в быстром старте API.

2. Сохраните скрипт и подготовьте CSV

Скачайте csv_batch.py в рабочую папку. Рядом создайте input.csv в кодировке UTF-8:

id,text
ticket-001,"За этот месяц дважды списали оплату."
ticket-002,"Приложение закрывается при загрузке файла."
ticket-003,"Где изменить имя в профиле?"

У каждой строки должны быть уникальный постоянный id и непустой text. Текст с запятыми или переносами строк заключайте в кавычки по правилам CSV. Дополнительные столбцы допустимы, но в модель отправляется только text.

3. Запустите обработку с лимитом

Задайте ключ в терминале. Вместо MODEL_ID_FROM_CATALOG в команде укажите настоящий ID модели:

export CLOUDCOMPUTE_API_KEY='cc-...'
python3 csv_batch.py input.csv results.csv \
  --base-url https://app.cloudcompute.ru/api/v1 \
  --api-key-env CLOUDCOMPUTE_API_KEY \
  --model MODEL_ID_FROM_CATALOG \
  --instruction "Классифицируй обращение. Верни только одну метку: оплата, техника, другое." \
  --limit 10 \
  --max-output-tokens 128

В Windows задайте ключ в PowerShell через $env:CLOUDCOMPUTE_API_KEY='cc-...' и выполните команду с теми же аргументами в одну строку через python.

--limit 10 допускает не более десяти запросов за этот запуск. По умолчанию разрешено до 10 000 символов текста на строку, сетевой тайм-аут — 60 секунд. --max-output-tokens ограничивает запрашиваемую длину ответа, но не задаёт бюджет в рублях. Фактическая стоимость зависит от модели и токенов.

Для другой задачи измените --instruction, например: Переведи текст на немецкий. Верни только перевод. Для другой модели, задачи или лимита выходных токенов используйте новый файл результатов.

4. Продолжите обработку и прочитайте результаты

Повторите ту же команду, чтобы обработать следующие строки. Успешные строки пропускаются. При продолжении скрипт сверяет хеши текста и настройки: изменение уже сохранённого текста, endpoint, модели, инструкции или лимита выходных токенов требует нового файла результатов.

В results.csv сохраняется одна строка на каждый ID, для которого была начата обработка: status, result, полученные prompt_tokens и completion_tokens, а также категория ошибки при её наличии. Если API не вернул токены, соответствующие поля пусты; фактические списания смотрите в истории команды.

Статус Что произойдёт при следующем запуске
ok Текст ответа сохранён, строка пропускается.
truncated Ответ завершился с finish_reason: length; частичный текст и полученные данные о токенах сохранены, строка пропускается.
error API вернул HTTP-ошибку, например авторизации, баланса или частоты запросов; строка пропускается.
unknown После сетевого сбоя, серверной ошибки или непригодного ответа неизвестно, завершилась ли генерация и было ли списание; строка пропускается.
pending Намерение отправить запрос сохранено, но процесс завершился до сохранения результата; строка пропускается.

После каждого обновления файл результатов заменяется атомарно. Статус pending записывается до обращения к API: прерывание не приводит к незаметному повторному запросу и возможному списанию. Сохраняйте файл результатов для продолжения. Соседний файл .lock защищает от одновременной записи и может оставаться в папке после завершения.

Первая ошибка API или обрезанный ответ останавливает текущий запуск. Прочитайте частичный result строки со статусом truncated, прежде чем запрашивать новый ответ. Увеличение --max-output-tokens меняет отпечаток запроса, поэтому для такой настройки используйте новое имя файла результатов. Скрипт не меняет лимит токенов автоматически.

Добавляйте --retry-failed только если явно хотите снова отправить сохранённые неуспешные строки, включая truncated: исходный запрос уже мог привести к списанию. Успешные строки всё равно пропускаются. Автоматических сетевых повторов нет.

Код завершения 0 означает отсутствие сохранённых нерешённых строк, в том числе при достижении --limit; число оставшихся строк указано в сводке. Код 1 означает нерешённые строки, 2 — локальную ошибку данных, настройки или файла, 130 — прерывание.

Частые ошибки

Ошибка Что сделать
HTTP 401 Проверьте ключ API и переменную окружения из --api-key-env.
HTTP 402 Проверьте баланс команды в API-доступе.
HTTP 404 Проверьте базовый адрес и точный актуальный ID модели в каталоге.
HTTP 429 Продолжите позже; скрипт не создаёт параллельных запросов и циклических повторов.
HTTP 5xx или тайм-аут Считайте завершение и списание неопределёнными, прежде чем разрешить повтор.
Настройки продолжения изменились Верните исходные данные и настройки либо задайте новое имя файла результатов.

Автоматические тесты скрипта используют подставные ответы. Инструкция не заявляет о тестировании каждой модели каталога или реальной нагрузки клиента. Для интерактивной работы с кодом см. API для программирования и OpenCode.