faster-whisper

Реализация, а не отдельный сервис транскрибации

faster-whisper запускает модели Whisper через CTranslate2. Python API возвращает итератор сегментов и метаданные; для завершения распознавания нужно прочитать генератор сегментов. Это не полная замена API оригинального openai-whisper без изменений кода.

CPU INT8, GPUFP16 и GPU INT8/FP16 — разные конфигурации вычислений. Результат зависит от оборудования и задачи; INT8 не гарантирует максимальную скорость на любой машине. Бенчмарки разработчика относятся к определённым записям, настройкам и GPU/CPU, а не дают универсальный множитель.

Полный пример

В кластере Whisper есть обычный Python-запуск, Docker и обработка папки с повторным запуском. В архиве закреплены основные версии и ревизии моделей; веса не распространяются.

Файлы папки в примере обрабатываются последовательно. Библиотечный BatchedInferencePipeline объединяет чанки для inference и имеет собственные ограничения памяти и поведения; он не превращает каталог в параллельную очередь заданий.

Как сравнить

На одинаковом аудио измерьте время, память и объём ручной правки. VAD помогает пропускать тишину, но тихую речь нужно проверять отдельно. Таймкоды сегментов подходят для начальных субтитров, но не определяют спикеров.

Источник: документация faster-whisper. См. также Whisper, VAD, WER.