Настроить свой сервер (Pro)
С Murmel Pro вместо iPhone расшифровывает ваш собственный сервер Whisper. Это оправдано для диалектов, например швейцарского немецкого. Murmel работает с любым сервером, который предлагает интерфейс OpenAI для расшифровки, например speaches с моделью faster-whisper-large-v3-turbo. Запись уходит только на этот сервер вместе с языком, выбранным в Murmel.
- На компьютере с Docker создайте файл compose.yaml, как показано ниже. Рядом создайте файл .env со строкой API_KEY= и длинным случайным значением, например из «openssl rand -hex 32».
- Запустите командой «docker compose up -d». Один раз загрузите модель: curl -X POST -H "Authorization: Bearer ВАШ_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- В Murmel откройте Настройки > Свой сервер и нажмите «Добавить сервер». Введите название, адрес и в качестве токена значение API_KEY, затем выберите модель и сохраните.
- В Настройках > Запись > Расшифровка выберите сервер.
- В домашней сети укажите LAN-адрес компьютера, например http://192.168.1.20:8000. Чтобы сервер был доступен и вне дома, ему нужен адрес https, например через Cloudflare Tunnel или обратный прокси. Тогда в Murmel будет, например, https://whisper.example.com.
- Компьютеру нужны 4 ядра с AVX2 и 8 ГБ оперативной памяти. Если Murmel отклоняет токен, значит API_KEY и токен в приложении не совпадают. Если Murmel не показывает модель, она ещё не загружена на сервер.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: