Налаштування власного сервера (Pro)
З Murmel Pro транскрибує не iPhone, а ваш власний сервер Whisper. Це доречно для діалектів, як-от швейцарська німецька. Murmel працює з будь-яким сервером, що пропонує інтерфейс транскрибування OpenAI, наприклад speaches з моделлю faster-whisper-large-v3-turbo. Запис надсилається лише на цей сервер, разом із мовою, яку ви обрали в Murmel.
- На комп’ютері з Docker створіть файл compose.yaml, як нижче. Поруч створіть файл .env з одним рядком API_KEY= і довгим випадковим значенням, наприклад із «openssl rand -hex 32».
- Запустіть командою «docker compose up -d». Один раз завантажте модель: curl -X POST -H "Authorization: Bearer YOUR_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- У Murmel відкрийте Параметри > Власний сервер і торкніться «Додати сервер». Введіть назву, адресу й значення API_KEY як токен, потім виберіть модель і збережіть.
- У розділі Параметри > Запис > Транскрибувати виберіть сервер.
- У домашній мережі введіть LAN-адресу комп’ютера, наприклад http://192.168.1.20:8000. Щоб сервер був доступний і в дорозі, потрібна адреса https, наприклад через тунель Cloudflare або зворотний проксі. Тоді в Murmel буде, наприклад, https://whisper.example.com.
- Комп’ютер має мати 4 ядра з AVX2 і 8 ГБ оперативної пам’яті. Якщо Murmel відхиляє токен, значення API_KEY і токен у застосунку не збігаються. Якщо Murmel не показує жодної моделі, модель на сервері ще не завантажено.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: