Nastavenie vlastného servera (Pro)
S Murmel Pro prepisuje namiesto iPhone váš vlastný server Whisper. Oplatí sa to pri nárečiach, ako je švajčiarska nemčina. Murmel funguje s každým serverom, ktorý ponúka rozhranie OpenAI na prepis, napríklad speaches s modelom faster-whisper-large-v3-turbo. Nahrávka ide len na tento server, spolu s jazykom, ktorý ste v Murmel zvolili.
- Na počítači s Dockerom vytvorte súbor compose.yaml podľa ukážky nižšie. Vedľa neho vytvorte súbor .env s jedným riadkom API_KEY= a dlhou náhodnou hodnotou, napríklad z príkazu „openssl rand -hex 32“.
- Spustite ho príkazom „docker compose up -d“. Model načítajte raz: curl -X POST -H "Authorization: Bearer VAS_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- V Murmel otvorte Nastavenia > Vlastný server a ťuknite na „Pridať server“. Zadajte názov, adresu a ako token hodnotu API_KEY, potom vyberte model a uložte.
- Vyberte server v časti Nastavenia > Nahrávanie > Prepisovať.
- V domácej sieti zadajte adresu LAN počítača, napríklad http://192.168.1.20:8000. Ak má byť server dostupný aj na cestách, potrebuje adresu https, napríklad cez tunel Cloudflare alebo reverzný proxy server. V Murmel potom bude napríklad https://whisper.example.com.
- Počítač by mal mať 4 jadrá s AVX2 a 8 GB pamäte. Ak Murmel odmieta token, API_KEY a token v aplikácii sa nezhodujú. Ak Murmel nezobrazuje žiadny model, model ešte nie je na serveri načítaný.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: