Saját szerver beállítása (Pro)
A Murmel Pro-val az iPhone helyett a saját Whisper-szervered készíti az átiratot. Ez nyelvjárásnál éri meg, például svájci németnél. A Murmel minden olyan szerverrel működik, amely az OpenAI átírási felületét kínálja, például a speaches a faster-whisper-large-v3-turbo modellel. A felvétel csak erre a szerverre megy, a Murmel appban kiválasztott nyelvvel együtt.
- Egy Dockert futtató gépen hozz létre egy compose.yaml fájlt az alábbiak szerint. Mellé egy .env fájlt egyetlen sorral: API_KEY= és egy hosszú véletlen érték, például az „openssl rand -hex 32” paranccsal.
- Indítsd a „docker compose up -d” paranccsal. A modellt egyszer töltsd be: curl -X POST -H "Authorization: Bearer AZ_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- A Murmel appban nyisd meg a Beállítások > Saját szerver menüt, és koppints a „Szerver hozzáadása” gombra. Add meg a nevet, a címet, tokenként pedig az API_KEY értékét, majd válaszd ki a modellt, és mentsd.
- A Beállítások > Felvétel > Átírás alatt válaszd ki a szervert.
- Otthoni hálózaton a gép LAN-címét add meg, például http://192.168.1.20:8000. Ha a szervert útközben is el akarod érni, https-címre van szüksége, például Cloudflare Tunnelen vagy reverse proxyn keresztül. Ekkor a Murmel appban például https://whisper.example.com áll.
- A gépben legyen 4 mag AVX2-vel és 8 GB memória. Ha a Murmel elutasítja a tokent, az API_KEY és az appban megadott token nem egyezik. Ha a Murmel nem mutat modellt, a modell még nincs betöltve a szerveren.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: