Nastavení vlastního serveru (Pro)
S Murmel Pro přepisuje místo iPhonu váš vlastní server Whisper. Vyplatí se to u dialektů, například švýcarské němčiny. Murmel komunikuje s každým serverem, který nabízí rozhraní OpenAI pro přepisy, například speaches s modelem faster-whisper-large-v3-turbo. Nahrávka jde jen na tento server, spolu s jazykem, který jste v Murmelu zvolili.
- Na počítači s Dockerem vytvořte soubor compose.yaml podle ukázky níže. Vedle něj soubor .env s jedním řádkem API_KEY= a dlouhou náhodnou hodnotou, například z příkazu „openssl rand -hex 32“.
- Spusťte příkazem „docker compose up -d“. Model jednou načtěte: curl -X POST -H "Authorization: Bearer VAS_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- V Murmelu klepněte v Nastavení > Vlastní server na „Přidat server“. Zadejte název, adresu a jako token hodnotu API_KEY, pak vyberte model a uložte.
- V Nastavení > Nahrávání > Přepis vyberte server.
- V domácí síti zadáte adresu počítače v místní síti, například http://192.168.1.20:8000. Má-li být server dostupný i na cestách, potřebuje adresu https, například přes tunel Cloudflare nebo reverzní proxy. V Murmelu pak bude například https://whisper.example.com.
- Počítač by měl mít 4 jádra s AVX2 a 8 GB paměti. Pokud Murmel token odmítne, API_KEY a token v aplikaci se neshodují. Pokud Murmel žádný model nezobrazí, model na serveru ještě není načten.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: