Eigen server instellen (Pro)
Met Murmel Pro transcribeert je eigen Whisper-server in plaats van de iPhone. Dat loont bij dialect zoals Zwitserduits. Murmel werkt met elke server die de OpenAI-interface voor transcripties aanbiedt, bijvoorbeeld speaches met het model faster-whisper-large-v3-turbo. De opname gaat alleen naar deze server, samen met de taal die je in Murmel hebt gekozen.
- Maak op een computer met Docker een bestand compose.yaml aan zoals hieronder. Zet ernaast een bestand .env met één regel API_KEY= en een lange willekeurige waarde, bijvoorbeeld uit ‘openssl rand -hex 32’.
- Start met ‘docker compose up -d’. Laad het model één keer: curl -X POST -H "Authorization: Bearer JOUW_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- Tik in Murmel onder Instellingen > Eigen server op ‘Voeg server toe’. Vul naam, adres en als token de waarde van API_KEY in, kies dan het model en bewaar.
- Kies onder Instellingen > Opname > Transcriberen de server.
- In je thuisnetwerk vul je het LAN-adres van de computer in, bijvoorbeeld http://192.168.1.20:8000. Moet de server ook onderweg bereikbaar zijn, dan heeft hij een https-adres nodig, bijvoorbeeld via een Cloudflare Tunnel of een reverse proxy. In Murmel staat dan bijvoorbeeld https://whisper.example.com.
- De computer moet 4 cores met AVX2 en 8 GB werkgeheugen hebben. Weigert Murmel het token, dan komen API_KEY en het token in de app niet overeen. Toont Murmel geen model, dan is het model nog niet op de server geladen.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: