Eigenen Server einrichten (Pro)
Mit Murmel Pro transkribiert statt des iPhones dein eigener Whisper-Server. Das lohnt sich bei Dialekt wie Schweizerdeutsch. Murmel spricht mit jedem Server, der die OpenAI-Schnittstelle für Transkripte anbietet, zum Beispiel speaches mit dem Modell faster-whisper-large-v3-turbo. Die Aufnahme geht nur an diesen Server, zusammen mit der Sprache, die du in Murmel gewählt hast.
- Auf einem Rechner mit Docker eine Datei compose.yaml wie unten anlegen. Daneben eine Datei .env mit einer Zeile API_KEY= und einem langen Zufallswert, etwa aus „openssl rand -hex 32“.
- Mit „docker compose up -d“ starten. Das Modell einmal laden: curl -X POST -H "Authorization: Bearer DEIN_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- In Murmel unter Einstellungen > Eigener Server auf „Server hinzufügen“ tippen. Name, Adresse und als Token den Wert von API_KEY eintragen, dann das Modell wählen und sichern.
- Unter Einstellungen > Aufnahme > Transkribieren den Server wählen.
- Im Heimnetz trägst du die LAN-Adresse des Rechners ein, zum Beispiel http://192.168.1.20:8000. Soll der Server auch unterwegs erreichbar sein, braucht er eine https-Adresse, etwa über einen Cloudflare-Tunnel oder einen Reverse Proxy. Dann steht in Murmel zum Beispiel https://whisper.example.com.
- Der Rechner sollte 4 Kerne mit AVX2 und 8 GB Arbeitsspeicher haben. Lehnt Murmel das Token ab, stimmen API_KEY und das Token in der App nicht überein. Zeigt Murmel kein Modell, ist das Modell auf dem Server noch nicht geladen.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: