Sett opp egen server (Pro)
Med Murmel Pro transkriberer din egen Whisper-server i stedet for iPhone. Det lønner seg ved dialekt som sveitsertysk. Murmel snakker med alle servere som tilbyr OpenAI-grensesnittet for transkripsjoner, for eksempel speaches med modellen faster-whisper-large-v3-turbo. Opptaket går bare til denne serveren, sammen med språket du har valgt i Murmel.
- Opprett en fil compose.yaml som nedenfor på en datamaskin med Docker. Ved siden av den en fil .env med én linje API_KEY= og en lang tilfeldig verdi, for eksempel fra «openssl rand -hex 32».
- Start med «docker compose up -d». Last inn modellen én gang: curl -X POST -H "Authorization: Bearer DIN_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- Trykk på «Legg til server» under Innstillinger > Egen server i Murmel. Skriv inn navn, adresse og verdien av API_KEY som token, velg deretter modellen og lagre.
- Velg serveren under Innstillinger > Opptak > Transkribering.
- På hjemmenettet legger du inn LAN-adressen til datamaskinen, for eksempel http://192.168.1.20:8000. Skal serveren også kunne nås når du er ute, trenger den en https-adresse, for eksempel via en Cloudflare-tunnel eller en omvendt proxy. Da står det for eksempel https://whisper.example.com i Murmel.
- Datamaskinen bør ha 4 kjerner med AVX2 og 8 GB minne. Avviser Murmel tokenet, stemmer ikke API_KEY og tokenet i appen overens. Viser Murmel ingen modell, er modellen ennå ikke lastet inn på serveren.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: