Opsæt din egen server (Pro)
Med Murmel Pro transskriberer din egen Whisper-server i stedet for iPhone. Det betaler sig ved dialekt som schweizertysk. Murmel taler med enhver server, der tilbyder OpenAI-grænsefladen til transskriptioner, f.eks. speaches med modellen faster-whisper-large-v3-turbo. Optagelsen sendes kun til denne server, sammen med det sprog, du har valgt i Murmel.
- Opret en fil compose.yaml som nedenfor på en computer med Docker. Læg ved siden af en fil .env med en linje API_KEY= og en lang tilfældig værdi, f.eks. fra »openssl rand -hex 32«.
- Start med »docker compose up -d«. Indlæs modellen én gang: curl -X POST -H "Authorization: Bearer DIN_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- Tryk i Murmel på »Tilføj server« under Indstillinger > Egen server. Angiv navn, adresse og værdien af API_KEY som token, vælg derefter modellen, og gem.
- Vælg serveren under Indstillinger > Optagelse > Transskribering.
- På hjemmenetværket angiver du computerens LAN-adresse, f.eks. http://192.168.1.20:8000. Skal serveren også kunne nås på farten, skal den have en https-adresse, f.eks. via en Cloudflare-tunnel eller en reverse proxy. Så står der f.eks. https://whisper.example.com i Murmel.
- Computeren bør have 4 kerner med AVX2 og 8 GB hukommelse. Afviser Murmel tokenet, passer API_KEY og tokenet i appen ikke sammen. Viser Murmel ingen model, er modellen endnu ikke indlæst på serveren.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: