Configurează un server propriu (Pro)
Cu Murmel Pro, în locul iPhone-ului transcrie propriul tău server Whisper. Merită la dialecte precum germana elvețiană. Murmel funcționează cu orice server care oferă API-ul OpenAI pentru transcrieri, de exemplu speaches cu modelul faster-whisper-large-v3-turbo. Înregistrarea ajunge doar la acest server, împreună cu limba aleasă în Murmel.
- Pe un computer cu Docker, creează un fișier compose.yaml ca cel de mai jos. Lângă el, un fișier .env cu o singură linie API_KEY= și o valoare aleatorie lungă, de exemplu din „openssl rand -hex 32”.
- Pornește cu „docker compose up -d”. Încarcă modelul o singură dată: curl -X POST -H "Authorization: Bearer CHEIA_TA_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- În Murmel, la Setări > Server propriu, atinge „Adaugă server”. Introdu un nume, adresa și, ca token, valoarea din API_KEY, apoi alege modelul și salvează.
- La Setări > Înregistrare > Transcriere alege serverul.
- În rețeaua de acasă introduci adresa LAN a computerului, de exemplu http://192.168.1.20:8000. Dacă serverul trebuie să fie accesibil și în deplasare, are nevoie de o adresă https, de exemplu printr-un tunel Cloudflare sau un reverse proxy. Atunci în Murmel apare, de exemplu, https://whisper.example.com.
- Computerul ar trebui să aibă 4 nuclee cu AVX2 și 8 GB de memorie. Dacă Murmel respinge tokenul, API_KEY și tokenul din aplicație nu coincid. Dacă Murmel nu arată niciun model, modelul nu este încă încărcat pe server.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: