Skonfiguruj własny serwer (Pro)
Z Murmel Pro zamiast iPhone’a transkrybuje twój własny serwer Whisper. To się opłaca przy dialektach, takich jak szwajcarski niemiecki. Murmel współpracuje z każdym serwerem, który oferuje interfejs OpenAI do transkrypcji, na przykład speaches z modelem faster-whisper-large-v3-turbo. Nagranie trafia tylko na ten serwer, razem z językiem wybranym w Murmel.
- Na komputerze z Dockerem utwórz plik compose.yaml jak poniżej. Obok niego utwórz plik .env z jednym wierszem API_KEY= i długą losową wartością, na przykład z „openssl rand -hex 32”.
- Uruchom poleceniem „docker compose up -d”. Wczytaj model jeden raz: curl -X POST -H "Authorization: Bearer TWOJ_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- W Murmel otwórz Ustawienia > Własny serwer i stuknij „Dodaj serwer”. Wpisz nazwę, adres i jako token wartość API_KEY, potem wybierz model i zapisz.
- W Ustawieniach > Nagranie > Transkrybowanie wybierz serwer.
- W sieci domowej wpisz adres LAN komputera, na przykład http://192.168.1.20:8000. Jeśli serwer ma być osiągalny także poza domem, potrzebuje adresu https, na przykład przez Cloudflare Tunnel lub reverse proxy. Wtedy w Murmel widnieje na przykład https://whisper.example.com.
- Komputer powinien mieć 4 rdzenie z AVX2 i 8 GB pamięci RAM. Jeśli Murmel odrzuca token, API_KEY i token w aplikacji się nie zgadzają. Jeśli Murmel nie pokazuje żadnego modelu, model nie został jeszcze wczytany na serwerze.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: