Ρύθμιση δικού σου διακομιστή (Pro)
Με το Murmel Pro, τη μεταγραφή την κάνει ο δικός σου διακομιστής Whisper αντί για το iPhone. Αξίζει σε διαλέκτους όπως τα ελβετικά γερμανικά. Το Murmel συνεργάζεται με κάθε διακομιστή που προσφέρει τη διεπαφή μεταγραφής του OpenAI, για παράδειγμα το speaches με το μοντέλο faster-whisper-large-v3-turbo. Η ηχογράφηση πηγαίνει μόνο σε αυτόν τον διακομιστή, μαζί με τη γλώσσα που επέλεξες στο Murmel.
- Σε έναν υπολογιστή με Docker, δημιούργησε ένα αρχείο compose.yaml όπως το παρακάτω. Δίπλα του, ένα αρχείο .env με μία γραμμή API_KEY= και μια μεγάλη τυχαία τιμή, για παράδειγμα από το «openssl rand -hex 32».
- Ξεκίνησέ το με «docker compose up -d». Φόρτωσε το μοντέλο μία φορά: curl -X POST -H "Authorization: Bearer ΤΟ_API_KEY_ΣΟΥ" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- Στο Murmel, στις Ρυθμίσεις > Δικός σου διακομιστής, πάτησε «Προσθήκη διακομιστή». Συμπλήρωσε όνομα, διεύθυνση και ως token την τιμή του API_KEY, μετά επίλεξε το μοντέλο και αποθήκευσε.
- Στις Ρυθμίσεις > Ηχογράφηση > Μεταγραφή, επίλεξε τον διακομιστή.
- Στο οικιακό δίκτυο συμπληρώνεις τη διεύθυνση LAN του υπολογιστή, για παράδειγμα http://192.168.1.20:8000. Για να είναι ο διακομιστής προσβάσιμος και εκτός σπιτιού, χρειάζεται διεύθυνση https, για παράδειγμα μέσω Cloudflare Tunnel ή reverse proxy. Τότε στο Murmel γράφει για παράδειγμα https://whisper.example.com.
- Ο υπολογιστής πρέπει να έχει 4 πυρήνες με AVX2 και 8 GB μνήμης RAM. Αν το Murmel απορρίπτει το token, το API_KEY και το token στην εφαρμογή δεν ταιριάζουν. Αν το Murmel δεν δείχνει μοντέλο, το μοντέλο δεν έχει φορτωθεί ακόμη στον διακομιστή.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: