Sediakan pelayan sendiri (Pro)
Dengan Murmel Pro, pelayan Whisper anda sendiri yang mentranskripsi, bukan iPhone. Ini berbaloi untuk dialek seperti Jerman Swiss. Murmel berfungsi dengan mana-mana pelayan yang menawarkan antara muka transkripsi OpenAI, contohnya speaches dengan model faster-whisper-large-v3-turbo. Rakaman hanya dihantar ke pelayan itu, bersama bahasa yang anda pilih dalam Murmel.
- Pada komputer dengan Docker, cipta fail compose.yaml seperti di bawah. Di sebelahnya, cipta fail .env dengan satu baris API_KEY= diikuti nilai rawak yang panjang, contohnya daripada “openssl rand -hex 32”.
- Mulakan dengan “docker compose up -d”. Muatkan model sekali: curl -X POST -H "Authorization: Bearer API_KEY_ANDA" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- Dalam Murmel, buka Seting > Pelayan sendiri dan ketik “Tambah pelayan”. Masukkan nama, alamat dan nilai API_KEY sebagai token, kemudian pilih model dan simpan.
- Di Seting > Rakaman > Transkripsi, pilih pelayan.
- Dalam rangkaian rumah, masukkan alamat LAN komputer, contohnya http://192.168.1.20:8000. Untuk mencapai pelayan semasa di luar, ia memerlukan alamat https, contohnya melalui Cloudflare Tunnel atau proksi songsang. Dalam Murmel kemudiannya tertera contohnya https://whisper.example.com.
- Komputer sepatutnya mempunyai 4 teras dengan AVX2 dan memori 8 GB. Jika Murmel menolak token, API_KEY dan token dalam app tidak sepadan. Jika Murmel tidak menunjukkan model, model belum dimuatkan pada pelayan.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: