Thiết lập máy chủ riêng (Pro)
Với Murmel Pro, máy chủ Whisper riêng của bạn chép lời thay cho iPhone. Điều này đáng giá với phương ngữ như tiếng Đức Thụy Sĩ. Murmel làm việc với mọi máy chủ cung cấp giao diện chép lời của OpenAI, ví dụ speaches với mô hình faster-whisper-large-v3-turbo. Bản ghi âm chỉ được gửi đến máy chủ đó, cùng với ngôn ngữ bạn đã chọn trong Murmel.
- Trên một máy tính có Docker, tạo tệp compose.yaml như bên dưới. Bên cạnh đó tạo tệp .env với một dòng API_KEY= và một giá trị ngẫu nhiên dài, ví dụ từ “openssl rand -hex 32”.
- Khởi động bằng “docker compose up -d”. Tải mô hình một lần: curl -X POST -H "Authorization: Bearer YOUR_API_KEY" http://localhost:8000/v1/models/deepdml/faster-whisper-large-v3-turbo-ct2
- Trong Murmel, vào Cài đặt > Máy chủ riêng và chạm vào “Thêm máy chủ”. Nhập tên, địa chỉ và giá trị của API_KEY làm token, rồi chọn mô hình và lưu.
- Trong Cài đặt > Ghi âm > Chép lời, chọn máy chủ.
- Trong mạng gia đình, bạn nhập địa chỉ LAN của máy tính, ví dụ http://192.168.1.20:8000. Để máy chủ truy cập được cả khi ra ngoài, nó cần một địa chỉ https, ví dụ qua Cloudflare Tunnel hoặc reverse proxy. Khi đó trong Murmel sẽ là, ví dụ, https://whisper.example.com.
- Máy tính nên có 4 nhân hỗ trợ AVX2 và 8 GB bộ nhớ. Nếu Murmel từ chối token, API_KEY và token trong ứng dụng không khớp nhau. Nếu Murmel không hiện mô hình nào, mô hình chưa được tải trên máy chủ.
services:
speaches:
image: ghcr.io/speaches-ai/speaches:latest-cpu
restart: unless-stopped
environment:
API_KEY: ${API_KEY}
WHISPER__TTL: "-1"
ports:
- "8000:8000"
volumes:
- hf-hub-cache:/home/ubuntu/.cache/huggingface/hub
volumes:
hf-hub-cache: