Transformers documentation
Open WebUI
Mulai
Kelas dasar
Model
Preprocessor
Inferensi
API Pipeline
Generate API
Optimasi
Berbicara dengan model
Serving
Pelatihan
Perangkat keras
Kuantisasi
Integrasi ekosistem
Sumber daya
API
Open WebUI
Open WebUI menyediakan antarmuka self-hosted untuk model offline. Aktifkan CORS untuk menyajikan model lokal (fitur ini nonaktif secara default demi keamanan).
transformers serve --enable-cors
Untuk menggunakan server untuk speech-to-text, buka Settings > Audio.
- Setel Speech-to-Text Engine menjadi OpenAI.
- Setel URL ke http://localhost:8000/v1.
- Masukkan model transkripsi di SST Model (openai/whisper-large-v3). Temukan lebih banyak model di Hub.
Mulai obrolan dan berbicara. Model akan mentranskripsi audio Anda ke dalam bidang input.
Update on GitHub