Panduan membaca yang dilokalisasi
huggingface-local-modelsTujuan, penggunaan, dan sumber
Digunakan untuk memilih model yang akan dijalankan secara lokal dengan llama.cpp dan GGUF pada CPU, Mac Metal, CUDA, atau ROCm. Mencakup pencarian GGUF, pemilihan kuantisasi, menjalankan server, pencarian file GGUF yang tepat, konversi, dan penyajian lokal yang kompatibel dengan OpenAI.
Sumber diambil:
- Repositori sumber
- huggingface/skills
- SKILL.md
skills/huggingface-local-models/SKILL.md- Bintang Repositori
- 11,241
- Pembaruan terakhir repositori
- 2026-10-30
- Klasifikasi Kemampuan
- Lainnya
- Waktu pengumpulan terbaru
Lisensi: Apache-2.0
Cuplikan alur kerja adalah alat bantu baca, bukan instruksi yang dapat dieksekusi dari Codez. Tidak ada Skill pihak ketiga yang dijalankan untuk menghasilkan halaman ini.
Bagian yang menjelaskan tujuan dan alur kerja di bawah ini merupakan materi dari hulu, yang telah diorganisir dan diterjemahkan untuk dibaca. Bagian ini berbeda dari analisis editorial Codez yang diberi label secara terpisah.
Apa yang dilakukan oleh Skill ini?
Digunakan untuk memilih model yang akan dijalankan secara lokal dengan llama.cpp dan GGUF pada CPU, Mac Metal, CUDA, atau ROCm. Mencakup pencarian GGUF, pemilihan kuantisasi, menjalankan server, pencarian file GGUF yang tepat, konversi, dan penyajian lokal yang kompatibel dengan OpenAI.
Bagaimana alur kerja hulu bekerja
Alur Kerja Default
Cari di Hub denganapps=llama.cppLebih suka cuplikan aplikasi lokal HF dan rekomendasi kuantitatif yang tepat saat terlihat. Konfirmasikan keakuratannya..ggufnama file denganhttps://huggingface.co/api/models//tree/main?recursive=true. Luncurkan denganllama-cli -hf :ataullama-server -hf :.
Model Lokal Berpelukan Wajah
Cari repositori GGUF yang kompatibel dengan llama.cpp di Hugging Face Hub, pilih kuant yang tepat, dan jalankan modelnya denganllama-cliataullama-server.
Pilihan Kuantitas
Lebih suka kuantitas tepat yang ditandai HF sebagai kompatibel pada?local-app=llama.cpphalaman. Pertahankan label asli repositori sepertiUD-Q4_K_Malih-alih menormalkannya.
brew install llama.cpp
winget install llama.cppPersyaratan dan pengaturan
Tidak ada bagian persyaratan singkat yang dipilih dari file ini. Ini tidak berarti Skill tersebut tidak memiliki dependensi. Periksa petunjuk pengaturan repositori dan file yang dirujuk.
Batasan dan pemeriksaan kualitas
Tidak ada bagian batasan terpisah yang dipilih dari file ini. Ini tidak berarti Keterampilan ini aman untuk setiap input atau lingkungan. Tinjau sumber lengkapnya dan validasi hasil Anda sendiri.
Mulailah dengan uji coba yang aman.
- Periksa host yang didukung dan petunjuk instalasi repositori. Simpan direktori Skill beserta skrip, aset, dan dokumentasi yang dirujuk di dalamnya secara bersamaan;SKILL.mdsendirian dapat menghilangkan dependensi.
- Berikan input sebenarnya, output yang diinginkan, dan kriteria penerimaan kepada agen. Sintaks pemanggilan dan alat yang tersedia bergantung pada host; situs ini tidak mengasumsikan perintah instalasi universal.
- Cobalah alur kerja sumber dalam proyek sementara atau pada salinannya. Tinjau operasi yang mengubah file, layanan jarak jauh, atau sumber daya yang dapat ditagih sebelum mengizinkannya.
- Validasi output terhadap pemeriksaan kualitas sumber dan persyaratan Anda sendiri. Pemicu yang berhasil atau jumlah bintang repositori yang tinggi tidak menjamin hasil yang benar.
Baca selengkapnya di sumber aslinya.
Keterampilan Terkait
Terjemahan dan ruang lingkup
Panduan membaca ini memilih bagian-bagian dari teks yang telah disematkan di bagian atas.SKILL.mdTerjemahan ini dibantu. Ini bukan manual lengkap atau klaim kompatibilitas yang telah diuji. Bacalah dokumen asli dan file referensinya sebelum digunakan.
Pendahuluan ini mengacu pada versi yang disematkan di bawah ini; aktivitas repositori saat ini dan waktu pengumpulan ditampilkan secara terpisah.
- Sumber yang disematkan
- Baca teks aslinya ↗
- Sumber diambil
- Komit sumber
fabc634a893f62ad5c2039830397efa35fa62715- Sumber SHA-256
814640db1d5f2f274aec09d66b3589ed5a0fdcfaf536afd508b1d757dcae1534