C✳CODEZ.WIN
🌐 Bahasa Indonesia

Panduan membaca yang dilokalisasi

hf-memTujuan, penggunaan, dan sumber

Hugging Face CLI untuk memperkirakan memori yang dibutuhkan untuk memuat bobot model Safetensors atau GGUF untuk inferensi dari Hugging Face Hub.

Sumber diambil:

Repositori sumber
huggingface/skills
SKILL.md
skills/hf-mem/SKILL.md
Bintang Repositori
11,241
Pembaruan terakhir repositori
2026-10-30
Klasifikasi Kemampuan
Lainnya
Waktu pengumpulan terbaru

Lisensi: Apache-2.0

SKILL.md asli

Cuplikan alur kerja adalah alat bantu baca, bukan instruksi yang dapat dieksekusi dari Codez. Tidak ada Skill pihak ketiga yang dijalankan untuk menghasilkan halaman ini.

Bagian yang menjelaskan tujuan dan alur kerja di bawah ini merupakan materi dari hulu, yang telah diorganisir dan diterjemahkan untuk dibaca. Bagian ini berbeda dari analisis editorial Codez yang diberi label secara terpisah.

Apa yang dilakukan oleh Skill ini?

Hugging Face CLI untuk memperkirakan memori yang dibutuhkan untuk memuat bobot model Safetensors atau GGUF untuk inferensi dari Hugging Face Hub.

Bagaimana alur kerja hulu bekerja

Bagaimana cara berlari?

Berlari bersama--model-idmengarahkan ke repositori Hugging Face Hub yang akan memeriksa apakah repositori tersebut berisi Safetensors (melaluimodel.safetensors,model.safetensors.index.jsonjika terpecah, ataumodel_index.json(untuk Diffuser) atau bobot model GGUF di dalamnya. Jika repositori berisi bobot model GGUF dalam beberapa presisi/kuantisasi, estimasi akan dilakukan per file, sedangkan untuk inferensi Anda tidak akan memuat semuanya, melainkan hanya satu presisi. Dengan demikian, untuk GGUF Anda mungkin perlu menyediakan--gguf-fileuntuk menargetkan file spesifik (atau jalur jika di-sharding) yang ingin Anda jalankan. Selain itu,hf-memdilengkapi dengan--experimentalflag yang juga akan menghitung kebutuhan memori cache KV, berguna untuk model bahasa besar, artinya berlaku untuk LLM (...ForCausalLM), VLM (...ForConditionalGeneration), dan model GGUF. Untuk Safetensor, gunakan sebagai:

Jalur hulu · L19 ↗

Ringkasan

hf_memmemperkirakan memori yang dibutuhkan untuk inferensi, termasuk bobot model dan cache KV opsional, untuk Safetensors dan GGUF untuk model pada Hugging Face Hub menggunakan permintaan HTTP Range, yaitu tanpa mengunduh atau memuat bobot apa pun secara lokal.

Jalur hulu · L6 ↗

Kapan digunakan?

Pengguna bertanya berapa banyak VRAM atau memori yang dibutuhkan model untuk berjalan. Pengguna ingin tahu apakah model tersebut sesuai dengan GPU mereka atau instance tertentu. Pengguna merujuk pada ID atau URL model Hugging Face dan bertanya tentang persyaratan inferensi.

Jalur hulu · L8 ↗
Jalur hulu · bash ↗
uvx hf-mem --model-id <model-id> --json-output

Persyaratan dan pengaturan

Apa saja persyaratannya?

uvterpasang (untukuvx)HF_TOKENvariabel lingkungan atau--hf-tokenbendera (hanya untuk model berpagar atau pribadi)

Jalur hulu · L14 ↗

Batasan dan pemeriksaan kualitas

Tidak ada bagian batasan terpisah yang dipilih dari file ini. Ini tidak berarti Keterampilan ini aman untuk setiap input atau lingkungan. Tinjau sumber lengkapnya dan validasi hasil Anda sendiri.

Mulailah dengan uji coba yang aman.

  1. Periksa host yang didukung dan petunjuk instalasi repositori. Simpan direktori Skill beserta skrip, aset, dan dokumentasi yang dirujuk di dalamnya secara bersamaan;SKILL.mdsendirian dapat menghilangkan dependensi.
  2. Berikan input sebenarnya, output yang diinginkan, dan kriteria penerimaan kepada agen. Sintaks pemanggilan dan alat yang tersedia bergantung pada host; situs ini tidak mengasumsikan perintah instalasi universal.
  3. Cobalah alur kerja sumber dalam proyek sementara atau pada salinannya. Tinjau operasi yang mengubah file, layanan jarak jauh, atau sumber daya yang dapat ditagih sebelum mengizinkannya.
  4. Validasi output terhadap pemeriksaan kualitas sumber dan persyaratan Anda sendiri. Pemicu yang berhasil atau jumlah bintang repositori yang tinggi tidak menjamin hasil yang benar.

Spesifikasi format dan direktori keterampilan ↗

Baca selengkapnya di sumber aslinya.

Terjemahan dan ruang lingkup

Panduan membaca ini memilih bagian-bagian dari teks yang telah disematkan di bagian atas.SKILL.mdTerjemahan ini dibantu. Ini bukan manual lengkap atau klaim kompatibilitas yang telah diuji. Bacalah dokumen asli dan file referensinya sebelum digunakan.

Pendahuluan ini mengacu pada versi yang disematkan di bawah ini; aktivitas repositori saat ini dan waktu pengumpulan ditampilkan secara terpisah.

Sumber yang disematkan
Baca teks aslinya ↗
Sumber diambil
Komit sumber
fabc634a893f62ad5c2039830397efa35fa62715
Sumber SHA-256
ee99f9d97e084aa61a80eaec4e6de2265341e71256d918d48fb87a2ac01ce99f
Kembali ke katalog Keterampilan lengkap