C✳CODEZ.WIN
🌐 繁體中文

Skill 多語言閱讀指南

hf-mem用途、用法與原始來源

使用 Hugging Face CLI 估算從 Hugging Face Hub 載入 Safetensors 或 GGUF 模型權重進行推理所需的記憶體。

原文擷取時間:

來源儲存庫
huggingface/skills
SKILL.md
skills/hf-mem/SKILL.md
儲存庫 Star
11,241
儲存庫最近更新
2026-10-30
能力分類
其他
最近採集時間

授權:Apache-2.0

流程片段用來協助閱讀上游說明。本頁沒有執行第三方 Skill,不屬於實測評測。

下面的用途與操作片段來自上游文件,由本站整理並翻譯,和另行標示的 Codez 編輯分析分開呈現。

這個 Skill 能做什麼

使用 Hugging Face CLI 估算從 Hugging Face Hub 載入 Safetensors 或 GGUF 模型權重進行推理所需的記憶體。

如何使用:上游操作流程

如何跑步?

奔跑--model-id指向 Hugging Face Hub 儲存庫,該儲存庫將檢查它是否包含 Safetensors(透過model.safetensors,model.safetensors.index.json如果分片,或者model_index.json對於擴散器)或 GGUF 模型權重。如果儲存庫包含多種精度/量化的 GGUF 模型權重,則估計將基於每個文件進行;而對於推理,您無需加載所有精度,只需加載其中一種精度即可。也就是說,對於 GGUF,您可能還需要提供--gguf-file指定要運行的特定檔案(或分片後的路徑)。此外,hf-mem附帶一個--experimental該標誌還會計算 KV 快取記憶體需求,這對於大型語言模型很有用,這意味著它適用於 LLM(...ForCausalLM),VLM(...ForConditionalGeneration)和 GGUF 模型。對於 Safetensors,請使用以下方式:

原文片段 · L19 ↗

概述

hf_mem使用 HTTP Range 請求(即無需在本地下載或加載任何權重)來估算 Hugging Face Hub 上 Safetensors 和 GGUF 模型推理所需的內存,包括模型權重和可選的 KV 快取。

原文片段 · L6 ↗

何時使用?

使用者詢問模型運行需要多少顯存或記憶體;使用者想知道模型是否適合其GPU或特定實例;使用者引用Hugging Face模型ID或URL,並詢問推理要求。

原文片段 · L8 ↗
原文片段 · bash ↗
uvx hf-mem --model-id <model-id> --json-output

環境與相依需求

有哪些要求?

uv已安裝(用於)uvx)HF_TOKEN環境變數或--hf-token旗幟(僅適用於封閉式或私人模式)

原文片段 · L14 ↗

限制與結果檢查

本次未從該檔案選出獨立的限制片段,不代表適用於所有輸入或環境。請閱讀完整原文,並自行驗證實際結果。

開始使用前

  1. 先核對支援的 Agent 宿主和儲存庫安裝說明。保留完整 Skill 目錄及其引用的腳本、資源和文件,只複製 SKILL.md 可能遺漏相依需求。
  2. 向 Agent 提供實際輸入、預期輸出和驗收標準。呼叫方式與可用工具取決於宿主環境,本站不假定存在通用的安裝指令。
  3. 先在暫存專案或輸入副本上試用。涉及修改檔案、遠端服務或計費資源的操作,應逐項核對後再授權。
  4. 依照原文檢查項目和自己的需求驗證輸出。成功觸發或儲存庫 Star 較高,都不能證明結果正確。

Skill 檔案與目錄格式規範 ↗

繼續閱讀原始文件

翻譯與介紹範圍

本頁從固定版本的上游 SKILL.md 整理用途與操作片段,譯文使用輔助翻譯。它不是完整手冊,也不代表經過相容性實測;使用前請核對原文及其引用檔案。

介紹依據下方列出的固定版本;目前儲存庫動態和目錄擷取時間分開呈現。

固定版本來源
閱讀原文 ↗
原文擷取時間
來源提交版本
fabc634a893f62ad5c2039830397efa35fa62715
原文 SHA-256
ee99f9d97e084aa61a80eaec4e6de2265341e71256d918d48fb87a2ac01ce99f
返回完整 Skill 目錄