Skill 多語言閱讀指南
huggingface-local-models用途、用法與原始來源
用於選擇要在本機上使用 llama.cpp 和 GGUF 在 CPU、Mac Metal、CUDA 或 ROCm 上運行的模型。涵蓋尋找 GGUF、量化選擇、運行伺服器、精確查找 GGUF 檔案、轉換以及與 OpenAI 相容的本機服務。
原文擷取時間:
- 來源儲存庫
- huggingface/skills
- SKILL.md
skills/huggingface-local-models/SKILL.md- 儲存庫 Star
- 11,241
- 儲存庫最近更新
- 2026-10-30
- 能力分類
- 其他
- 最近採集時間
授權：Apache-2.0
流程片段用來協助閱讀上游說明。本頁沒有執行第三方 Skill，不屬於實測評測。
下面的用途與操作片段來自上游文件，由本站整理並翻譯，和另行標示的 Codez 編輯分析分開呈現。
這個 Skill 能做什麼
用於選擇要在本機上使用 llama.cpp 和 GGUF 在 CPU、Mac Metal、CUDA 或 ROCm 上運行的模型。涵蓋尋找 GGUF、量化選擇、運行伺服器、精確查找 GGUF 檔案、轉換以及與 OpenAI 相容的本機服務。
如何使用：上游操作流程
預設工作流程
使用 Hub 搜尋apps=llama.cpp如果可見，請優先使用精確的 HF 本機應用程式程式碼片段和量化建議。確認具體資訊。.gguf檔案名稱https://huggingface.co/api/models//tree/main?recursive=true啟動llama-cli -hf :或者llama-server -hf :。
擁抱臉部本地模特
在 Hugging Face Hub 上搜尋與 llama.cpp 相容的 GGUF 程式碼庫，選擇合適的量化模型，然後啟動模型。llama-cli或者llama-server。
brew install llama.cpp
winget install llama.cpp環境與相依需求
本次未從該檔案選出獨立的環境需求片段，不代表無須相依套件。請繼續核對儲存庫的安裝說明和引用檔案。
限制與結果檢查
本次未從該檔案選出獨立的限制片段，不代表適用於所有輸入或環境。請閱讀完整原文，並自行驗證實際結果。
開始使用前
- 先核對支援的 Agent 宿主和儲存庫安裝說明。保留完整 Skill 目錄及其引用的腳本、資源和文件，只複製 SKILL.md 可能遺漏相依需求。
- 向 Agent 提供實際輸入、預期輸出和驗收標準。呼叫方式與可用工具取決於宿主環境，本站不假定存在通用的安裝指令。
- 先在暫存專案或輸入副本上試用。涉及修改檔案、遠端服務或計費資源的操作，應逐項核對後再授權。
- 依照原文檢查項目和自己的需求驗證輸出。成功觸發或儲存庫 Star 較高，都不能證明結果正確。
繼續閱讀原始文件
相關 Skill
翻譯與介紹範圍
本頁從固定版本的上游 SKILL.md 整理用途與操作片段，譯文使用輔助翻譯。它不是完整手冊，也不代表經過相容性實測；使用前請核對原文及其引用檔案。
介紹依據下方列出的固定版本；目前儲存庫動態和目錄擷取時間分開呈現。
- 固定版本來源
- 閱讀原文 ↗
- 原文擷取時間
- 來源提交版本
fabc634a893f62ad5c2039830397efa35fa62715- 原文 SHA-256
814640db1d5f2f274aec09d66b3589ed5a0fdcfaf536afd508b1d757dcae1534