C✳CODEZ.WIN
🌐 简体中文

Skill 多语言阅读指南

huggingface-local-models用途、用法与原始来源

用于选择要在本地使用 llama.cpp 和 GGUF 在 CPU、Mac Metal、CUDA 或 ROCm 上运行的模型。涵盖查找 GGUF、量化选择、运行服务器、精确查找 GGUF 文件、转换以及与 OpenAI 兼容的本地服务。

原文采集时间:

来源仓库
huggingface/skills
SKILL.md
skills/huggingface-local-models/SKILL.md
仓库 Star
11,241
仓库最近更新
2026/10/30
能力分类
其他
最近采集时间

许可:Apache-2.0

流程片段用于帮助阅读上游说明。本页没有执行第三方 Skill,不属于实测评测。

下面的用途和操作片段来自上游文档,由本站整理并翻译,和另行标注的 Codez 编辑分析分开展示。

这个 Skill 能做什么

用于选择要在本地使用 llama.cpp 和 GGUF 在 CPU、Mac Metal、CUDA 或 ROCm 上运行的模型。涵盖查找 GGUF、量化选择、运行服务器、精确查找 GGUF 文件、转换以及与 OpenAI 兼容的本地服务。

如何使用:上游操作流程

默认工作流程

使用 Hub 搜索apps=llama.cpp如果可见,请优先使用精确的 HF 本地应用程序代码片段和量化建议。确认具体信息。.gguf文件名https://huggingface.co/api/models//tree/main?recursive=true启动llama-cli -hf :或者llama-server -hf :。

原文片段 · L10 ↗

拥抱脸部本地模特

在 Hugging Face Hub 上搜索与 llama.cpp 兼容的 GGUF 代码库,选择合适的量化模型,然后启动模型。llama-cli或者llama-server。

原文片段 · L6 ↗

量化选择

最好选择HF标记为兼容的精确量化值。?local-app=llama.cpp页面。保留 repo-native 标签,例如UD-Q4_K_M而不是将它们正常化。

原文片段 · L92 ↗
原文片段 · bash ↗
brew install llama.cpp
winget install llama.cpp

环境与依赖

本次未从该文件选出独立的环境要求片段,不代表无需依赖。请继续核对仓库的安装说明和引用文件。

限制与结果检查

本次未从该文件选出独立的限制片段,不代表适用于所有输入或环境。请阅读完整原文,并自行验证实际结果。

开始使用前

  1. 先核对支持的 Agent 宿主和仓库安装说明。保留完整 Skill 目录及其引用的脚本、资源和文档,只复制 SKILL.md 可能漏掉依赖。
  2. 向 Agent 提供实际输入、期望输出和验收标准。调用方式与可用工具取决于宿主环境,本站不假定存在通用的安装命令。
  3. 先在临时项目或输入副本上试用。涉及修改文件、远程服务或计费资源的操作,应逐项核对后再授权。
  4. 按照原文检查项和自己的需求验证输出。成功触发或仓库 Star 较高,都不能证明结果正确。

Skill 文件与目录格式规范 ↗

继续阅读原始文档

翻译与介绍范围

本页从固定版本的上游 SKILL.md 整理用途与操作片段,译文使用辅助翻译。它不是完整手册,也不代表经过兼容性实测;使用前请核对原文及其引用文件。

介绍依据下方列出的固定版本;当前仓库动态和目录采集时间单独展示。

固定版本来源
阅读原文 ↗
原文采集时间
来源提交版本
fabc634a893f62ad5c2039830397efa35fa62715
原文 SHA-256
814640db1d5f2f274aec09d66b3589ed5a0fdcfaf536afd508b1d757dcae1534
返回完整 Skill 目录