Guía de lectura localizada
huggingface-local-modelsFinalidad, uso y origen
Se utiliza para seleccionar modelos que se ejecutarán localmente con llama.cpp y GGUF en CPU, Mac Metal, CUDA o ROCm. Incluye la búsqueda de archivos GGUF, la selección de datos cuantitativos, la ejecución de servidores, la búsqueda exacta de archivos GGUF, la conversión y la ejecución local compatible con OpenAI.
Fuente recuperada:
- Repositorio de origen
- huggingface/skills
- SKILL.md
skills/huggingface-local-models/SKILL.md- Estrellas del repositorio
- 11,241
- Actualización del repositorio
- 2026-10-30
- Clasificación de habilidades
- Otros
- Última recopilación
Licencia: Apache-2.0
Los extractos del flujo de trabajo son guías de lectura, no instrucciones ejecutables de Codez. No se utilizó ninguna habilidad de terceros para generar esta página.
Los siguientes fragmentos sobre el propósito y el flujo de trabajo son material preliminar, organizado y traducido para su lectura. Son distintos del análisis editorial de Codez, que se presenta por separado.
Lo que hace esta habilidad
Se utiliza para seleccionar modelos que se ejecutarán localmente con llama.cpp y GGUF en CPU, Mac Metal, CUDA o ROCm. Incluye la búsqueda de archivos GGUF, la selección de datos cuantitativos, la ejecución de servidores, la búsqueda exacta de archivos GGUF, la conversión y la ejecución local compatible con OpenAI.
Cómo funciona el flujo de trabajo ascendente
Flujo de trabajo predeterminado
Buscar en el Hub conapps=llama.cppPrefiera el fragmento exacto de la aplicación local de HF y la recomendación cuantitativa cuando esté visible. Confirme la exactitud..ggufnombres de archivo conhttps://huggingface.co/api/models//tree/main?recursive=true. Lanzamiento conllama-cli -hf :ollama-server -hf :.
Modelos locales abrazando sus rostros
Busque en Hugging Face Hub repositorios GGUF compatibles con llama.cpp, elija la cantidad correcta y ejecute el modelo conllama-cliollama-server.
Elección cuantitativa
Prefiera la cantidad exacta que HF marca como compatible en el?local-app=llama.cpppágina. Mantenga etiquetas nativas del repositorio comoUD-Q4_K_Men lugar de normalizarlas.
brew install llama.cpp
winget install llama.cppRequisitos y configuración
No se seleccionó ningún fragmento de requisitos breves de este archivo. Esto no significa que la habilidad no tenga dependencias. Consulte las instrucciones de configuración del repositorio y los archivos de referencia.
Límites y controles de calidad
No se seleccionó ningún pasaje con límites específicos en este archivo. Esto no significa que la habilidad sea segura para cualquier entrada o entorno. Revise el código fuente completo y valide su propio resultado.
Comience con una prueba segura.
- Verifique el host compatible y las instrucciones de instalación del repositorio. Mantenga juntos el directorio Skill y sus scripts, recursos y documentación a los que hace referencia;SKILL.mdsolo puede omitir dependencias.
- Proporcione al agente sus datos reales, el resultado deseado y los criterios de aceptación. La sintaxis de invocación y las herramientas disponibles dependen del sistema anfitrión; este sitio no presupone un comando de instalación universal.
- Pruebe el flujo de trabajo original en un proyecto desechable o en una copia. Revise las operaciones que modifican archivos, servicios remotos o recursos facturables antes de autorizarlas.
- Valide el resultado comparándolo con los controles de calidad de origen y sus propios requisitos. Un activador exitoso o un alto número de estrellas en el repositorio no garantizan un resultado correcto.
Lea más en la fuente
Habilidades relacionadas
Traducción y alcance
Esta guía de lectura selecciona pasajes de la sección fijada en la parte superior.SKILL.mdLa traducción es asistida. No se trata de un manual completo ni garantiza la compatibilidad. Lea el original y los archivos a los que hace referencia antes de usarlo.
Esta introducción hace referencia a la versión fijada a continuación; la actividad actual del repositorio y la hora de recopilación se muestran por separado.
- Fuente fijada
- Lee el original ↗
- Fuente recuperada
- Confirmación de origen
fabc634a893f62ad5c2039830397efa35fa62715- Fuente SHA-256
814640db1d5f2f274aec09d66b3589ed5a0fdcfaf536afd508b1d757dcae1534