Guia de leitura localizado
huggingface-local-modelsFinalidade, utilização e fonte
Utilize esta ferramenta para selecionar modelos para execução local com llama.cpp e GGUF em CPU, Mac Metal, CUDA ou ROCm. Abrange a busca de GGUFs, seleção quantitativa, execução de servidores, busca exata de arquivos GGUF, conversão e disponibilização local compatível com OpenAI.
Fonte recuperada:
- Repositório de origem
- huggingface/skills
- SKILL.md
skills/huggingface-local-models/SKILL.md- Estrelas do repositório
- 11,241
- Atualização do repositório
- 2026-10-30
- Classificação de Habilidades
- Outros
- Última coleta
Licença: Apache-2.0
Os trechos do fluxo de trabalho são auxiliares de leitura e não instruções executáveis do Codez. Nenhuma Skill de terceiros foi executada para gerar esta página.
Os trechos abaixo, que descrevem o propósito e o fluxo de trabalho, são material original, organizado e traduzido para facilitar a leitura. Eles são distintos da análise editorial da Codez, que possui uma etiqueta separada.
O que esta habilidade faz
Utilize esta ferramenta para selecionar modelos para execução local com llama.cpp e GGUF em CPU, Mac Metal, CUDA ou ROCm. Abrange a busca de GGUFs, seleção quantitativa, execução de servidores, busca exata de arquivos GGUF, conversão e disponibilização local compatível com OpenAI.
Como funciona o fluxo de trabalho upstream
Fluxo de trabalho padrão
Pesquise no Hub comapps=llama.cppPrefira o trecho de código exato do aplicativo local HF e a recomendação quantitativa quando estiverem visíveis. Confirme a exatidão..ggufnomes de arquivos comhttps://huggingface.co/api/models//tree/main?recursive=true. Inicie comllama-cli -hf :oullama-server -hf :.
Modelos locais que abraçam o rosto
Procure no Hugging Face Hub por repositórios GGUF compatíveis com llama.cpp, escolha o quant correto e execute o modelo comllama-clioullama-server.
Escolha quantitativa
Prefira o valor quantitativo exato que a HF marcar como compatível no?local-app=llama.cpppágina. Mantenha rótulos nativos do repositório, comoUD-Q4_K_Mem vez de normalizá-los.
brew install llama.cpp
winget install llama.cppRequisitos e configuração
Nenhuma passagem de requisitos resumida foi selecionada deste arquivo. Isso não significa que a Skill não tenha dependências. Verifique as instruções de configuração do repositório e os arquivos referenciados.
Limites e verificações de qualidade
Nenhuma passagem de limites separada foi selecionada deste arquivo. Isso não significa que a Skill seja segura para todas as entradas ou ambientes. Analise o código-fonte completo e valide seus próprios resultados.
Comece com um teste seguro.
- Verifique o host compatível e as instruções de instalação do repositório. Mantenha o diretório Skill e seus scripts, recursos e documentação referenciados juntos;SKILL.mdsozinho pode omitir dependências.
- Forneça ao agente suas entradas reais, a saída desejada e os critérios de aceitação. A sintaxe de invocação e as ferramentas disponíveis dependem do host; este site não pressupõe um comando de instalação universal.
- Teste o fluxo de trabalho original em um projeto descartável ou em uma cópia. Analise as operações que alteram arquivos, serviços remotos ou recursos faturáveis antes de permiti-las.
- Valide o resultado comparando-o com as verificações de qualidade da fonte e com seus próprios requisitos. Um gatilho bem-sucedido ou uma alta contagem de estrelas no repositório não garantem um resultado correto.
Leia mais na fonte.
Habilidades relacionadas
Tradução e escopo
Este guia de leitura seleciona trechos do texto fixado a montante.SKILL.mdA tradução foi feita com auxílio de ferramentas. Este não é um manual completo nem garante compatibilidade comprovada. Leia o original e os arquivos referenciados antes de usar.
Esta introdução refere-se à versão fixada abaixo; a atividade atual do repositório e o tempo de coleta são mostrados separadamente.
- Fonte fixada
- Leia o original ↗
- Fonte recuperada
- Commit de origem
fabc634a893f62ad5c2039830397efa35fa62715- Fonte SHA-256
814640db1d5f2f274aec09d66b3589ed5a0fdcfaf536afd508b1d757dcae1534