C✳CODEZ.WIN
🌐 Português

Guia de leitura localizado

hf-memFinalidade, utilização e fonte

A CLI do Hugging Face permite estimar a memória necessária para carregar os pesos dos modelos Safetensors ou GGUF para inferência a partir do Hugging Face Hub.

Fonte recuperada:

Repositório de origem
huggingface/skills
SKILL.md
skills/hf-mem/SKILL.md
Estrelas do repositório
11,241
Atualização do repositório
2026-10-30
Classificação de Habilidades
Outros
Última coleta

Licença: Apache-2.0

SKILL.md original

Os trechos do fluxo de trabalho são auxiliares de leitura e não instruções executáveis ​​do Codez. Nenhuma Skill de terceiros foi executada para gerar esta página.

Os trechos abaixo, que descrevem o propósito e o fluxo de trabalho, são material original, organizado e traduzido para facilitar a leitura. Eles são distintos da análise editorial da Codez, que possui uma etiqueta separada.

O que esta habilidade faz

A CLI do Hugging Face permite estimar a memória necessária para carregar os pesos dos modelos Safetensors ou GGUF para inferência a partir do Hugging Face Hub.

Como funciona o fluxo de trabalho upstream

Como correr?

Corra com--model-idapontando para o repositório Hugging Face Hub, que verificará se ele contém Safetensors (viamodel.safetensors,model.safetensors.index.jsonse fragmentado, oumodel_index.jsonpara Difusores) ou pesos do modelo GGUF. Se o repositório contiver pesos do modelo GGUF em múltiplas precisões/quantizações, as estimativas serão feitas por arquivo, enquanto que para inferência você não carregará todos, mas apenas uma única precisão. Dito isso, para GGUF, você também pode precisar fornecer--gguf-filepara selecionar o arquivo específico (ou caminho, se fragmentado) que você deseja executar. Além disso,hf-memvem com um--experimentalsinalizador que também calculará os requisitos de memória cache KV, útil para modelos de linguagem grandes, o que significa que se aplica a LLMs (...ForCausalLM), VLMs (...ForConditionalGeneration), e modelos GGUF. Para Safetensors, use como:

Passagem a montante · L19 ↗

Visão geral

hf_memEstima a memória necessária para inferência, incluindo pesos do modelo e um cache KV opcional, para Safetensors e GGUF para modelos no Hugging Face Hub usando solicitações HTTP Range, ou seja, sem baixar ou carregar nenhum peso localmente.

Passagem a montante · L6 ↗

Quando usar?

O usuário pergunta quanta VRAM ou memória um modelo precisa para ser executado. O usuário quer saber se um modelo cabe em sua GPU ou em uma determinada instância. O usuário referencia um ID ou URL de modelo da Hugging Face e pergunta sobre os requisitos de inferência.

Passagem a montante · L8 ↗
Passagem a montante · bash ↗
uvx hf-mem --model-id <model-id> --json-output

Requisitos e configuração

Quais são os requisitos?

uvinstalado (parauvx)HF_TOKENvariável de ambiente ou--hf-tokensinalizador (somente para modelos com acesso restrito ou privado)

Passagem a montante · L14 ↗

Limites e verificações de qualidade

Nenhuma passagem de limites separada foi selecionada deste arquivo. Isso não significa que a Skill seja segura para todas as entradas ou ambientes. Analise o código-fonte completo e valide seus próprios resultados.

Comece com um teste seguro.

  1. Verifique o host compatível e as instruções de instalação do repositório. Mantenha o diretório Skill e seus scripts, recursos e documentação referenciados juntos;SKILL.mdsozinho pode omitir dependências.
  2. Forneça ao agente suas entradas reais, a saída desejada e os critérios de aceitação. A sintaxe de invocação e as ferramentas disponíveis dependem do host; este site não pressupõe um comando de instalação universal.
  3. Teste o fluxo de trabalho original em um projeto descartável ou em uma cópia. Analise as operações que alteram arquivos, serviços remotos ou recursos faturáveis ​​antes de permiti-las.
  4. Valide o resultado comparando-o com as verificações de qualidade da fonte e com seus próprios requisitos. Um gatilho bem-sucedido ou uma alta contagem de estrelas no repositório não garantem um resultado correto.

Especificação de formato e diretório de habilidades ↗

Leia mais na fonte.

Tradução e escopo

Este guia de leitura seleciona trechos do texto fixado a montante.SKILL.mdA tradução foi feita com auxílio de ferramentas. Este não é um manual completo nem garante compatibilidade comprovada. Leia o original e os arquivos referenciados antes de usar.

Esta introdução refere-se à versão fixada abaixo; a atividade atual do repositório e o tempo de coleta são mostrados separadamente.

Fonte recuperada
Commit de origem
fabc634a893f62ad5c2039830397efa35fa62715
Fonte SHA-256
ee99f9d97e084aa61a80eaec4e6de2265341e71256d918d48fb87a2ac01ce99f
Voltar ao catálogo completo de habilidades