현지화된 읽기 가이드
hf-mem목적, 사용법 및 출처
Hugging Face CLI를 사용하여 Hugging Face Hub에서 추론을 위해 Safetensor 또는 GGUF 모델 가중치를 로드하는 데 필요한 메모리를 추정합니다.
출처 검색됨:
- 소스 저장소
- huggingface/skills
- SKILL.md
skills/hf-mem/SKILL.md- 저장소 Star
- 11,241
- 저장소 최근 업데이트
- 2026-10-30
- 능력 분류
- 기타
- 최근 수집 시간
라이선스: Apache-2.0
워크플로 발췌본은 이해를 돕기 위한 자료이며, Codez에서 제공하는 실행 가능한 명령어가 아닙니다. 이 페이지를 생성하는 데 타사 Skill은 사용되지 않았습니다.
아래의 목적 및 워크플로 관련 내용은 읽기 쉽도록 정리 및 번역된 상위 자료입니다. 이는 별도로 분류된 Codez 편집 분석과는 별개입니다.
이 스킬의 기능
Hugging Face CLI를 사용하여 Hugging Face Hub에서 추론을 위해 Safetensor 또는 GGUF 모델 가중치를 로드하는 데 필요한 메모리를 추정합니다.
업스트림 워크플로우 작동 방식
실행 방법은 무엇인가요?
함께 실행하세요--model-idHugging Face Hub 저장소를 가리키며, 해당 저장소에 Safetensor가 포함되어 있는지 확인합니다(via)model.safetensors,model.safetensors.index.json분할된 경우, 또는model_index.json디퓨저(Diffusers) 또는 GGUF 모델 가중치를 포함해야 합니다. 저장소에 여러 정밀도/양자화 수준의 GGUF 모델 가중치가 포함되어 있는 경우, 추정은 파일 단위로 수행되지만 추론 시에는 모든 가중치를 로드하는 것이 아니라 단일 정밀도의 가중치만 로드합니다. 즉, GGUF의 경우 특정 정보를 제공해야 할 수도 있습니다.--gguf-file실행하려는 특정 파일(또는 샤딩된 경우 경로)을 대상으로 지정합니다. 또한,hf-mem~와 함께 제공됩니다--experimental이 플래그는 KV 캐시 메모리 요구 사항도 계산하며, 대규모 언어 모델에 유용합니다. 즉, LLM에 적용됩니다....ForCausalLM), VLMs (...ForConditionalGeneration), 및 GGUF 모델. Safetensor의 경우 다음과 같이 사용하십시오.
개요
hf_memHTTP 범위 요청을 사용하여 Hugging Face Hub의 모델에 대한 Safetensor 및 GGUF 추론에 필요한 메모리(모델 가중치 및 선택적 KV 캐시 포함)를 추정합니다. 즉, 가중치를 로컬에 다운로드하거나 로드하지 않고 계산합니다.
언제 사용해야 할까요?
사용자가 모델 실행에 필요한 VRAM 또는 메모리 용량을 문의합니다. 사용자가 자신의 GPU 또는 특정 인스턴스에 모델이 적합한지 알고 싶어합니다. 사용자가 Hugging Face 모델 ID 또는 URL을 참조하여 추론 요구 사항에 대해 문의합니다.
상류 통로 · L8 ↗uvx hf-mem --model-id <model-id> --json-output요구 사항 및 설정
제한 사항 및 품질 검사
이 파일에서 별도의 제한 조건 구문이 선택되지 않았습니다. 이는 해당 스킬이 모든 입력 또는 환경에서 안전하다는 것을 의미하지 않습니다. 전체 소스 코드를 검토하고 결과를 직접 확인하십시오.
안전한 시험 사용부터 시작하세요
- 지원되는 호스트와 저장소 설치 지침을 확인하세요. 스킬 디렉토리와 해당 디렉토리에서 참조하는 스크립트, 자산 및 문서를 함께 보관하세요.SKILL.md단독으로는 종속성을 생략할 수 있습니다.
- 에이전트에 실제 입력값, 원하는 출력값 및 승인 기준을 제공하십시오. 호출 구문 및 사용 가능한 도구는 호스트에 따라 다르므로 이 사이트는 범용 설치 명령을 제공하지 않습니다.
- 원본 워크플로를 임시 프로젝트 또는 복사본에서 테스트해 보세요. 파일, 원격 서비스 또는 유료 리소스를 변경하는 작업은 허용하기 전에 검토하십시오.
- 출력 결과를 원본 품질 검사 및 자체 요구 사항에 맞춰 검증하십시오. 트리거가 성공적으로 작동했거나 저장소의 별점 수가 높다고 해서 반드시 올바른 결과가 나오는 것은 아닙니다.
원문에서 더 자세한 내용을 읽어보세요.
관련 기술
번역 및 범위
이 독서 안내서는 고정된 상류 지역에서 발췌한 구절들을 소개합니다.SKILL.md본 번역은 보조 번역이며, 완전한 설명서 또는 호환성 테스트를 보장하는 것은 아닙니다. 사용 전에 원본 및 참조 파일을 반드시 읽어 주십시오.
이 소개글은 아래 고정된 버전을 참조하며, 현재 저장소 활동 및 수집 시간은 별도로 표시됩니다.
- 고정된 소스
- 원문을 읽어보세요 ↗
- 출처 검색됨
- 소스 커밋
fabc634a893f62ad5c2039830397efa35fa62715- 출처 SHA-256
ee99f9d97e084aa61a80eaec4e6de2265341e71256d918d48fb87a2ac01ce99f