Lokalisierter Leseleitfaden
hf-memZweck, Verwendung und Quelle
Die Hugging Face CLI dient zur Schätzung des benötigten Speichers zum Laden von Safetensors oder GGUF-Modellgewichten für die Inferenz aus dem Hugging Face Hub.
Quelle abgerufen:
- Quell-Repository
- huggingface/skills
- SKILL.md
skills/hf-mem/SKILL.md- Repository-Sterne
- 11,241
- Repository zuletzt aktualisiert
- 2026-10-30
- Fähigkeitskategorien
- Sonstige
- Letzte Datenerfassung
Lizenz: Apache-2.0
Die Workflow-Auszüge dienen als Lesehilfe und sind keine ausführbaren Anweisungen von Codez. Für die Erstellung dieser Seite wurde keine Drittanbieter-Skill verwendet.
Die folgenden Abschnitte zu Zweck und Arbeitsablauf sind vorgelagertes Material, das zur besseren Lesbarkeit aufbereitet und übersetzt wurde. Sie unterscheiden sich von der separat gekennzeichneten redaktionellen Analyse von Codez.
Was diese Fähigkeit bewirkt
Die Hugging Face CLI dient zur Schätzung des benötigten Speichers zum Laden von Safetensors oder GGUF-Modellgewichten für die Inferenz aus dem Hugging Face Hub.
Wie der vorgelagerte Workflow funktioniert
Wie läuft man?
Laufen mit--model-idverweist auf das Hugging Face Hub-Repository, das überprüft, ob es Safetensors enthält (viamodel.safetensors,model.safetensors.index.jsonwenn fragmentiert, odermodel_index.json(für Diffusoren) oder GGUF-Modellgewichte. Enthält das Repository GGUF-Modellgewichte in mehreren Genauigkeiten/Quantisierungen, erfolgen die Schätzungen dateibasiert. Für die Inferenz laden Sie jedoch nicht alle, sondern nur eine einfache Genauigkeit. Daher müssen Sie für GGUF möglicherweise auch die entsprechenden Daten bereitstellen.--gguf-fileum die spezifische Datei (oder den Pfad, falls die Datei fragmentiert ist) auszuwählen, die ausgeführt werden soll. Zusätzlichhf-membeinhaltet--experimentalDieses Flag berechnet auch den Speicherbedarf des KV-Caches; es ist nützlich für Modelle mit großen Sprachen und gilt daher für LLMs (...ForCausalLM), VLMs (...ForConditionalGeneration) und GGUF-Modellen. Für Safetensoren verwenden Sie Folgendes:
Überblick
hf_memSchätzt den für die Inferenz benötigten Speicher, einschließlich Modellgewichte und eines optionalen KV-Caches, für Safetensors und GGUF für Modelle auf dem Hugging Face Hub unter Verwendung von HTTP Range-Anfragen, d.h. ohne lokales Herunterladen oder Laden von Gewichten.
Wann anwenden?
Der Benutzer fragt, wie viel VRAM oder Speicher ein Modell zum Ausführen benötigt. Der Benutzer möchte wissen, ob ein Modell auf seine GPU oder eine bestimmte Instanz passt. Der Benutzer verweist auf eine Hugging Face-Modell-ID oder -URL und fragt nach den Inferenzanforderungen.
Aufwärtspassage · L8 ↗uvx hf-mem --model-id <model-id> --json-outputAnforderungen und Einrichtung
Welche Voraussetzungen müssen erfüllt sein?
uvinstalliert (füruvx)HF_TOKENUmgebungsvariable oder--hf-tokenFlagge (nur für gesperrte oder private Modelle)
Grenzwerte und Qualitätskontrollen
Aus dieser Datei wurde kein separater Grenzwertabschnitt ausgewählt. Dies bedeutet nicht, dass die Anwendung für jede Eingabe oder Umgebung geeignet ist. Überprüfen Sie den vollständigen Quellcode und validieren Sie Ihr Ergebnis selbst.
Beginnen Sie mit einem sicheren Testlauf
- Prüfen Sie den unterstützten Host und die Installationsanweisungen für das Repository. Halten Sie das Skill-Verzeichnis und die darin enthaltenen Skripte, Assets und Dokumentationen zusammen;SKILL.mdEine Einzelperson kann Abhängigkeiten außer Acht lassen.
- Geben Sie dem Agenten Ihre tatsächlichen Eingaben, die gewünschten Ausgaben und die Akzeptanzkriterien an. Aufrufsyntax und verfügbare Tools hängen vom Hostsystem ab; diese Website geht nicht von einem universellen Installationsbefehl aus.
- Testen Sie den Quellworkflow in einem temporären Projekt oder auf einer Kopie. Überprüfen Sie Vorgänge, die Dateien, Remote-Dienste oder abrechnungsfähige Ressourcen ändern, bevor Sie diese zulassen.
- Überprüfen Sie die Ausgabe anhand der Quellqualitätsprüfungen und Ihrer eigenen Anforderungen. Ein erfolgreicher Trigger oder eine hohe Anzahl von Sternen im Repository garantiert kein korrektes Ergebnis.
Lesen Sie mehr dazu in der Quelle.
Verwandte Fähigkeiten
Übersetzung und Umfang
Dieser Leseleitfaden wählt Passagen aus dem markierten stromaufwärts gelegenen Abschnitt aus.SKILL.mdDie Übersetzung wurde unterstützt. Es handelt sich weder um ein vollständiges Handbuch noch um eine Garantie für geprüfte Kompatibilität. Lesen Sie vor der Verwendung das Original und die darin referenzierten Dateien.
Diese Einleitung bezieht sich auf die unten angepinnte Version; die aktuelle Repository-Aktivität und der Erfassungszeitpunkt werden separat angezeigt.
- Angeheftete Quelle
- Lesen Sie das Original ↗
- Quelle abgerufen
- Source-Commit
fabc634a893f62ad5c2039830397efa35fa62715- Quelle SHA-256
ee99f9d97e084aa61a80eaec4e6de2265341e71256d918d48fb87a2ac01ce99f