Lokalisierter Leseleitfaden
huggingface-zerogpuZweck, Verwendung und Quelle
KI-Demos und GPU-Berechnungen mit Gradio Spaces und Hugging Face Spaces ZeroGPU. Verwenden Sie diese Funktionen beim Schreiben oder Überprüfen von Code, der diese Funktionen nutzt.@spaces.GPU, konfigurierenpython_versionoderrequirements.txtfür einen ZeroGPU-Bereich oder die Behandlung von ZeroGPU-spezifischen Codebeschränkungen – Pickle-basierte Prozessisolation,gr.StateSemantik über die Worker-Grenze hinweg, neintorch.compile(verwenden Sie stattdessen AoTI), CUDA-Wheel-Only-Builds (keinenvcc(zur Build- oder Laufzeit), Large- vs. XLarge-Größen sowie dynamische Funktionen mit variabler Dauer. Nutzen Sie diese Kenntnisse immer dann, wenn der Benutzer ZeroGPU erwähnt.@spaces.GPUoder diespacesPython-Paket oder stößt auf ZeroGPU-spezifische Codefehler wiePicklingErrorüber die Grenze des Arbeitnehmerbereichs hinwegillegal duration, oderflash-attnFehler beim Erstellen von Wheels – auch wenn der Benutzer nicht explizit nach ZeroGPU-Codierungshinweisen fragt. Auslösen beiimport spacesoder@spaces.GPUim Code.
Quelle abgerufen:
- Quell-Repository
- huggingface/skills
- SKILL.md
skills/huggingface-zerogpu/SKILL.md- Repository-Sterne
- 11,241
- Repository zuletzt aktualisiert
- 2026-10-30
- Fähigkeitskategorien
- Entwicklung
- Letzte Datenerfassung
Lizenz: Apache-2.0
Die Workflow-Auszüge dienen als Lesehilfe und sind keine ausführbaren Anweisungen von Codez. Für die Erstellung dieser Seite wurde keine Drittanbieter-Skill verwendet.
Die folgenden Abschnitte zu Zweck und Arbeitsablauf sind vorgelagertes Material, das zur besseren Lesbarkeit aufbereitet und übersetzt wurde. Sie unterscheiden sich von der separat gekennzeichneten redaktionellen Analyse von Codez.
Was diese Fähigkeit bewirkt
KI-Demos und GPU-Berechnungen mit Gradio Spaces und Hugging Face Spaces ZeroGPU. Verwenden Sie diese Funktionen beim Schreiben oder Überprüfen von Code, der diese Funktionen nutzt.@spaces.GPU, konfigurierenpython_versionoderrequirements.txtfür einen ZeroGPU-Bereich oder die Behandlung von ZeroGPU-spezifischen Codebeschränkungen – Pickle-basierte Prozessisolation,gr.StateSemantik über die Worker-Grenze hinweg, neintorch.compile(verwenden Sie stattdessen AoTI), CUDA-Wheel-Only-Builds (keinenvcc(zur Build- oder Laufzeit), Large- vs. XLarge-Größen sowie dynamische Funktionen mit variabler Dauer. Nutzen Sie diese Kenntnisse immer dann, wenn der Benutzer ZeroGPU erwähnt.@spaces.GPUoder diespacesPython-Paket oder stößt auf ZeroGPU-spezifische Codefehler wiePicklingErrorüber die Grenze des Arbeitnehmerbereichs hinwegillegal duration, oderflash-attnFehler beim Erstellen von Wheels – auch wenn der Benutzer nicht explizit nach ZeroGPU-Codierungshinweisen fragt. Auslösen beiimport spacesoder@spaces.GPUim Code.
Wie der vorgelagerte Workflow funktioniert
Prozessisolierung und Beizen
@spaces.GPUMit dem Code -dekorierte versehene Funktionen werden in einem separaten Prozess ausgeführt, der vom ZeroGPU-Scheduler verwaltet wird. Argumente und Rückgabewerte überschreiten die Prozessgrenze mittels Pickle-Serialisierung. Es können nur picklefähige Objekte übergeben oder zurückgegeben werden. Geöffnete Dateihandles, Datenbankverbindungen, Sperren, Lambdas und Closures über nicht picklefähige Zustände lösen eine Ausnahme aus.PicklingErrorCUDA-Tensoren dürfen NICHT direkt zurückgegeben werden. Das Entpacken eines CUDA-Tensors im Hauptprozess löst einen Fehler aus.torch.cuda._lazy_init()ZeroGPU blockiert dies. Zuerst in die CPU konvertieren: Rückgabetensor.cpu()odertensor.cpu().numpy(). CPU-Tensoren, NumPy-Arrays, PIL-Bilder und einfache Python-Objekte funktionieren einwandfrei.
Umarmendes Gesicht ZeroGPU
Regeln und Muster für ML-Demos zum Thema „Hugging Face Spaces“ mit ZeroGPU-Hardware. Beinhaltet@spaces.GPU, Dauer- und Quotenoptimierung, Prozessisolation, das CUDA-Verfügbarkeitsmodell, Sicherheit der Parallelverarbeitung und CUDA-Build-Beschränkungen.
Umfang
Diese Funktion ist für Gradio SDK Spaces mit ZeroGPU-Hardware gedacht. Docker- und Static Spaces können nicht auf ZeroGPU geplant werden, und Streamlit-Apps laufen jetzt als Docker Spaces – daher ist diese Funktion nur für Gradio relevant. Allgemeine Informationen zur Gradio-Programmierung (Komponenten, Layouts, Event-Listener) finden Sie unter [Link einfügen].huggingface-gradioKenntnisse in diesem Repository sind erforderlich. Die maßgebliche ZeroGPU-Dokumentation finden Sie unter [Link einfügen].https://huggingface.co/docs/hub/spaces-zerogpu— Dort finden Sie Informationen zur aktuell verwendeten GPU, zu den Laufzeitversionen und zu den Stufenschwellenwerten, die sich alle im Laufe der Zeit ändern können.
import spaces
import torch
from transformers import pipeline
pipe = pipeline("text-generation", model="...", device="cuda")
@spaces.GPU
def generate(prompt: str) -> str:
return pipe(prompt, max_new_tokens=100)[0]["generated_text"]Anforderungen und Einrichtung
Nicht feststeckenspacesInrequirements.txt
Die Weltraumplattform verankert ihre eigenespacesVersion. Ein widersprüchlicher Pin inrequirements.txtführt dazu, dass die Pip-Auflösung während des Build-Prozesses fehlschlägt. > Regel: Nicht einschließenspacesInrequirements.txtDie
Grenzwerte und Qualitätskontrollen
CUDA-Build-Beschränkungen
HF Spaces erstellt Docker-Images in einer reinen CPU-Umgebung. Auf ZeroGPU findet die Build-Phase ohnenvccweil das Basisbild istpython:3.13(Nutzung dedizierter GPU-Bereiche)nvidia/cuda:*-devel-*und habennvcc(zur Kompilierzeit). Ein CUDA-abhängiges Paket, dessen einzige Distribution sdist ist – z. B. bareflash-attn— kann daher nicht installiert werden überrequirements.txtAuf ZeroGPU. Nur vorgefertigte Räder funktionieren. Die ZeroGPU-Laufzeitumgebung hatnvccverfügbar, installiert aus einem CUDA-Entwicklungsimage unter/cuda-imageseit2025-07(Ursprünglich hinzugefügt zur Unterstützung von AoTI). Das macht es austorch.export/ AoTI-Workflows innerhalb möglich@spaces.GPUAnrufe.
Beginnen Sie mit einem sicheren Testlauf
- Prüfen Sie den unterstützten Host und die Installationsanweisungen für das Repository. Halten Sie das Skill-Verzeichnis und die darin enthaltenen Skripte, Assets und Dokumentationen zusammen;SKILL.mdEine Einzelperson kann Abhängigkeiten außer Acht lassen.
- Geben Sie dem Agenten Ihre tatsächlichen Eingaben, die gewünschten Ausgaben und die Akzeptanzkriterien an. Aufrufsyntax und verfügbare Tools hängen vom Hostsystem ab; diese Website geht nicht von einem universellen Installationsbefehl aus.
- Testen Sie den Quellworkflow in einem temporären Projekt oder auf einer Kopie. Überprüfen Sie Vorgänge, die Dateien, Remote-Dienste oder abrechnungsfähige Ressourcen ändern, bevor Sie diese zulassen.
- Überprüfen Sie die Ausgabe anhand der Quellqualitätsprüfungen und Ihrer eigenen Anforderungen. Ein erfolgreicher Trigger oder eine hohe Anzahl von Sternen im Repository garantiert kein korrektes Ergebnis.
Lesen Sie mehr dazu in der Quelle.
- Umarmendes Gesicht ZeroGPU
- Umfang
- Hardware
- Grundmuster
- CUDA-Verfügbarkeitsmodell
- Die Methode zur Geräteauswahl funktioniert immer noch
- Eiles Laden ist die richtige Standardeinstellung
- Lokale Entwicklung: Einfach installieren
spaces - Anti-Muster
- Tun Sie stattdessen Folgendes:
- Dauer und Quote
- Dynamische Dauer für variable Arbeitslasten
- Prozessisolierung und Beizen
gr.StateSemantik über die Grenze hinweg- Gleichzeitigkeit
- Anrufgranularität
- CUDA-Build-Beschränkungen
- Beispiel-Caching
python_versionPin im README-Frontmatter- Nicht feststecken
spacesInrequirements.txt - Stift
torchpassend zu Radanhängern
Verwandte Fähigkeiten
Übersetzung und Umfang
Dieser Leseleitfaden wählt Passagen aus dem markierten stromaufwärts gelegenen Abschnitt aus.SKILL.mdDie Übersetzung wurde unterstützt. Es handelt sich weder um ein vollständiges Handbuch noch um eine Garantie für geprüfte Kompatibilität. Lesen Sie vor der Verwendung das Original und die darin referenzierten Dateien.
Diese Einleitung bezieht sich auf die unten angepinnte Version; die aktuelle Repository-Aktivität und der Erfassungszeitpunkt werden separat angezeigt.
- Angeheftete Quelle
- Lesen Sie das Original ↗
- Quelle abgerufen
- Source-Commit
fabc634a893f62ad5c2039830397efa35fa62715- Quelle SHA-256
829659aec34224970fe7ed619729fdc7849fc5dd696e2000256c3ee0b517eff7