स्थानीयकृत पठन मार्गदर्शिका

huggingface-zerogpuउद्देश्य, उपयोग और स्रोत

Gradio Spaces और Hugging Face Spaces ZeroGPU के साथ AI डेमो और GPU कंप्यूटिंग। कोड लिखते या उसकी समीक्षा करते समय इसका उपयोग करें।@spaces.GPUकॉन्फ़िगर करनाpython_versionयाrequirements.txtजीरोजीपीयू स्पेस के लिए, या जीरोजीपीयू-विशिष्ट कोड बाधाओं को संभालने के लिए - पिकल-आधारित प्रक्रिया अलगाव,gr.Stateकार्यकर्ता सीमा के पार शब्दार्थ, नहींtorch.compile(इसके बजाय AoTI का उपयोग करें), CUDA व्हील-ओनली बिल्ड (नहींnvccबिल्ड या रनटाइम पर), लार्ज बनाम एक्सलार्ज साइजिंग, और डायनामिक ड्यूरेशन कॉलबल। जब भी उपयोगकर्ता ZeroGPU का उल्लेख करे, तो इस कौशल का उपयोग अवश्य करें।@spaces.GPUयाspacesया तो पायथन पैकेज, या जीरोजीपीयू-विशिष्ट कोड त्रुटियों का सामना करना पड़ता है जैसेPicklingErrorश्रमिक सीमा के पार,illegal duration, याflash-attnव्हील-बिल्ड विफलताएँ — तब भी जब उपयोगकर्ता स्पष्ट रूप से ज़ीरोजीपीयू कोडिंग मार्गदर्शन के लिए अनुरोध नहीं करता है। ट्रिगर करेंimport spacesया@spaces.GPUकोड में।

स्रोत प्राप्त किया गया: 2026-10-29

स्रोत रिपॉज़िटरी: huggingface/skills
SKILL.md: skills/huggingface-zerogpu/SKILL.md
रिपॉज़िटरी Star: 11,241
रिपॉज़िटरी का अंतिम अपडेट: 2026-10-30
क्षमता वर्गीकरण: विकास
अंतिम संग्रह समय: 2026-10-31 10:38 UTC+08:00

लाइसेंस: Apache-2.0

मूल SKILL.md

वर्कफ़्लो के अंश केवल पढ़ने में सहायता के लिए हैं, कोडेज़ से निष्पादन योग्य निर्देश नहीं हैं। इस पृष्ठ को बनाने के लिए किसी तृतीय-पक्ष स्किल का उपयोग नहीं किया गया है।

नीचे दिए गए उद्देश्य और कार्यप्रणाली संबंधी अंश प्रारंभिक सामग्री हैं, जिन्हें पढ़ने के लिए व्यवस्थित और अनुवादित किया गया है। ये अलग से लेबल किए गए कोडेज़ संपादकीय विश्लेषण से भिन्न हैं।

यह कौशल क्या करता है

अपस्ट्रीम वर्कफ़्लो कैसे काम करता है

प्रक्रिया पृथक्करण और अचार

@spaces.GPU-सजाए गए फ़ंक्शन ZeroGPU शेड्यूलर द्वारा प्रबंधित एक अलग प्रक्रिया में चलते हैं। आर्गुमेंट और रिटर्न वैल्यू पिकल सीरियलाइज़ेशन के माध्यम से प्रक्रिया सीमा को पार करते हैं। केवल पिकल करने योग्य ऑब्जेक्ट ही पास किए जा सकते हैं या वापस किए जा सकते हैं। अनपिकल करने योग्य स्थिति पर ओपन फ़ाइल हैंडल, डेटाबेस कनेक्शन, लॉक, लैम्डा और क्लोज़र त्रुटि उत्पन्न करेंगे।PicklingErrorCUDA टेंसर को सीधे वापस न करें। मुख्य प्रक्रिया में CUDA टेंसर को अनपिकलिंग करने से समस्या उत्पन्न होती है।torch.cuda._lazy_init()जो ZeroGPU ब्लॉक करता है। पहले इसे CPU में बदलें: वापस लौटेंtensor.cpu()याtensor.cpu().numpy()सीपीयू टेंसर, नम्पी एरे, पीआईएल इमेज और सामान्य पायथन ऑब्जेक्ट ठीक से काम करते हैं।

ऊपर की ओर मार्ग · L169 ↗

हगिंग फेस जीरोजीपीयू

जीरोजीपीयू हार्डवेयर के साथ हगिंग फेस स्पेसेस पर एमएल डेमो के लिए नियम और पैटर्न। इसमें शामिल हैं:@spaces.GPUअवधि और कोटा ट्यूनिंग, प्रक्रिया अलगाव, CUDA उपलब्धता मॉडल, समवर्ती सुरक्षा और CUDA बिल्ड बाधाएं।

ऊपर की ओर मार्ग · L6 ↗

दायरा

यह स्किल ज़ीरोजीपीयू हार्डवेयर का उपयोग करने वाले ग्रैडियो एसडीके स्पेसेस के लिए है। डॉकर और स्टैटिक स्पेसेस ज़ीरोजीपीयू पर शेड्यूल नहीं कर सकते, और स्ट्रीमलिट ऐप्स अब डॉकर स्पेसेस के रूप में चलते हैं — इसलिए यह स्किल केवल ग्रैडियो पर लागू होती है। सामान्य ग्रैडियो कोडिंग (कंपोनेंट्स, लेआउट्स, इवेंट लिसनर्स) के लिए, देखेंhuggingface-gradioइस रिपॉजिटरी में कौशल। आधिकारिक ZeroGPU दस्तावेज़ यहां उपलब्ध हैं।https://huggingface.co/docs/hub/spaces-zerogpuवर्तमान में समर्थित जीपीयू, रनटाइम संस्करणों की सूची और टियर थ्रेशहोल्ड के लिए उनका संदर्भ लें, ये सभी समय के साथ बदलते रहते हैं।

ऊपर की ओर मार्ग · L10 ↗

ऊपर की ओर मार्ग · python ↗

import spaces
import torch
from transformers import pipeline

pipe = pipeline("text-generation", model="...", device="cuda")

@spaces.GPU
def generate(prompt: str) -> str:
    return pipe(prompt, max_new_tokens=100)[0]["generated_text"]

आवश्यकताएँ और सेटअप

पिन न करें`spaces`में`requirements.txt`

स्पेस प्लेटफॉर्म अपने आप को स्थापित करता हैspacesसंस्करण। एक विरोधाभासी पिन मेंrequirements.txtइससे बिल्ड टाइम पर pip रिज़ॉल्यूशन विफल हो जाता है। > नियम: शामिल न करेंspacesमेंrequirements.txt.

ऊपर की ओर मार्ग · L271 ↗

सीमाएं और गुणवत्ता जांच

CUDA निर्माण बाधाएँ

HF Spaces केवल CPU-आधारित वातावरण में Docker इमेज बनाता है। ZeroGPU पर, बिल्ड चरण में कोई CPU-आधारित प्रक्रिया नहीं होती है।nvccक्योंकि मूल छवि हैpython:3.13(समर्पित-जीपीयू स्पेस का उपयोग)nvidia/cuda:*-devel-*और हैnvcc(बिल्ड टाइम पर)। एक CUDA-निर्भर पैकेज जिसका एकमात्र वितरण sdist है — उदाहरण के लिए bareflash-attnइसलिए इसे इसके माध्यम से स्थापित नहीं किया जा सकता है।requirements.txtZeroGPU पर। केवल पहले से निर्मित व्हील्स ही काम करते हैं। ZeroGPU रनटाइम में यह सुविधा है।nvccCUDA डेवल इमेज से माउंट किया गया, उपलब्ध है।/cuda-imageतब से2025-07(मूल रूप से AoTI समर्थन के लिए जोड़ा गया)। यही वह चीज़ है जो इसे बनाती है।torch.export/ AoTI वर्कफ़्लो इसके भीतर संभव हैं@spaces.GPUकॉल।

ऊपर की ओर मार्ग · L231 ↗

सुरक्षित परीक्षण से शुरुआत करें

समर्थित होस्ट और रिपॉजिटरी इंस्टॉलेशन निर्देशों की जाँच करें। स्किल डायरेक्टरी और उससे संबंधित स्क्रिप्ट, एसेट्स और डॉक्यूमेंटेशन को एक साथ रखें;SKILL.mdअकेले होने पर निर्भरताओं को छोड़ा जा सकता है।
एजेंट को अपना वास्तविक इनपुट, अपेक्षित आउटपुट और स्वीकृति मानदंड प्रदान करें। इनवोकेशन सिंटैक्स और उपलब्ध उपकरण होस्ट पर निर्भर करते हैं; यह साइट किसी सार्वभौमिक इंस्टॉलेशन कमांड को नहीं मानती है।
डिस्पोजेबल प्रोजेक्ट या उसकी कॉपी पर मूल वर्कफ़्लो को आज़माएँ। फ़ाइलों, रिमोट सेवाओं या बिल योग्य संसाधनों में परिवर्तन करने वाले कार्यों की अनुमति देने से पहले उनकी समीक्षा करें।
स्रोत गुणवत्ता जांच और अपनी आवश्यकताओं के आधार पर आउटपुट को सत्यापित करें। सफल ट्रिगर या उच्च रिपॉजिटरी स्टार संख्या सही परिणाम की गारंटी नहीं देते।

कौशल प्रारूप और निर्देशिका विनिर्देश ↗

मूल लेख में आगे पढ़ें

अनुवाद और दायरा

यह पठन मार्गदर्शिका ऊपर पिन किए गए अंशों में से चयनित अंशों को प्रस्तुत करती है।SKILL.mdयह अनुवाद सहायता से किया गया है। यह कोई संपूर्ण नियमावली या परीक्षित संगतता का दावा नहीं है। उपयोग करने से पहले मूल दस्तावेज़ और उससे संबंधित फ़ाइलों को पढ़ें।

यह परिचय नीचे पिन किए गए संस्करण को संदर्भित करता है; वर्तमान रिपॉजिटरी गतिविधि और संग्रह समय अलग से दिखाए गए हैं।

पिन किया गया स्रोत: मूल लेख पढ़ें ↗
स्रोत प्राप्त किया गया: 2026-10-29T09:32:23Z
स्रोत कमिट: fabc634a893f62ad5c2039830397efa35fa62715
स्रोत SHA-256: 829659aec34224970fe7ed619729fdc7849fc5dd696e2000256c3ee0b517eff7

संपूर्ण कौशल सूची पर वापस जाएँ