hf-cloud-sagemaker-production-defaultsउद्देश्य, उपयोग और स्रोत

यह कौशल क्या करता है

ऑटोस्केलिंग, क्लाउडवॉच अलार्म और टैगिंग को डिफ़ॉल्ट रूप से सक्षम करते हुए एक सेजमेकर एंडपॉइंट (रीयल-टाइम, रीयल-टाइम स्केल-टू-ज़ीरो, या एसिंक्रोनस) बनाएं। जब भी आप सेजमेकर एंडपॉइंट बनाने वाले हों या डिप्लॉयमेंट कोड लिखने वाले हों जो इसे कॉल करता हो, तो इस स्किल का उपयोग करें।create_endpointया फिर इमेज यूआरआई और आईएएम भूमिका ज्ञात होने के बाद परिनियोजन को अंतिम रूप दें।deploy.pyरीयल-टाइम एंडपॉइंट्स के लिए,deploy_ic.pyवास्तविक समय के एंडपॉइंट्स के लिए जो अनुमान घटकों के माध्यम से शून्य इंस्टेंस तक स्केल करते हैं, औरdeploy_async.pyएसिंक्रोनस एंडपॉइंट्स के लिए (स्केल-टू-ज़ीरो भी)। यह SageMaker डिप्लॉयमेंट वर्कफ़्लो का अंतिम चरण है। कभी भी बेयर जेनरेट न करें।create_endpointइन डिफ़ॉल्ट सेटिंग्स के बिना कॉल करें — ऑटोस्केलिंग या अलार्म के बिना एंडपॉइंट डेमो हैं, डिप्लॉयमेंट नहीं।

अपस्ट्रीम वर्कफ़्लो कैसे काम करता है

python scripts/deploy.py \
    --model-name qwen3-medical \
    --image-uri "$IMAGE_URI" \
    --inference-ami-version "$AMI" \
    --role-arn "$ROLE_ARN" \
    --model-s3-uri "s3://<your-model-bucket>/qwen3-medical/model.tar.gz" \
    --instance-type ml.g5.xlarge \
    --region "$REGION" \
    --env SM_VLLM_MODEL=/opt/ml/model \
    --env SM_VLLM_HOST=0.0.0.0 \
    --env SM_VLLM_TRUST_REMOTE_CODE=false \
    --env SM_VLLM_MAX_MODEL_LEN=4096

आवश्यकताएँ और सेटअप

इस फ़ाइल से कोई संक्षिप्त आवश्यकताएँ नहीं चुनी गईं। इसका मतलब यह नहीं है कि स्किल की कोई निर्भरता नहीं है। रिपॉजिटरी सेटअप निर्देशों और संदर्भित फ़ाइलों की जाँच करें।

सीमाएं और गुणवत्ता जांच

इस फ़ाइल से कोई अलग सीमा अंश नहीं चुना गया है। इसका मतलब यह नहीं है कि यह स्किल हर इनपुट या वातावरण के लिए सुरक्षित है। संपूर्ण स्रोत की समीक्षा करें और अपने परिणाम की पुष्टि करें।

सुरक्षित परीक्षण से शुरुआत करें

1. समर्थित होस्ट और रिपॉजिटरी इंस्टॉलेशन निर्देशों की जाँच करें। स्किल डायरेक्टरी और उससे संबंधित स्क्रिप्ट, एसेट्स और डॉक्यूमेंटेशन को एक साथ रखें;SKILL.mdअकेले होने पर निर्भरताओं को छोड़ा जा सकता है।
2. एजेंट को अपना वास्तविक इनपुट, अपेक्षित आउटपुट और स्वीकृति मानदंड प्रदान करें। इनवोकेशन सिंटैक्स और उपलब्ध उपकरण होस्ट पर निर्भर करते हैं; यह साइट किसी सार्वभौमिक इंस्टॉलेशन कमांड को नहीं मानती है।
3. डिस्पोजेबल प्रोजेक्ट या उसकी कॉपी पर मूल वर्कफ़्लो को आज़माएँ। फ़ाइलों, रिमोट सेवाओं या बिल योग्य संसाधनों में परिवर्तन करने वाले कार्यों की अनुमति देने से पहले उनकी समीक्षा करें।
4. स्रोत गुणवत्ता जांच और अपनी आवश्यकताओं के आधार पर आउटपुट को सत्यापित करें। सफल ट्रिगर या उच्च रिपॉजिटरी स्टार संख्या सही परिणाम की गारंटी नहीं देते।

कौशल प्रारूप और निर्देशिका विनिर्देश ↗

मूल लेख में आगे पढ़ें

• सेजमेकर प्रोडक्शन डिफॉल्ट्स
• क्या बनता है
• परिनियोजन चलाना
• सेवाकालीन प्रशिक्षण सफलता नहीं है — जीत की घोषणा करने से पहले एक संक्षिप्त परीक्षण अवश्य करें।
• रीयल-टाइम एंडपॉइंट का परीक्षण करना
• यूटीएफ-8BOM गॉटचा (विंडोज)
• जनरेटिव रीरैंकर (vLLM) को लागू करना
• छवि यूआरआई का चयन करना
• रीयल-टाइम एंडपॉइंट्स के लिए स्केल को शून्य पर सेट करें
• यह किस प्रकार भिन्न हैdeploy.py
• मापा गया व्यवहार
• घटक का आकार निर्धारित करना
• आह्वान करना और परीक्षण करना
• विध्वंस आदेश
• अतुल्यकालिक अनुमान परिनियोजन
• स्केल-टू-ज़ीरो कैसे काम करता है
• अतुल्यकालिक अलार्म
• एसिंक्रोनस एंडपॉइंट्स को कॉल करना
• एक नज़र में डिफ़ॉल्ट सेटिंग्स
• ऑटोस्केलिंग लक्ष्य — मॉडल प्रकार के अनुसार ट्यून करें
• डेटा कैप्चर + IAM से जुड़ी समस्याएं
• चीथड़े कर दो
• जब परिनियोजन विफल हो जाता है

सम्बंधित योग्यता

• hf-cloud-aws-context-discoveryhuggingface/skills
• hf-cloud-python-env-setuphuggingface/skills
• hf-cloud-sagemaker-deployment-plannerhuggingface/skills
• hf-cloud-sagemaker-iam-preflighthuggingface/skills

अनुवाद और दायरा

यह पठन मार्गदर्शिका ऊपर पिन किए गए अंशों में से चयनित अंशों को प्रस्तुत करती है।SKILL.mdयह अनुवाद सहायता से किया गया है। यह कोई संपूर्ण नियमावली या परीक्षित संगतता का दावा नहीं है। उपयोग करने से पहले मूल दस्तावेज़ और उससे संबंधित फ़ाइलों को पढ़ें।

यह परिचय नीचे पिन किए गए संस्करण को संदर्भित करता है; वर्तमान रिपॉजिटरी गतिविधि और संग्रह समय अलग से दिखाए गए हैं।

पिन किया गया स्रोत

मूल लेख पढ़ें ↗

स्रोत प्राप्त किया गया

2026-10-29T09:32:23Z

स्रोत कमिट

fabc634a893f62ad5c2039830397efa35fa62715

स्रोत SHA-256

6a8c1aff465e548ac4476d56831f864621af83b6a0f54544637601f3ecc44f9e