Guide de lecture localisé

hf-cloud-sagemaker-production-defaultsObjectif, utilisation et source

Créez un point de terminaison SageMaker (temps réel, mise à l'échelle à zéro en temps réel ou asynchrone) avec la mise à l'échelle automatique, les alarmes CloudWatch et le balisage activés par défaut. Utilisez cette compétence chaque fois que vous vous apprêtez à créer un point de terminaison SageMaker et à écrire le code de déploiement qui appelle cette fonction.create_endpointou finaliser un déploiement une fois l'URI de l'image et le rôle IAM connus. Fournitdeploy.pypour les points de terminaison en temps réel,deploy_ic.pypour les points de terminaison en temps réel qui s'adaptent à zéro instance via des composants d'inférence, etdeploy_async.pypour les points de terminaison asynchrones (y compris la mise à l'échelle à zéro). Il s'agit de la dernière étape du flux de travail de déploiement SageMaker. Ne générez jamais de fichier nu.create_endpointLes appels sans ces paramètres par défaut (points de terminaison sans mise à l'échelle automatique ni alarmes) sont des démonstrations, pas des déploiements.

Source récupérée: 2026-10-29

Dépôt source: huggingface/skills
SKILL.md: skills/hf-cloud-sagemaker-production-defaults/SKILL.md
Étoiles du dépôt: 11,241
Mise à jour du dépôt: 2026-10-30
Catégories de capacités: Services cloud
Dernière collecte: 2026-10-31 10:38 UTC+08:00

Licence : Apache-2.0

SKILL.md original

Les extraits de flux de travail sont des outils de lecture et non des instructions exécutables de Codez. Aucune compétence tierce n'a été utilisée pour générer cette page.

Les passages relatifs à l'objectif et au flux de travail ci-dessous constituent le contenu original, organisé et traduit pour la lecture. Ils sont distincts de l'analyse éditoriale de Codez, qui est étiquetée séparément.

À quoi sert cette compétence ?

Comment fonctionne le flux de travail en amont

Paramètres par défaut de production de SageMaker

La différence entre un point de terminaison de démonstration et un point de terminaison permanent réside dans sa capacité d'adaptation au trafic, sa capacité à signaler les pannes et la possibilité de le déboguer ultérieurement. Cette fonctionnalité intègre ces trois éléments par défaut, au lieu de les proposer comme options. Au moment de son exécution, le planificateur a sélectionné un point de terminaison en temps réel, IAM dispose d'un rôle fonctionnel et la sélection d'image a déterminé l'URI du conteneur ainsi que la version de l'AMI. Cette fonctionnalité transforme ensuite ces éléments en un déploiement effectif.

passage en amont · L6 ↗

Ce qui est créé

Pour chaque point de terminaison, la compétence crée les éléments suivants comme une unité : Modèle SageMaker — image + variables d'environnement + rôle d'exécution + S3artefacts

passage en amont · L12 ↗

Exécution du déploiement

Pour un LLM de génération de texte (vLLM), commencez par empaqueter l'instantané du modèle épinglé en tant que SageMakermodel.tar.gzartefact et téléchargez-le sur un S contrôlé par compte3bucket. SageMaker l'extrait sous/opt/ml/model, de sorte que le déploiement ne récupère ni n'exécute de code de dépôt lors de l'exécution : Pour un modèle d'intégration (TEI, souvent sur CPU) :

passage en amont · L30 ↗

passage en amont · bash ↗

python scripts/deploy.py \
    --model-name qwen3-medical \
    --image-uri "$IMAGE_URI" \
    --inference-ami-version "$AMI" \
    --role-arn "$ROLE_ARN" \
    --model-s3-uri "s3://<your-model-bucket>/qwen3-medical/model.tar.gz" \
    --instance-type ml.g5.xlarge \
    --region "$REGION" \
    --env SM_VLLM_MODEL=/opt/ml/model \
    --env SM_VLLM_HOST=0.0.0.0 \
    --env SM_VLLM_TRUST_REMOTE_CODE=false \
    --env SM_VLLM_MAX_MODEL_LEN=4096

Configuration requise

Aucun extrait de configuration n'a été sélectionné dans ce fichier. Cela ne signifie pas que la compétence est sans dépendances. Consultez les instructions de configuration du dépôt et les fichiers référencés.

Limites et contrôles de qualité

Aucun passage de limite distinct n'a été sélectionné dans ce fichier. Cela ne signifie pas que la compétence est sûre pour toutes les entrées ou tous les environnements. Consultez le code source complet et validez vos résultats.

Commencez par un essai sans danger

Vérifiez l'hôte pris en charge et les instructions d'installation du dépôt. Conservez le répertoire Skill ainsi que ses scripts, ressources et documentation référencés ;SKILL.mdSeul, il peut omettre les dépendances.
Indiquez à l'agent vos paramètres d'entrée réels, le résultat souhaité et les critères d'acceptation. La syntaxe d'appel et les outils disponibles dépendent du système hôte ; ce site ne propose pas de commande d'installation universelle.
Testez le flux de travail source dans un projet temporaire ou sur une copie. Avant d'autoriser les opérations qui modifient des fichiers, des services distants ou des ressources facturables, examinez-les attentivement.
Vérifiez la conformité du résultat avec les contrôles qualité sources et vos propres exigences. Un déclenchement réussi ou un nombre élevé d'étoiles dans le dépôt ne garantissent pas un résultat correct.

Spécifications du format et du répertoire des compétences ↗

Pour en savoir plus, consultez la source.

Traduction et étendue

Ce guide de lecture sélectionne des passages de l'amont épingléSKILL.mdCette traduction est assistée. Elle ne constitue pas un manuel complet et ne garantit pas une compatibilité testée. Veuillez lire le document original et les fichiers auxquels il fait référence avant utilisation.

Cette introduction fait référence à la version épinglée ci-dessous ; l’activité actuelle du dépôt et la durée de la collecte sont indiquées séparément.

Source épinglée: Lire l'original ↗
Source récupérée: 2026-10-29T09:32:23Z
Commit source: fabc634a893f62ad5c2039830397efa35fa62715
Source SHA-256: 6a8c1aff465e548ac4476d56831f864621af83b6a0f54544637601f3ecc44f9e

Retour au catalogue complet des compétences