C✳CODEZ.WIN
🌐 简体中文

Skill 多语言阅读指南

hf-cloud-sagemaker-production-defaults用途、用法与原始来源

创建一个 SageMaker 端点(实时、实时零缩减或异步),默认启用自动扩缩容、CloudWatch 警报和标签功能。每当要创建 SageMaker 端点时,请编写调用该端点的部署代码,并使用此技能。create_endpoint或者,在确定镜像 URI 和 IAM 角色后完成部署。提供deploy.py对于实时端点,deploy_ic.py对于可通过推理组件扩展到零实例的实时端点,以及deploy_async.py对于异步端点(也包括缩减到零)。这是 SageMaker 部署工作流程的最后一步。切勿生成裸露的create_endpoint调用时不启用这些默认设置——没有自动扩展或警报的端点是演示,而不是部署。

原文采集时间:

来源仓库
huggingface/skills
SKILL.md
skills/hf-cloud-sagemaker-production-defaults/SKILL.md
仓库 Star
11,241
仓库最近更新
2026/10/30
能力分类
云服务
最近采集时间

许可:Apache-2.0

流程片段用于帮助阅读上游说明。本页没有执行第三方 Skill,不属于实测评测。

下面的用途和操作片段来自上游文档,由本站整理并翻译,和另行标注的 Codez 编辑分析分开展示。

这个 Skill 能做什么

创建一个 SageMaker 端点(实时、实时零缩减或异步),默认启用自动扩缩容、CloudWatch 警报和标签功能。每当要创建 SageMaker 端点时,请编写调用该端点的部署代码,并使用此技能。create_endpoint或者,在确定镜像 URI 和 IAM 角色后完成部署。提供deploy.py对于实时端点,deploy_ic.py对于可通过推理组件扩展到零实例的实时端点,以及deploy_async.py对于异步端点(也包括缩减到零)。这是 SageMaker 部署工作流程的最后一步。切勿生成裸露的create_endpoint调用时不启用这些默认设置——没有自动扩展或警报的端点是演示,而不是部署。

如何使用:上游操作流程

SageMaker 生产环境默认值

演示端点和可长期运行的端点之间的区别在于:演示端点能够随流量扩展,会在出现故障时发出警报,并且方便后续调试。这项技能将这三项功能设为默认功能,而非可选功能。在运行此技能时,规划器已选择实时端点,IAM 角色已可用,镜像选择也已解析出容器 URI 和 AMI 版本。这项技能会将这些配置转化为实际部署。

原文片段 · L6 ↗

会创造出什么

对于每个端点,该技能会将以下内容作为一个整体创建:SageMaker 模型 — 镜像 + 环境变量 + 执行角色 + S3文物

原文片段 · L12 ↗

运行部署

对于文本生成型 LLM(vLLM),首先将固定的模型快照打包为 SageMaker 文件。model.tar.gz并将制品上传到受帐户控制的 S3存储桶。SageMaker 将其提取到该存储桶下。/opt/ml/model因此,部署过程中不会在运行时获取或执行存储库代码:对于嵌入模型(TEI,通常在 CPU 上运行):

原文片段 · L30 ↗
原文片段 · bash ↗
python scripts/deploy.py \
    --model-name qwen3-medical \
    --image-uri "$IMAGE_URI" \
    --inference-ami-version "$AMI" \
    --role-arn "$ROLE_ARN" \
    --model-s3-uri "s3://<your-model-bucket>/qwen3-medical/model.tar.gz" \
    --instance-type ml.g5.xlarge \
    --region "$REGION" \
    --env SM_VLLM_MODEL=/opt/ml/model \
    --env SM_VLLM_HOST=0.0.0.0 \
    --env SM_VLLM_TRUST_REMOTE_CODE=false \
    --env SM_VLLM_MAX_MODEL_LEN=4096

环境与依赖

本次未从该文件选出独立的环境要求片段,不代表无需依赖。请继续核对仓库的安装说明和引用文件。

限制与结果检查

本次未从该文件选出独立的限制片段,不代表适用于所有输入或环境。请阅读完整原文,并自行验证实际结果。

开始使用前

  1. 先核对支持的 Agent 宿主和仓库安装说明。保留完整 Skill 目录及其引用的脚本、资源和文档,只复制 SKILL.md 可能漏掉依赖。
  2. 向 Agent 提供实际输入、期望输出和验收标准。调用方式与可用工具取决于宿主环境,本站不假定存在通用的安装命令。
  3. 先在临时项目或输入副本上试用。涉及修改文件、远程服务或计费资源的操作,应逐项核对后再授权。
  4. 按照原文检查项和自己的需求验证输出。成功触发或仓库 Star 较高,都不能证明结果正确。

Skill 文件与目录格式规范 ↗

继续阅读原始文档

翻译与介绍范围

本页从固定版本的上游 SKILL.md 整理用途与操作片段,译文使用辅助翻译。它不是完整手册,也不代表经过兼容性实测;使用前请核对原文及其引用文件。

介绍依据下方列出的固定版本;当前仓库动态和目录采集时间单独展示。

固定版本来源
阅读原文 ↗
原文采集时间
来源提交版本
fabc634a893f62ad5c2039830397efa35fa62715
原文 SHA-256
6a8c1aff465e548ac4476d56831f864621af83b6a0f54544637601f3ecc44f9e
返回完整 Skill 目录