C✳CODEZ.WIN
🌐 繁體中文

Skill 多語言閱讀指南

hf-cloud-sagemaker-production-defaults用途、用法與原始來源

建立一個 SageMaker 端點（即時、即時零縮減或非同步），預設啟用自動擴縮容、CloudWatch 警報和標籤功能。每當要建立 SageMaker 端點時，請編寫呼叫該端點的部署程式碼，並使用此技能。create_endpoint或者，在確定鏡像 URI 和 IAM 角色後完成部署。提供deploy.py對於即時端點，deploy_ic.py對於可透過推理組件擴展到零實例的即時端點，以及deploy_async.py對於非同步端點（也包括縮減到零）。這是 SageMaker 部署工作流程的最後一步。切勿生成裸露的create_endpoint呼叫時不啟用這些預設設定－沒有自動擴充或警報的端點是演示，而不是部署。

原文擷取時間:

來源儲存庫
huggingface/skills
SKILL.md
skills/hf-cloud-sagemaker-production-defaults/SKILL.md
儲存庫 Star
11,241
儲存庫最近更新
2026-10-30
能力分類
雲端服務
最近採集時間

授權：Apache-2.0

原始 SKILL.md

流程片段用來協助閱讀上游說明。本頁沒有執行第三方 Skill，不屬於實測評測。

下面的用途與操作片段來自上游文件，由本站整理並翻譯，和另行標示的 Codez 編輯分析分開呈現。

這個 Skill 能做什麼

建立一個 SageMaker 端點（即時、即時零縮減或非同步），預設啟用自動擴縮容、CloudWatch 警報和標籤功能。每當要建立 SageMaker 端點時，請編寫呼叫該端點的部署程式碼，並使用此技能。create_endpoint或者，在確定鏡像 URI 和 IAM 角色後完成部署。提供deploy.py對於即時端點，deploy_ic.py對於可透過推理組件擴展到零實例的即時端點，以及deploy_async.py對於非同步端點（也包括縮減到零）。這是 SageMaker 部署工作流程的最後一步。切勿生成裸露的create_endpoint呼叫時不啟用這些預設設定－沒有自動擴充或警報的端點是演示，而不是部署。

如何使用：上游操作流程

SageMaker 生產環境預設值

演示端點和可長期運行的端點之間的差異在於：演示端點能夠隨流量擴展，會在發生故障時發出警報，並且方便後續調試。這項技能將這三項功能設為預設功能，而非選用功能。在運行此技能時，規劃器已選擇即時端點，IAM 角色已可用，鏡像選擇也已解析出容器 URI 和 AMI 版本。這項技能會將這些配置轉化為實際部署。

原文片段 · L6 ↗

會創造出什麼

對於每個端點，該技能會將以下內容作為一個整體建立：SageMaker 模型 — 鏡像 + 環境變數 + 執行角色 + S3文物

原文片段 · L12 ↗

運行部署

對於文字生成型 LLM（vLLM），首先將固定的模型快照打包為 SageMaker 檔案。model.tar.gz並將製品上傳到受帳戶控制的 S3存儲桶。 SageMaker 將其提取到該儲存桶下。/opt/ml/model因此，部署過程中不會在運行時取得或執行儲存庫程式碼：對於嵌入模型（TEI，通常在 CPU 上運行）：

原文片段 · L30 ↗
原文片段 · bash ↗
python scripts/deploy.py \
    --model-name qwen3-medical \
    --image-uri "$IMAGE_URI" \
    --inference-ami-version "$AMI" \
    --role-arn "$ROLE_ARN" \
    --model-s3-uri "s3://<your-model-bucket>/qwen3-medical/model.tar.gz" \
    --instance-type ml.g5.xlarge \
    --region "$REGION" \
    --env SM_VLLM_MODEL=/opt/ml/model \
    --env SM_VLLM_HOST=0.0.0.0 \
    --env SM_VLLM_TRUST_REMOTE_CODE=false \
    --env SM_VLLM_MAX_MODEL_LEN=4096

環境與相依需求

本次未從該檔案選出獨立的環境需求片段，不代表無須相依套件。請繼續核對儲存庫的安裝說明和引用檔案。

限制與結果檢查

本次未從該檔案選出獨立的限制片段，不代表適用於所有輸入或環境。請閱讀完整原文，並自行驗證實際結果。

開始使用前

  1. 先核對支援的 Agent 宿主和儲存庫安裝說明。保留完整 Skill 目錄及其引用的腳本、資源和文件，只複製 SKILL.md 可能遺漏相依需求。
  2. 向 Agent 提供實際輸入、預期輸出和驗收標準。呼叫方式與可用工具取決於宿主環境，本站不假定存在通用的安裝指令。
  3. 先在暫存專案或輸入副本上試用。涉及修改檔案、遠端服務或計費資源的操作，應逐項核對後再授權。
  4. 依照原文檢查項目和自己的需求驗證輸出。成功觸發或儲存庫 Star 較高，都不能證明結果正確。

Skill 檔案與目錄格式規範 ↗

繼續閱讀原始文件

翻譯與介紹範圍

本頁從固定版本的上游 SKILL.md 整理用途與操作片段，譯文使用輔助翻譯。它不是完整手冊，也不代表經過相容性實測；使用前請核對原文及其引用檔案。

介紹依據下方列出的固定版本；目前儲存庫動態和目錄擷取時間分開呈現。

固定版本來源
閱讀原文 ↗
原文擷取時間
來源提交版本
fabc634a893f62ad5c2039830397efa35fa62715
原文 SHA-256
6a8c1aff465e548ac4476d56831f864621af83b6a0f54544637601f3ecc44f9e
返回完整 Skill 目錄