ローカライズされた読書ガイド
hf-cloud-serving-image-selection目的、用途、および情報源
SageMaker モデルのデプロイメントに適したサービング コンテナを選択し、現在のイメージ URI を見つけます。モデルを SageMaker エンドポイントにデプロイし、イメージ URI を選択する必要がある場合はいつでもこのスキルを使用します。これには、ユーザーが「この LLM をデプロイ」、「この HuggingFace モデルをホスト」、「このファインチューニング モデルを提供」、「この埋め込みモデルをデプロイ」、「リランカーをホスト」、「文変換モデルを提供」と指示した場合、またはデプロイメント コードにコンテナ URI をハードコーディングする場合が含まれます。HuggingFace が厳選したディープ ラーニング コンテナが常に推奨されます: HuggingFace vLLM (LLM および生成リランカー)、HuggingFace vLLM-Omni (マルチモーダル)、TEI (embeddings/cross-encoderリランカー）、HF Inference Toolkit（その他のトランスフォーマー）。汎用イメージ（AWS vLLM、DJL-LMI、SGLang）は、互換性のある HuggingFace イメージがない場合にのみ使用され、単に新しいバージョンを持っているという理由だけで使用されることはありません。メモリからコンテナ URI をハードコーディングしたり、TGI をデフォルトにしたりすることはありません。古いイメージによる障害やリージョン URI の間違いを防ぎます。
ソースを取得しました:
- 出典リポジトリ
- huggingface/skills
- SKILL.md
skills/hf-cloud-serving-image-selection/SKILL.md- リポジトリの Star
- 11,241
- リポジトリの最終更新
- 2026-10-30
- 能力分類
- クラウドサービス
- 最終収集時刻
ライセンス: Apache-2.0
ワークフローの抜粋は、Codezによる実行可能な指示ではなく、あくまでも参考資料です。このページを作成するために、サードパーティ製のスキルは実行されていません。
以下の目的とワークフローに関する記述は、上流工程に関する資料であり、読みやすいように整理・翻訳されています。これらは、別途ラベル付けされたCodez編集分析とは区別されます。
このスキルが何をするか
SageMaker モデルのデプロイメントに適したサービング コンテナを選択し、現在のイメージ URI を見つけます。モデルを SageMaker エンドポイントにデプロイし、イメージ URI を選択する必要がある場合はいつでもこのスキルを使用します。これには、ユーザーが「この LLM をデプロイ」、「この HuggingFace モデルをホスト」、「このファインチューニング モデルを提供」、「この埋め込みモデルをデプロイ」、「リランカーをホスト」、「文変換モデルを提供」と指示した場合、またはデプロイメント コードにコンテナ URI をハードコーディングする場合が含まれます。HuggingFace が厳選したディープ ラーニング コンテナが常に推奨されます: HuggingFace vLLM (LLM および生成リランカー)、HuggingFace vLLM-Omni (マルチモーダル)、TEI (embeddings/cross-encoderリランカー）、HF Inference Toolkit（その他のトランスフォーマー）。汎用イメージ（AWS vLLM、DJL-LMI、SGLang）は、互換性のある HuggingFace イメージがない場合にのみ使用され、単に新しいバージョンを持っているという理由だけで使用されることはありません。メモリからコンテナ URI をハードコーディングしたり、TGI をデフォルトにしたりすることはありません。古いイメージによる障害やリージョン URI の間違いを防ぎます。
上流ワークフローの仕組み
ワークフロー
各ファミリーについて：AWSカタログページからURIを読み取ります。適切なファミリーのセクションを見つけます（例：HuggingFace LLMの場合は「HuggingFace vLLM Inference」、埋め込みの場合は「HuggingFace Text Embeddings Inference」）。最新の行を選択します。SageMakerプラットフォーム列については、そのファミリー内で最新のものを使用します。より高いエンジンバージョンが記載されているからといって、別のファミリーのセクションに切り替えないでください（「ルールゼロ」を参照）。 with the user's region (from hf-cloud-aws-context-discovery)
提供画像の選択
サービングコンテナは、「紙面上では正しく見える」SageMakerデプロイメントを壊す可能性が最も高い唯一のものです。間違ったコンテナ、古いタグ、または間違ったAMIはすべて、同じ不透明な結果を生み出します。Failed to pass health checkエラー。
ルールゼロ：ハグフェイスの画像は常に勝利する
HuggingFace が厳選した家族 (huggingface-vllm、huggingface-vllm-omni、huggingface-sglang、tei、huggingface-pytorch-inference）と一般的なファミリー（vllm、vllm-omni、sglang、djl-inference）モデルに提供できますが、HuggingFace は必須であり、推奨ではありません。汎用イメージを使用する唯一の正当な理由: 検証済みの非互換性 - モデルにはarchitecture/modality/featureカタログと照合した結果、HuggingFaceタグのサポートは利用できないことが確認されました（想定ではありません）。
curl -s https://huggingface.co/<model-id>/raw/main/config.json
# "architectures": ["Qwen3ForCausalLM"] → vLLM
# "architectures": ["XLMRobertaForSequenceClassification"] → TEI要件とセットアップ
vLLM AMIの要件
CUDAを使用したvLLM DLCイメージ13またはそれ以上（現在のデフォルト：cu130) 設定が必要InferenceAmiVersion=al2-ami-sagemaker-inference-gpu-3-1ProductionVariant について。これは以下も同様に適用されます。huggingface-vllmそしてhuggingface-vllm-omni（同じ銅の上に重ねて）130ベース）とAWSへvllmリポジトリ。これがないと、コンテナは起動時に停止し、CloudWatch ログは作成されません。この障害は他の多くの問題 (アカウントレベルの問題、クォータ、ネットワーク) と酷似しており、人々を誤った診断経路に導いてしまいます。経験則: 選択した vLLM タグに以下が含まれている場合cu130または後日、パス--inference-ami-version al2-ami-sagemaker-inference-gpu-3-1にdeploy.py。将来の CUDA バージョン (cu140+) 別のAMIが必要な場合は、AWSが新しいイメージを公開したときにテーブルに行を追加します。
CUDA / インスタンス互換性
重要かつ間違いやすい点：ドライバはインスタンスファミリーではなくホストAMIから取得されるため、GPU-3-1AMI（vLLM cu）130画像はいずれにせよ必要となる）また、ml.g5.*cu に実行可能129+ 画像。
制限事項と品質チェック
このファイルからは、個別の制限に関する記述は選択されていません。これは、このスキルがあらゆる入力や環境において安全であることを意味するものではありません。ソースコード全体を確認し、ご自身で結果を検証してください。
まずは安全なトライアルから始めましょう
- サポートされているホストとリポジトリのインストール手順を確認してください。スキルディレクトリと、それに関連付けられているスクリプト、アセット、ドキュメントはまとめて保管してください。SKILL.md単独では依存関係を省略できる場合があります。
- エージェントに実際の入力、希望する出力、および受け入れ基準を指定してください。呼び出し構文と利用可能なツールはホストによって異なります。このサイトは、汎用的なインストールコマンドを前提としていません。
- 使い捨てプロジェクトまたはコピーで、元のワークフローを試してみてください。ファイル、リモートサービス、または課金対象リソースを変更する操作は、許可する前に必ず確認してください。
- 出力結果をソースの品質チェックおよび独自の要件と照らし合わせて検証してください。トリガーが成功したことやリポジトリのスター数が多いことだけでは、正しい結果とは言えません。
詳細は出典元をご覧ください。
- 提供画像の選択
- ルールゼロ：ハグフェイスの画像は常に勝利する
- 画像URIの取得元
- 迅速な決断
- 再ランキング：TEIかvLLMか？
- ワークフロー
- TEI: 適切なバリアントを選択してください
- vLLM AMIの要件
- vLLM DLC（HuggingFace vLLMおよびAWS vLLM）の設定
- HuggingFace LLM のすべての展開に必要です
- チューニング（オプション）
- TEIの設定
- CUDA / インスタンス互換性
- VPC / NATゲートウェイの問題
- カタログページが表示されない、古い情報が含まれている、または間違っている場合
- 破損が確認されている画像（最終確認日：7月）2026）
- 初回起動時のハブダウンロード時間
関連スキル
翻訳と範囲
この読書ガイドは、ピン留めされた上流からの抜粋を選りすぐっていますSKILL.md翻訳は補助的なものです。完全なマニュアルではなく、互換性テスト済みであることを保証するものでもありません。ご使用前に原文および参照ファイルをお読みください。
この紹介文は、下記に固定表示されているバージョンに関するものです。現在のリポジトリのアクティビティと収集時間は別途表示されます。
- ピン留めされたソース
- 原文を読む ↗
- ソースを取得しました
- ソースコミット
fabc634a893f62ad5c2039830397efa35fa62715- ソースSHA-256
6af6adfe1cdcf7bcc061ee11e1e2cf88bae9fbb08bf79d16945ce748839c1d76