Локализованное руководство по чтению

hf-cloud-sagemaker-production-defaultsНазначение, использование и источник

Создайте конечную точку SageMaker (в реальном времени, с масштабированием до нуля в реальном времени или асинхронную) с автоматическим масштабированием, оповещениями CloudWatch и включенной по умолчанию тегировкой. Используйте этот навык всякий раз, когда собираетесь создать конечную точку SageMaker, написать код развертывания, который вызываетcreate_endpointили завершить развертывание после того, как станут известны URI образа и роль IAM. Предоставляетdeploy.pyдля конечных точек, работающих в режиме реального времени,deploy_ic.pyдля конечных точек реального времени, масштабируемых до нуля экземпляров с помощью компонентов вывода, иdeploy_async.pyдля асинхронных конечных точек (также масштабируемых до нуля). Это последний шаг в рабочем процессе развертывания SageMaker. Никогда не создавайте пустой файл.create_endpointВызов без этих настроек по умолчанию — конечные точки без автомасштабирования или оповещений являются демонстрационными примерами, а не развертываниями.

Источник получен: 2026-10-29

Репозиторий-источник: huggingface/skills
SKILL.md: skills/hf-cloud-sagemaker-production-defaults/SKILL.md
Звёзды репозитория: 11,241
Последнее обновление репозитория: 2026-10-30
Категории Skills: Облачные сервисы
Время последнего сбора: 2026-10-31 10:38 UTC+08:00

Лицензия: Apache-2.0

Оригинальный файл SKILL.md

Приведенные фрагменты описания рабочих процессов являются вспомогательными средствами для чтения, а не исполняемыми инструкциями от Codez. Для создания этой страницы не использовались сторонние инструменты.

Приведённые ниже фрагменты, описывающие цели и рабочие процессы, представляют собой исходный материал, систематизированный и переведённый для удобства чтения. Они отличаются от отдельно обозначенного редакционного анализа Codez.

Что делает этот навык

Как работает рабочий процесс на вышестоящем уровне

Настройки по умолчанию в SageMaker для производственных систем

Разница между демонстрационной конечной точкой и той, которую можно оставить работать, заключается в следующем: она масштабируется в зависимости от трафика, сообщает о сбоях, и вы можете отлаживать её позже. Этот навык делает эти три параметра параметрами по умолчанию, а не дополнительными опциями. К моменту запуска этого навыка планировщик уже выбрал конечную точку реального времени, IAM имеет пригодную для использования роль, а выбор образа определил URI контейнера и версию AMI. Этот навык преобразует всё это в реальное развертывание.

проход вверх по течению · L6 ↗

Что создаётся

Для каждой конечной точки навык создает их как единое целое: модель SageMaker — образ + переменные окружения + роль выполнения + S3артефакты

проход вверх по течению · L12 ↗

Выполнение развертывания

Для создания текстовой модели LLM (vLLM) сначала упакуйте зафиксированный снимок модели в формат SageMaker.model.tar.gzартефакт и загрузить его в контролируемую учетными записями систему S.3Корзина. SageMaker извлекает её в.../opt/ml/modelТаким образом, развертывание не загружает и не выполняет код репозитория во время выполнения: Для модели встраивания (TEI, часто на ЦП):

проход вверх по течению · L30 ↗

проход вверх по течению · bash ↗

python scripts/deploy.py \
    --model-name qwen3-medical \
    --image-uri "$IMAGE_URI" \
    --inference-ami-version "$AMI" \
    --role-arn "$ROLE_ARN" \
    --model-s3-uri "s3://<your-model-bucket>/qwen3-medical/model.tar.gz" \
    --instance-type ml.g5.xlarge \
    --region "$REGION" \
    --env SM_VLLM_MODEL=/opt/ml/model \
    --env SM_VLLM_HOST=0.0.0.0 \
    --env SM_VLLM_TRUST_REMOTE_CODE=false \
    --env SM_VLLM_MAX_MODEL_LEN=4096

Требования и настройка

Из этого файла не был выбран фрагмент с краткими требованиями. Это не означает, что у навыка нет зависимостей. Проверьте инструкции по настройке репозитория и указанные файлы.

Ограничения и проверки качества

Из этого файла не был выбран отдельный фрагмент с ограничениями. Это не означает, что навык безопасен для любых входных данных или сред. Проверьте полный исходный код и подтвердите свой собственный результат.

Начните с безопасного пробного периода.

Проверьте поддерживаемый хост и инструкции по установке репозитория. Храните каталог Skill, а также связанные с ним скрипты, ресурсы и документацию вместе;SKILL.mdВ одиночку можно опустить зависимости.
Предоставьте агенту ваши реальные входные данные, желаемый результат и критерии приемки. Синтаксис вызова и доступные инструменты зависят от хоста; данный сайт не предполагает универсальной команды установки.
Попробуйте запустить исходный рабочий процесс в тестовом проекте или в его копии. Перед тем как разрешить операции, изменяющие файлы, удаленные сервисы или оплачиваемые ресурсы, проверьте их.
Проверьте выходные данные на соответствие исходным проверкам качества и вашим собственным требованиям. Успешный запуск или большое количество звезд в репозитории не гарантируют корректного результата.

Формат навыков и спецификация каталога ↗

Подробнее читайте в источнике.

Перевод и сфера применения

В этом руководстве по чтению представлены избранные отрывки из закрепленного текста выше по течению.SKILL.mdПеревод выполнен с помощью переводчика. Это не полное руководство и не гарантия проверенной совместимости. Перед использованием ознакомьтесь с оригиналом и указанными в нем файлами.

Данное введение относится к закрепленной ниже версии; текущая активность в репозитории и время сбора данных отображаются отдельно.

Закрепленный источник: Прочитайте оригинал ↗
Источник получен: 2026-10-29T09:32:23Z
Исходный коммит: fabc634a893f62ad5c2039830397efa35fa62715
Исходный SHA-256: 6a8c1aff465e548ac4476d56831f864621af83b6a0f54544637601f3ecc44f9e

Вернуться к полному каталогу навыков