현지화된 읽기 가이드
hf-cloud-sagemaker-production-defaults목적, 사용법 및 출처
자동 확장, CloudWatch 알람 및 태깅이 기본적으로 활성화된 SageMaker 엔드포인트(실시간, 실시간 스케일 투 제로 또는 비동기)를 생성합니다. SageMaker 엔드포인트를 생성하거나 배포 코드를 작성할 때마다 이 스킬을 사용하세요.create_endpoint또는 이미지 URI와 IAM 역할을 확인한 후 배포를 완료할 수 있습니다.deploy.py실시간 엔드포인트의 경우,deploy_ic.py추론 구성요소를 통해 인스턴스 수가 0개로 줄어드는 실시간 엔드포인트의 경우,deploy_async.py비동기 엔드포인트(규모 축소 기능 포함)의 경우입니다. 이는 SageMaker 배포 워크플로의 마지막 단계입니다. 베어(bare) 버전을 생성하지 마십시오.create_endpoint이러한 기본 설정 없이 호출하면 자동 확장이나 알람이 없는 엔드포인트는 배포가 아닌 데모입니다.
출처 검색됨:
- 소스 저장소
- huggingface/skills
- SKILL.md
skills/hf-cloud-sagemaker-production-defaults/SKILL.md- 저장소 Star
- 11,241
- 저장소 최근 업데이트
- 2026-10-30
- 능력 분류
- 클라우드 서비스
- 최근 수집 시간
라이선스: Apache-2.0
워크플로 발췌본은 이해를 돕기 위한 자료이며, Codez에서 제공하는 실행 가능한 명령어가 아닙니다. 이 페이지를 생성하는 데 타사 Skill은 사용되지 않았습니다.
아래의 목적 및 워크플로 관련 내용은 읽기 쉽도록 정리 및 번역된 상위 자료입니다. 이는 별도로 분류된 Codez 편집 분석과는 별개입니다.
이 스킬의 기능
자동 확장, CloudWatch 알람 및 태깅이 기본적으로 활성화된 SageMaker 엔드포인트(실시간, 실시간 스케일 투 제로 또는 비동기)를 생성합니다. SageMaker 엔드포인트를 생성하거나 배포 코드를 작성할 때마다 이 스킬을 사용하세요.create_endpoint또는 이미지 URI와 IAM 역할을 확인한 후 배포를 완료할 수 있습니다.deploy.py실시간 엔드포인트의 경우,deploy_ic.py추론 구성요소를 통해 인스턴스 수가 0개로 줄어드는 실시간 엔드포인트의 경우,deploy_async.py비동기 엔드포인트(규모 축소 기능 포함)의 경우입니다. 이는 SageMaker 배포 워크플로의 마지막 단계입니다. 베어(bare) 버전을 생성하지 마십시오.create_endpoint이러한 기본 설정 없이 호출하면 자동 확장이나 알람이 없는 엔드포인트는 배포가 아닌 데모입니다.
업스트림 워크플로우 작동 방식
SageMaker 프로덕션 기본 설정
데모 엔드포인트와 실제로 실행 가능한 엔드포인트의 차이점은 다음과 같습니다. 데모 엔드포인트는 트래픽에 따라 확장되고, 오류 발생 시 알림을 제공하며, 나중에 디버깅할 수 있습니다. 이 스킬은 이러한 세 가지 기능을 선택 사항이 아닌 기본 기능으로 제공합니다. 이 스킬이 실행될 때쯤이면 플래너는 실시간 엔드포인트를 선택하고, IAM은 사용 가능한 역할을 할당하며, 이미지 선택은 컨테이너 URI와 AMI 버전을 확정합니다. 이 스킬은 이러한 설정을 실제 배포로 전환합니다.
상류 통로 · L6 ↗무엇이 생성되는가
각 엔드포인트에 대해 스킬은 다음 요소들을 하나의 단위로 생성합니다: SageMaker 모델 — 이미지 + 환경 변수 + 실행 역할 + S3유물
상류 통로 · L12 ↗배포 실행 중
텍스트 생성 LLM(vLLM)의 경우, 먼저 고정된 모델 스냅샷을 SageMaker 형식으로 패키징합니다.model.tar.gz아티팩트를 계정으로 제어되는 S에 업로드합니다.3버킷. SageMaker는 이를 아래에서 추출합니다./opt/ml/model따라서 배포 시 런타임에 저장소 코드를 가져오거나 실행하지 않습니다. 임베디드 모델(TEI, 주로 CPU에서 실행)의 경우:
python scripts/deploy.py \
--model-name qwen3-medical \
--image-uri "$IMAGE_URI" \
--inference-ami-version "$AMI" \
--role-arn "$ROLE_ARN" \
--model-s3-uri "s3://<your-model-bucket>/qwen3-medical/model.tar.gz" \
--instance-type ml.g5.xlarge \
--region "$REGION" \
--env SM_VLLM_MODEL=/opt/ml/model \
--env SM_VLLM_HOST=0.0.0.0 \
--env SM_VLLM_TRUST_REMOTE_CODE=false \
--env SM_VLLM_MAX_MODEL_LEN=4096요구 사항 및 설정
이 파일에서 간략한 요구사항 구절이 선택되지 않았습니다. 이는 해당 스킬에 종속성이 없다는 의미는 아닙니다. 저장소 설정 지침 및 참조 파일을 확인하십시오.
제한 사항 및 품질 검사
이 파일에서 별도의 제한 조건 구문이 선택되지 않았습니다. 이는 해당 스킬이 모든 입력 또는 환경에서 안전하다는 것을 의미하지 않습니다. 전체 소스 코드를 검토하고 결과를 직접 확인하십시오.
안전한 시험 사용부터 시작하세요
- 지원되는 호스트와 저장소 설치 지침을 확인하세요. 스킬 디렉토리와 해당 디렉토리에서 참조하는 스크립트, 자산 및 문서를 함께 보관하세요.SKILL.md단독으로는 종속성을 생략할 수 있습니다.
- 에이전트에 실제 입력값, 원하는 출력값 및 승인 기준을 제공하십시오. 호출 구문 및 사용 가능한 도구는 호스트에 따라 다르므로 이 사이트는 범용 설치 명령을 제공하지 않습니다.
- 원본 워크플로를 임시 프로젝트 또는 복사본에서 테스트해 보세요. 파일, 원격 서비스 또는 유료 리소스를 변경하는 작업은 허용하기 전에 검토하십시오.
- 출력 결과를 원본 품질 검사 및 자체 요구 사항에 맞춰 검증하십시오. 트리거가 성공적으로 작동했거나 저장소의 별점 수가 높다고 해서 반드시 올바른 결과가 나오는 것은 아닙니다.
원문에서 더 자세한 내용을 읽어보세요.
- SageMaker 프로덕션 기본 설정
- 무엇이 생성되는가
- 배포 실행 중
- InService는 성공이 아닙니다. 승리를 선언하기 전에 먼저 모의 테스트를 진행하세요.
- 실시간 엔드포인트 테스트
- UTF-8BOM 함정 (Windows)
- 생성적 재순위 지정기(vLLM) 호출
- 이미지 URI 선택
- 실시간 엔드포인트의 경우 스케일을 0으로 줄이세요.
- 어떻게 다른가deploy.py
- 측정된 행동
- 구성 요소의 크기 조정
- 호출 및 테스트
- 분해 순서
- 비동기 추론 배포
- 스케일 투 제로(scale-to-zero) 작동 방식
- 비동기 알람
- 비동기 엔드포인트 호출
- 기본 설정 한눈에 보기
- 자동 스케일링 목표 — 모델 유형별 조정
- 데이터 캡처 + IAM 관련 문제점
- 분해
- 배포가 실패할 경우
관련 기술
번역 및 범위
이 독서 안내서는 고정된 상류 지역에서 발췌한 구절들을 소개합니다.SKILL.md본 번역은 보조 번역이며, 완전한 설명서 또는 호환성 테스트를 보장하는 것은 아닙니다. 사용 전에 원본 및 참조 파일을 반드시 읽어 주십시오.
이 소개글은 아래 고정된 버전을 참조하며, 현재 저장소 활동 및 수집 시간은 별도로 표시됩니다.
- 고정된 소스
- 원문을 읽어보세요 ↗
- 출처 검색됨
- 소스 커밋
fabc634a893f62ad5c2039830397efa35fa62715- 출처 SHA-256
6a8c1aff465e548ac4476d56831f864621af83b6a0f54544637601f3ecc44f9e