Guia de leitura localizado
hf-cloud-sagemaker-production-defaultsFinalidade, utilização e fonte
Crie um endpoint do SageMaker (em tempo real, com escalabilidade para zero em tempo real ou assíncrono) com escalonamento automático, alarmes do CloudWatch e marcação ativados por padrão. Use essa habilidade sempre que for criar um endpoint do SageMaker ou escrever código de implantação que faça a chamada.create_endpointOu finalize uma implantação após o URI da imagem e a função do IAM serem conhecidos. Fornecedeploy.pypara pontos de extremidade em tempo real,deploy_ic.pypara endpoints em tempo real que escalam para instâncias zero por meio de componentes de inferência, edeploy_async.pypara endpoints assíncronos (também escalonáveis para zero). Este é o último passo no fluxo de trabalho de implantação do SageMaker. Nunca gere um arquivo bare.create_endpointChamadas sem essas configurações padrão — endpoints sem escalonamento automático ou alarmes são demonstrações, não implantações.
Fonte recuperada:
- Repositório de origem
- huggingface/skills
- SKILL.md
skills/hf-cloud-sagemaker-production-defaults/SKILL.md- Estrelas do repositório
- 11,241
- Atualização do repositório
- 2026-10-30
- Classificação de Habilidades
- Serviços em nuvem
- Última coleta
Licença: Apache-2.0
Os trechos do fluxo de trabalho são auxiliares de leitura e não instruções executáveis do Codez. Nenhuma Skill de terceiros foi executada para gerar esta página.
Os trechos abaixo, que descrevem o propósito e o fluxo de trabalho, são material original, organizado e traduzido para facilitar a leitura. Eles são distintos da análise editorial da Codez, que possui uma etiqueta separada.
O que esta habilidade faz
Crie um endpoint do SageMaker (em tempo real, com escalabilidade para zero em tempo real ou assíncrono) com escalonamento automático, alarmes do CloudWatch e marcação ativados por padrão. Use essa habilidade sempre que for criar um endpoint do SageMaker ou escrever código de implantação que faça a chamada.create_endpointOu finalize uma implantação após o URI da imagem e a função do IAM serem conhecidos. Fornecedeploy.pypara pontos de extremidade em tempo real,deploy_ic.pypara endpoints em tempo real que escalam para instâncias zero por meio de componentes de inferência, edeploy_async.pypara endpoints assíncronos (também escalonáveis para zero). Este é o último passo no fluxo de trabalho de implantação do SageMaker. Nunca gere um arquivo bare.create_endpointChamadas sem essas configurações padrão — endpoints sem escalonamento automático ou alarmes são demonstrações, não implantações.
Como funciona o fluxo de trabalho upstream
Configurações padrão de produção do SageMaker
A diferença entre um endpoint de demonstração e um que você pode deixar em execução é: ele se adapta ao tráfego, avisa quando ocorre uma falha e permite a depuração posterior. Esta skill torna esses três recursos padrão, em vez de opcionais. No momento da execução desta skill, o planejador já escolheu um endpoint em tempo real, o IAM possui uma função utilizável e a seleção de imagem já resolveu o URI do contêiner e a versão da AMI. Esta skill transforma tudo isso em uma implantação real.
Passagem a montante · L6 ↗O que é criado?
Para cada endpoint, a skill cria estes itens como uma unidade: Modelo SageMaker — imagem + variáveis de ambiente + função de execução + S3artefatos
Passagem a montante · L12 ↗Executando a implantação
Para um LLM de geração de texto (vLLM), primeiro empacote o snapshot do modelo fixado como um arquivo SageMaker.model.tar.gzartefato e faça o upload para um S controlado pela conta3balde. O SageMaker o extrai em/opt/ml/modelPortanto, a implantação não busca nem executa código do repositório em tempo de execução: Para um modelo de incorporação (TEI, geralmente em CPU):
python scripts/deploy.py \
--model-name qwen3-medical \
--image-uri "$IMAGE_URI" \
--inference-ami-version "$AMI" \
--role-arn "$ROLE_ARN" \
--model-s3-uri "s3://<your-model-bucket>/qwen3-medical/model.tar.gz" \
--instance-type ml.g5.xlarge \
--region "$REGION" \
--env SM_VLLM_MODEL=/opt/ml/model \
--env SM_VLLM_HOST=0.0.0.0 \
--env SM_VLLM_TRUST_REMOTE_CODE=false \
--env SM_VLLM_MAX_MODEL_LEN=4096Requisitos e configuração
Nenhuma passagem de requisitos resumida foi selecionada deste arquivo. Isso não significa que a Skill não tenha dependências. Verifique as instruções de configuração do repositório e os arquivos referenciados.
Limites e verificações de qualidade
Nenhuma passagem de limites separada foi selecionada deste arquivo. Isso não significa que a Skill seja segura para todas as entradas ou ambientes. Analise o código-fonte completo e valide seus próprios resultados.
Comece com um teste seguro.
- Verifique o host compatível e as instruções de instalação do repositório. Mantenha o diretório Skill e seus scripts, recursos e documentação referenciados juntos;SKILL.mdsozinho pode omitir dependências.
- Forneça ao agente suas entradas reais, a saída desejada e os critérios de aceitação. A sintaxe de invocação e as ferramentas disponíveis dependem do host; este site não pressupõe um comando de instalação universal.
- Teste o fluxo de trabalho original em um projeto descartável ou em uma cópia. Analise as operações que alteram arquivos, serviços remotos ou recursos faturáveis antes de permiti-las.
- Valide o resultado comparando-o com as verificações de qualidade da fonte e com seus próprios requisitos. Um gatilho bem-sucedido ou uma alta contagem de estrelas no repositório não garantem um resultado correto.
Leia mais na fonte.
- Configurações padrão de produção do SageMaker
- O que é criado?
- Executando a implantação
- Estar em serviço não é garantia de sucesso — faça um teste antes de declarar vitória.
- Testando um endpoint em tempo real
- O UTF-8BOM pegou você (Windows)
- Invocando um reclassificador generativo (vLLM)
- Selecionando o URI da imagem
- Escalar até zero para pontos de extremidade em tempo real
- Em que difere dedeploy.py
- Comportamento mensurado
- Dimensionar o componente
- Invocando e testando
- Ordem de desmontagem
- Implantações de inferência assíncrona
- Como funciona a redução a zero
- Alarmes assíncronos
- Invocando endpoints assíncronos
- Visão geral das configurações padrão
- Meta de dimensionamento automático — ajuste por tipo de modelo
- Captura de dados + armadilha do IAM
- Desmontagem
- Quando a implantação falha
Habilidades relacionadas
Tradução e escopo
Este guia de leitura seleciona trechos do texto fixado a montante.SKILL.mdA tradução foi feita com auxílio de ferramentas. Este não é um manual completo nem garante compatibilidade comprovada. Leia o original e os arquivos referenciados antes de usar.
Esta introdução refere-se à versão fixada abaixo; a atividade atual do repositório e o tempo de coleta são mostrados separadamente.
- Fonte fixada
- Leia o original ↗
- Fonte recuperada
- Commit de origem
fabc634a893f62ad5c2039830397efa35fa62715- Fonte SHA-256
6a8c1aff465e548ac4476d56831f864621af83b6a0f54544637601f3ecc44f9e