Guia de leitura localizado
huggingface-zerogpuFinalidade, utilização e fonte
Demonstrações de IA e computação em GPU com Gradio Spaces e Hugging Face Spaces ZeroGPU. Use ao escrever ou revisar código que utiliza...@spaces.GPU, configurandopython_versionourequirements.txtpara um espaço ZeroGPU ou para lidar com restrições de código específicas do ZeroGPU — isolamento de processos baseado em pickle,gr.Statesemântica além da fronteira do trabalhador, não.torch.compile(use AoTI em vez disso), compilações somente com wheel CUDA (nãonvcc(em tempo de compilação ou execução), dimensionamento grande versus extragrande e funções de duração dinâmica. Certifique-se de usar essa habilidade sempre que o usuário mencionar ZeroGPU.@spaces.GPUou ospacespacote Python, ou encontra erros de código específicos do ZeroGPU comoPicklingErroratravés da fronteira trabalhista,illegal duration, ouflash-attnFalhas na compilação do wheel — mesmo quando o usuário não solicita explicitamente orientações de codificação ZeroGPU. Acionado porimport spacesou@spaces.GPUem código.
Fonte recuperada:
- Repositório de origem
- huggingface/skills
- SKILL.md
skills/huggingface-zerogpu/SKILL.md- Estrelas do repositório
- 11,241
- Atualização do repositório
- 2026-10-30
- Classificação de Habilidades
- Desenvolvimento
- Última coleta
Licença: Apache-2.0
Os trechos do fluxo de trabalho são auxiliares de leitura e não instruções executáveis do Codez. Nenhuma Skill de terceiros foi executada para gerar esta página.
Os trechos abaixo, que descrevem o propósito e o fluxo de trabalho, são material original, organizado e traduzido para facilitar a leitura. Eles são distintos da análise editorial da Codez, que possui uma etiqueta separada.
O que esta habilidade faz
Demonstrações de IA e computação em GPU com Gradio Spaces e Hugging Face Spaces ZeroGPU. Use ao escrever ou revisar código que utiliza...@spaces.GPU, configurandopython_versionourequirements.txtpara um espaço ZeroGPU ou para lidar com restrições de código específicas do ZeroGPU — isolamento de processos baseado em pickle,gr.Statesemântica além da fronteira do trabalhador, não.torch.compile(use AoTI em vez disso), compilações somente com wheel CUDA (nãonvcc(em tempo de compilação ou execução), dimensionamento grande versus extragrande e funções de duração dinâmica. Certifique-se de usar essa habilidade sempre que o usuário mencionar ZeroGPU.@spaces.GPUou ospacespacote Python, ou encontra erros de código específicos do ZeroGPU comoPicklingErroratravés da fronteira trabalhista,illegal duration, ouflash-attnFalhas na compilação do wheel — mesmo quando o usuário não solicita explicitamente orientações de codificação ZeroGPU. Acionado porimport spacesou@spaces.GPUem código.
Como funciona o fluxo de trabalho upstream
Processo de isolamento e decapagem
@spaces.GPUFunções decoradas com - são executadas em um processo separado, gerenciado pelo agendador ZeroGPU. Os argumentos e valores de retorno atravessam o limite do processo por meio da serialização pickle. Somente objetos serializáveis (picklable) podem ser passados ou retornados. Aberturas de arquivos, conexões de banco de dados, bloqueios, lambdas e closures sobre um estado não serializável (unpicklable) gerarão uma exceção.PicklingErrorNão retorne tensores CUDA diretamente. A desserialização de um tensor CUDA no processo principal aciona um erro.torch.cuda._lazy_init(), que o ZeroGPU bloqueia. Converta para CPU primeiro: retornartensor.cpu()outensor.cpu().numpy()Tensores de CPU, arrays numpy, imagens PIL e objetos Python simples funcionam perfeitamente.
Abraçando o rosto ZeroGPU
Regras e padrões para demonstrações de aprendizado de máquina no Hugging Face Spaces com hardware ZeroGPU. Abrange@spaces.GPU, ajuste de duração e cota, isolamento de processos, o modelo de disponibilidade do CUDA, segurança de concorrência e restrições de compilação do CUDA.
Escopo
Esta habilidade é para Espaços do SDK Gradio usando hardware ZeroGPU. Espaços Docker e Espaços Estáticos não podem ser agendados em ZeroGPU, e os aplicativos Streamlit agora são executados como Espaços Docker — portanto, esta habilidade se aplica somente ao Gradio. Para codificação geral do Gradio (componentes, layouts, ouvintes de eventos), consulte ohuggingface-gradiohabilidade neste repositório. A documentação oficial do ZeroGPU está localizada emhttps://huggingface.co/docs/hub/spaces-zerogpu— consulte-os para obter informações sobre a GPU de suporte atual, listas de versões de tempo de execução e limites de nível, que mudam com o tempo.
import spaces
import torch
from transformers import pipeline
pipe = pipeline("text-generation", model="...", device="cuda")
@spaces.GPU
def generate(prompt: str) -> str:
return pipe(prompt, max_new_tokens=100)[0]["generated_text"]Requisitos e configuração
Não fixe com alfinetes.spacesemrequirements.txt
A plataforma espacial fixa a sua própriaspacesversão. Um pino conflitante emrequirements.txtFaz com que a resolução do pip falhe em tempo de compilação. > Regra: Não incluirspacesemrequirements.txt.
Limites e verificações de qualidade
Restrições de compilação CUDA
O HF Spaces cria imagens Docker em um ambiente somente com CPU. No ZeroGPU, a fase de construção não possui CPU.nvccporque a imagem base épython:3.13(Espaços com GPU dedicada)nvidia/cuda:*-devel-*e têmnvcc(no momento da compilação). Um pacote dependente de CUDA cuja única distribuição é sdist — por exemplo, bareflash-attn— portanto não pode ser instalado viarequirements.txtNo ZeroGPU. Somente rodas pré-compiladas funcionam. O runtime do ZeroGPU possuinvccdisponível, montado a partir de uma imagem de desenvolvimento CUDA em/cuda-imagedesde2025-07(Adicionado originalmente para suporte a AoTI). É isso que faz a diferença.torch.export/ Fluxos de trabalho AoTI possíveis dentro@spaces.GPUligações.
Comece com um teste seguro.
- Verifique o host compatível e as instruções de instalação do repositório. Mantenha o diretório Skill e seus scripts, recursos e documentação referenciados juntos;SKILL.mdsozinho pode omitir dependências.
- Forneça ao agente suas entradas reais, a saída desejada e os critérios de aceitação. A sintaxe de invocação e as ferramentas disponíveis dependem do host; este site não pressupõe um comando de instalação universal.
- Teste o fluxo de trabalho original em um projeto descartável ou em uma cópia. Analise as operações que alteram arquivos, serviços remotos ou recursos faturáveis antes de permiti-las.
- Valide o resultado comparando-o com as verificações de qualidade da fonte e com seus próprios requisitos. Um gatilho bem-sucedido ou uma alta contagem de estrelas no repositório não garantem um resultado correto.
Leia mais na fonte.
- Abraçando o rosto ZeroGPU
- Escopo
- Hardware
- Padrão básico
- Modelo de disponibilidade CUDA
- A estratégia de seleção de dispositivos ainda funciona.
- O carregamento antecipado é a configuração padrão correta.
- Desenvolvimento local: basta instalar
spaces - Antipadrão
- Faça isto em vez disso
- Duração e Cota
- Duração dinâmica para cargas de trabalho variáveis
- Processo de isolamento e decapagem
gr.Statesemântica através da fronteira- Concorrência
- Granularidade de chamada
- Restrições de compilação CUDA
- Exemplo de armazenamento em cache
python_versionfixar no frontmatter do README- Não fixe com alfinetes.
spacesemrequirements.txt - Alfinete
torchpara combinar com as etiquetas das rodas
Habilidades relacionadas
Tradução e escopo
Este guia de leitura seleciona trechos do texto fixado a montante.SKILL.mdA tradução foi feita com auxílio de ferramentas. Este não é um manual completo nem garante compatibilidade comprovada. Leia o original e os arquivos referenciados antes de usar.
Esta introdução refere-se à versão fixada abaixo; a atividade atual do repositório e o tempo de coleta são mostrados separadamente.
- Fonte fixada
- Leia o original ↗
- Fonte recuperada
- Commit de origem
fabc634a893f62ad5c2039830397efa35fa62715- Fonte SHA-256
829659aec34224970fe7ed619729fdc7849fc5dd696e2000256c3ee0b517eff7