Guía de lectura localizada
huggingface-zerogpuFinalidad, uso y origen
Demostraciones de IA y computación GPU con Gradio Spaces y Hugging Face Spaces ZeroGPU. Úselo al escribir o revisar código que utilice@spaces.GPU, configurandopython_versionorequirements.txtpara un espacio ZeroGPU o para manejar restricciones de código específicas de ZeroGPU: aislamiento de procesos basado en pickle,gr.Statesemántica a través del límite del trabajador, notorch.compile(use AoTI en su lugar), compilaciones solo de ruedas CUDA (nonvccen tiempo de compilación o ejecución), tamaño grande vs. extragrande y funciones invocables de duración dinámica. Asegúrese de usar esta habilidad siempre que el usuario mencione ZeroGPU,@spaces.GPU, o elspacespaquete Python, o errores de código específicos de ZeroGPU comoPicklingErrormás allá del límite del trabajador,illegal duration, oflash-attnFallos en la compilación de ruedas, incluso cuando el usuario no solicita explícitamente orientación sobre codificación ZeroGPU. Activar enimport spaceso@spaces.GPUen código.
Fuente recuperada:
- Repositorio de origen
- huggingface/skills
- SKILL.md
skills/huggingface-zerogpu/SKILL.md- Estrellas del repositorio
- 11,241
- Actualización del repositorio
- 2026-10-30
- Clasificación de habilidades
- Desarrollo
- Última recopilación
Licencia: Apache-2.0
Los extractos del flujo de trabajo son guías de lectura, no instrucciones ejecutables de Codez. No se utilizó ninguna habilidad de terceros para generar esta página.
Los siguientes fragmentos sobre el propósito y el flujo de trabajo son material preliminar, organizado y traducido para su lectura. Son distintos del análisis editorial de Codez, que se presenta por separado.
Lo que hace esta habilidad
Demostraciones de IA y computación GPU con Gradio Spaces y Hugging Face Spaces ZeroGPU. Úselo al escribir o revisar código que utilice@spaces.GPU, configurandopython_versionorequirements.txtpara un espacio ZeroGPU o para manejar restricciones de código específicas de ZeroGPU: aislamiento de procesos basado en pickle,gr.Statesemántica a través del límite del trabajador, notorch.compile(use AoTI en su lugar), compilaciones solo de ruedas CUDA (nonvccen tiempo de compilación o ejecución), tamaño grande vs. extragrande y funciones invocables de duración dinámica. Asegúrese de usar esta habilidad siempre que el usuario mencione ZeroGPU,@spaces.GPU, o elspacespaquete Python, o errores de código específicos de ZeroGPU comoPicklingErrormás allá del límite del trabajador,illegal duration, oflash-attnFallos en la compilación de ruedas, incluso cuando el usuario no solicita explícitamente orientación sobre codificación ZeroGPU. Activar enimport spaceso@spaces.GPUen código.
Cómo funciona el flujo de trabajo ascendente
Aislamiento de procesos y encurtido
@spaces.GPULas funciones decoradas se ejecutan en un proceso separado administrado por el planificador ZeroGPU. Los argumentos y los valores de retorno cruzan el límite del proceso mediante serialización pickle. Solo se pueden pasar o devolver objetos pickleables. Abrir descriptores de archivo, conexiones a bases de datos, bloqueos, lambdas y cierres sobre estado no pickle generarán una excepción.PicklingError. NO devuelva tensores CUDA directamente. Deserializar un tensor CUDA en el proceso principal desencadenatorch.cuda._lazy_init(), que ZeroGPU bloquea. Conviértalo primero a CPU: devolvertensor.cpu()otensor.cpu().numpy()Los tensores de CPU, las matrices numpy, las imágenes PIL y los objetos Python simples funcionan correctamente.
Abrazando la cara ZeroGPU
Reglas y patrones para demostraciones de ML en Hugging Face Spaces con hardware ZeroGPU. Cubre@spaces.GPU, ajuste de duración y cuota, aislamiento de procesos, el modelo de disponibilidad de CUDA, seguridad de concurrencia y restricciones de compilación de CUDA.
Alcance
Esta habilidad es para Gradio SDK Spaces que utilizan hardware ZeroGPU. Docker y Static Spaces no pueden programarse en ZeroGPU, y las aplicaciones Streamlit ahora se ejecutan como Docker Spaces, por lo que esta habilidad se aplica solo a Gradio. Para la codificación general de Gradio (componentes, diseños, detectores de eventos), consulte lahuggingface-gradiohabilidad en este repositorio. La documentación autorizada de ZeroGPU se encuentra enhttps://huggingface.co/docs/hub/spaces-zerogpu— Consulte estos documentos para obtener información sobre la GPU de respaldo actual, las listas de versiones de tiempo de ejecución y los umbrales de nivel, ya que todos ellos cambian con el tiempo.
import spaces
import torch
from transformers import pipeline
pipe = pipeline("text-generation", model="...", device="cuda")
@spaces.GPU
def generate(prompt: str) -> str:
return pipe(prompt, max_new_tokens=100)[0]["generated_text"]Requisitos y configuración
No fijarspacesenrequirements.txt
La plataforma espacial fija su propiospacesversión. Un pin conflictivo enrequirements.txthace que la resolución de pip falle en el momento de la compilación. > Regla: No incluirspacesenrequirements.txt.
Límites y controles de calidad
Restricciones de compilación de CUDA
HF Spaces crea imágenes Docker en un entorno solo de CPU. En ZeroGPU, la fase de compilación no tienenvccporque la imagen base espython:3.13(uso de espacios de GPU dedicadanvidia/cuda:*-devel-*y tenernvccen tiempo de compilación). Un paquete dependiente de CUDA cuya única distribución es sdist, por ejemplo bareflash-attn— por lo tanto no se puede instalar medianterequirements.txten ZeroGPU. Solo funcionan los wheel preconstruidos. El entorno de ejecución de ZeroGPU tienenvccdisponible, montado a partir de una imagen de desarrollo CUDA en/cuda-imagedesde2025-07(añadido originalmente para soporte AoTI). Esto es lo que hace quetorch.export/ Flujos de trabajo AoTI posibles dentro@spaces.GPUllamadas.
Comience con una prueba segura.
- Verifique el host compatible y las instrucciones de instalación del repositorio. Mantenga juntos el directorio Skill y sus scripts, recursos y documentación a los que hace referencia;SKILL.mdsolo puede omitir dependencias.
- Proporcione al agente sus datos reales, el resultado deseado y los criterios de aceptación. La sintaxis de invocación y las herramientas disponibles dependen del sistema anfitrión; este sitio no presupone un comando de instalación universal.
- Pruebe el flujo de trabajo original en un proyecto desechable o en una copia. Revise las operaciones que modifican archivos, servicios remotos o recursos facturables antes de autorizarlas.
- Valide el resultado comparándolo con los controles de calidad de origen y sus propios requisitos. Un activador exitoso o un alto número de estrellas en el repositorio no garantizan un resultado correcto.
Lea más en la fuente
- Abrazando la cara ZeroGPU
- Alcance
- Hardware
- Patrón básico
- Modelo de disponibilidad de CUDA
- El modismo de selección de dispositivos sigue funcionando.
- La carga anticipada es la opción predeterminada correcta.
- Desarrollo local: simplemente instale
spaces - Antipatrón
- Haz esto en su lugar
- Duración y cuota
- Duración dinámica para cargas de trabajo variables
- Aislamiento de procesos y encurtido
gr.Statesemántica a través de la frontera- Concurrencia
- Granularidad de llamada
- Restricciones de compilación de CUDA
- Ejemplo de almacenamiento en caché
python_versionfijar en la sección inicial del archivo README- No fijar
spacesenrequirements.txt - Alfiler
torchpara que coincidan con las etiquetas de las ruedas
Habilidades relacionadas
Traducción y alcance
Esta guía de lectura selecciona pasajes de la sección fijada en la parte superior.SKILL.mdLa traducción es asistida. No se trata de un manual completo ni garantiza la compatibilidad. Lea el original y los archivos a los que hace referencia antes de usarlo.
Esta introducción hace referencia a la versión fijada a continuación; la actividad actual del repositorio y la hora de recopilación se muestran por separado.
- Fuente fijada
- Lee el original ↗
- Fuente recuperada
- Confirmación de origen
fabc634a893f62ad5c2039830397efa35fa62715- Fuente SHA-256
829659aec34224970fe7ed619729fdc7849fc5dd696e2000256c3ee0b517eff7