Panduan membaca yang dilokalisasi
huggingface-zerogpuTujuan, penggunaan, dan sumber
Demo AI dan komputasi GPU dengan Gradio Spaces dan Hugging Face Spaces ZeroGPU. Gunakan saat menulis atau meninjau kode yang menggunakan@spaces.GPU, mengkonfigurasipython_versionataurequirements.txtuntuk Ruang ZeroGPU, atau menangani batasan kode khusus ZeroGPU — isolasi proses berbasis pickle,gr.Statesemantik di seluruh batas pekerja, tidaktorch.compile(gunakan AoTI sebagai gantinya), build khusus wheel CUDA (tidak adanvcc(pada saat pembuatan atau runtime), ukuran besar vs sangat besar, dan fungsi yang dapat dipanggil dengan durasi dinamis. Pastikan untuk menggunakan keahlian ini setiap kali pengguna menyebutkan ZeroGPU,@spaces.GPU, atauspacespaket Python, atau mengalami kesalahan kode khusus ZeroGPU sepertiPicklingErrormelintasi batas pekerja,illegal duration, atauflash-attnKegagalan pembuatan wheel — bahkan ketika pengguna tidak secara eksplisit meminta panduan pengkodean ZeroGPU. Picu padaimport spacesatau@spaces.GPUdalam kode.
Sumber diambil:
- Repositori sumber
- huggingface/skills
- SKILL.md
skills/huggingface-zerogpu/SKILL.md- Bintang Repositori
- 11,241
- Pembaruan terakhir repositori
- 2026-10-30
- Klasifikasi Kemampuan
- Pengembangan
- Waktu pengumpulan terbaru
Lisensi: Apache-2.0
Cuplikan alur kerja adalah alat bantu baca, bukan instruksi yang dapat dieksekusi dari Codez. Tidak ada Skill pihak ketiga yang dijalankan untuk menghasilkan halaman ini.
Bagian yang menjelaskan tujuan dan alur kerja di bawah ini merupakan materi dari hulu, yang telah diorganisir dan diterjemahkan untuk dibaca. Bagian ini berbeda dari analisis editorial Codez yang diberi label secara terpisah.
Apa yang dilakukan oleh Skill ini?
Demo AI dan komputasi GPU dengan Gradio Spaces dan Hugging Face Spaces ZeroGPU. Gunakan saat menulis atau meninjau kode yang menggunakan@spaces.GPU, mengkonfigurasipython_versionataurequirements.txtuntuk Ruang ZeroGPU, atau menangani batasan kode khusus ZeroGPU — isolasi proses berbasis pickle,gr.Statesemantik di seluruh batas pekerja, tidaktorch.compile(gunakan AoTI sebagai gantinya), build khusus wheel CUDA (tidak adanvcc(pada saat pembuatan atau runtime), ukuran besar vs sangat besar, dan fungsi yang dapat dipanggil dengan durasi dinamis. Pastikan untuk menggunakan keahlian ini setiap kali pengguna menyebutkan ZeroGPU,@spaces.GPU, atauspacespaket Python, atau mengalami kesalahan kode khusus ZeroGPU sepertiPicklingErrormelintasi batas pekerja,illegal duration, atauflash-attnKegagalan pembuatan wheel — bahkan ketika pengguna tidak secara eksplisit meminta panduan pengkodean ZeroGPU. Picu padaimport spacesatau@spaces.GPUdalam kode.
Bagaimana alur kerja hulu bekerja
Proses Isolasi dan Pengawetan
@spaces.GPUFungsi yang didekorasi berjalan dalam proses terpisah yang dikelola oleh penjadwal ZeroGPU. Argumen dan nilai kembalian melintasi batas proses melalui serialisasi pickle. Hanya objek yang dapat di-pickle yang dapat diteruskan atau dikembalikan. Pembukaan handle file, koneksi basis data, kunci, lambda, dan closure pada keadaan yang tidak dapat di-pickle akan menimbulkan kesalahan.PicklingErrorJANGAN mengembalikan tensor CUDA secara langsung. Proses unpickling tensor CUDA di proses utama akan memicu...torch.cuda._lazy_init(), yang diblokir oleh ZeroGPU. Konversikan ke CPU terlebih dahulu: kembalikantensor.cpu()atautensor.cpu().numpy()Tensor CPU, array numpy, gambar PIL, dan objek Python biasa berfungsi dengan baik.
Wajah Berpelukan ZeroGPU
Aturan dan pola untuk demo ML pada Hugging Face Spaces dengan perangkat keras ZeroGPU. Meliputi@spaces.GPU, penyesuaian durasi dan kuota, isolasi proses, model ketersediaan CUDA, keamanan konkurensi, dan batasan pembangunan CUDA.
Cakupan
Keterampilan ini ditujukan untuk Gradio SDK Spaces yang menggunakan perangkat keras ZeroGPU. Docker dan Static Spaces tidak dapat dijadwalkan ke ZeroGPU, dan aplikasi Streamlit sekarang berjalan sebagai Docker Spaces — jadi keterampilan ini hanya berlaku untuk Gradio. Untuk pengkodean Gradio secara umum (komponen, tata letak, pendengar peristiwa), lihathuggingface-gradioKeterampilan dalam repositori ini. Dokumentasi ZeroGPU yang resmi dapat ditemukan dihttps://huggingface.co/docs/hub/spaces-zerogpu— merujuklah pada mereka untuk mengetahui GPU pendukung saat ini, daftar versi runtime, dan ambang batas tingkatan, yang semuanya berubah seiring waktu.
import spaces
import torch
from transformers import pipeline
pipe = pipeline("text-generation", model="...", device="cuda")
@spaces.GPU
def generate(prompt: str) -> str:
return pipe(prompt, max_new_tokens=100)[0]["generated_text"]Persyaratan dan pengaturan
Jangan disematkanspacesdi dalamrequirements.txt
Platform luar angkasa itu memasang miliknya sendirispacesversi. Pin yang bertentangan direquirements.txtmenyebabkan resolusi pip gagal pada saat pembuatan. > Aturan: Jangan sertakanspacesdi dalamrequirements.txt.
Batasan dan pemeriksaan kualitas
Batasan Pembangunan CUDA
HF Spaces membangun image Docker dalam lingkungan yang hanya menggunakan CPU. Pada ZeroGPU, fase pembangunan tidak memilikinvcckarena gambar dasarnya adalahpython:3.13(Penggunaan Ruang GPU khusus)nvidia/cuda:*-devel-*dan memilikinvcc(pada saat pembuatan). Paket yang bergantung pada CUDA yang distribusinya hanya melalui sdist — misalnya bareflash-attn— oleh karena itu tidak dapat diinstal melaluirequirements.txtPada ZeroGPU. Hanya wheel yang sudah dibuat sebelumnya yang berfungsi. Runtime ZeroGPU memang memilikinvcctersedia, dipasang dari citra pengembangan CUDA di/cuda-imagesejak2025-07(Awalnya ditambahkan untuk dukungan AoTI). Inilah yang membuattorch.exportAlur kerja AoTI dimungkinkan di dalam@spaces.GPUpanggilan.
Mulailah dengan uji coba yang aman.
- Periksa host yang didukung dan petunjuk instalasi repositori. Simpan direktori Skill beserta skrip, aset, dan dokumentasi yang dirujuk di dalamnya secara bersamaan;SKILL.mdsendirian dapat menghilangkan dependensi.
- Berikan input sebenarnya, output yang diinginkan, dan kriteria penerimaan kepada agen. Sintaks pemanggilan dan alat yang tersedia bergantung pada host; situs ini tidak mengasumsikan perintah instalasi universal.
- Cobalah alur kerja sumber dalam proyek sementara atau pada salinannya. Tinjau operasi yang mengubah file, layanan jarak jauh, atau sumber daya yang dapat ditagih sebelum mengizinkannya.
- Validasi output terhadap pemeriksaan kualitas sumber dan persyaratan Anda sendiri. Pemicu yang berhasil atau jumlah bintang repositori yang tinggi tidak menjamin hasil yang benar.
Baca selengkapnya di sumber aslinya.
- Wajah Berpelukan ZeroGPU
- Cakupan
- Perangkat keras
- Pola Dasar
- Model Ketersediaan CUDA
- Ungkapan pemilihan perangkat masih berlaku.
- Eager loading adalah pengaturan default yang tepat.
- Pengembangan Lokal: Cukup Instal
spaces - Pola anti
- Lakukan ini sebagai gantinya
- Durasi dan Kuota
- Durasi dinamis untuk beban kerja variabel
- Proses Isolasi dan Pengawetan
gr.Statesemantik di seluruh batas- Konkurensi
- Granularitas Panggilan
- Batasan Pembangunan CUDA
- Contoh Caching
python_versionsematkan di bagian depan README- Jangan disematkan
spacesdi dalamrequirements.txt - Pin
torchuntuk mencocokkan label roda
Keterampilan Terkait
Terjemahan dan ruang lingkup
Panduan membaca ini memilih bagian-bagian dari teks yang telah disematkan di bagian atas.SKILL.mdTerjemahan ini dibantu. Ini bukan manual lengkap atau klaim kompatibilitas yang telah diuji. Bacalah dokumen asli dan file referensinya sebelum digunakan.
Pendahuluan ini mengacu pada versi yang disematkan di bawah ini; aktivitas repositori saat ini dan waktu pengumpulan ditampilkan secara terpisah.
- Sumber yang disematkan
- Baca teks aslinya ↗
- Sumber diambil
- Komit sumber
fabc634a893f62ad5c2039830397efa35fa62715- Sumber SHA-256
829659aec34224970fe7ed619729fdc7849fc5dd696e2000256c3ee0b517eff7