huggingface-local-modelsउद्देश्य, उपयोग और स्रोत

यह कौशल क्या करता है

इसका उपयोग CPU, Mac Metal, CUDA या ROCm पर llama.cpp और GGUF के साथ स्थानीय रूप से चलाने के लिए मॉडल चुनने के लिए किया जाता है। इसमें GGUF ढूंढना, क्वांट चयन, सर्वर चलाना, सटीक GGUF फ़ाइल लुकअप, रूपांतरण और OpenAI-संगत स्थानीय सर्विंग शामिल हैं।

अपस्ट्रीम वर्कफ़्लो कैसे काम करता है

brew install llama.cpp
winget install llama.cpp

आवश्यकताएँ और सेटअप

इस फ़ाइल से कोई संक्षिप्त आवश्यकताएँ नहीं चुनी गईं। इसका मतलब यह नहीं है कि स्किल की कोई निर्भरता नहीं है। रिपॉजिटरी सेटअप निर्देशों और संदर्भित फ़ाइलों की जाँच करें।

सीमाएं और गुणवत्ता जांच

इस फ़ाइल से कोई अलग सीमा अंश नहीं चुना गया है। इसका मतलब यह नहीं है कि यह स्किल हर इनपुट या वातावरण के लिए सुरक्षित है। संपूर्ण स्रोत की समीक्षा करें और अपने परिणाम की पुष्टि करें।

सुरक्षित परीक्षण से शुरुआत करें

1. समर्थित होस्ट और रिपॉजिटरी इंस्टॉलेशन निर्देशों की जाँच करें। स्किल डायरेक्टरी और उससे संबंधित स्क्रिप्ट, एसेट्स और डॉक्यूमेंटेशन को एक साथ रखें;SKILL.mdअकेले होने पर निर्भरताओं को छोड़ा जा सकता है।
2. एजेंट को अपना वास्तविक इनपुट, अपेक्षित आउटपुट और स्वीकृति मानदंड प्रदान करें। इनवोकेशन सिंटैक्स और उपलब्ध उपकरण होस्ट पर निर्भर करते हैं; यह साइट किसी सार्वभौमिक इंस्टॉलेशन कमांड को नहीं मानती है।
3. डिस्पोजेबल प्रोजेक्ट या उसकी कॉपी पर मूल वर्कफ़्लो को आज़माएँ। फ़ाइलों, रिमोट सेवाओं या बिल योग्य संसाधनों में परिवर्तन करने वाले कार्यों की अनुमति देने से पहले उनकी समीक्षा करें।
4. स्रोत गुणवत्ता जांच और अपनी आवश्यकताओं के आधार पर आउटपुट को सत्यापित करें। सफल ट्रिगर या उच्च रिपॉजिटरी स्टार संख्या सही परिणाम की गारंटी नहीं देते।

कौशल प्रारूप और निर्देशिका विनिर्देश ↗

मूल लेख में आगे पढ़ें

• गले मिलते चेहरे वाली स्थानीय मॉडल
• डिफ़ॉल्ट वर्कफ़्लो
• क्वांट चॉइस
• संदर्भ लोड करें
• संसाधन

सम्बंधित योग्यता

• hf-memhuggingface/skills
• huggingface-besthuggingface/skills
• cloudflare-one-migrationscloudflare/skills
• compose-outreachanthropics/knowledge-work-plugins

अनुवाद और दायरा

यह पठन मार्गदर्शिका ऊपर पिन किए गए अंशों में से चयनित अंशों को प्रस्तुत करती है।SKILL.mdयह अनुवाद सहायता से किया गया है। यह कोई संपूर्ण नियमावली या परीक्षित संगतता का दावा नहीं है। उपयोग करने से पहले मूल दस्तावेज़ और उससे संबंधित फ़ाइलों को पढ़ें।

यह परिचय नीचे पिन किए गए संस्करण को संदर्भित करता है; वर्तमान रिपॉजिटरी गतिविधि और संग्रह समय अलग से दिखाए गए हैं।

पिन किया गया स्रोत

मूल लेख पढ़ें ↗

स्रोत प्राप्त किया गया

2026-10-29T09:32:23Z

स्रोत कमिट

fabc634a893f62ad5c2039830397efa35fa62715

स्रोत SHA-256

814640db1d5f2f274aec09d66b3589ed5a0fdcfaf536afd508b1d757dcae1534