C✳CODEZ.WIN
🌐 Deutsch

Lokalisierter Leseleitfaden

huggingface-local-modelsZweck, Verwendung und Quelle

Dient zur Auswahl von Modellen, die lokal mit llama.cpp und GGUF auf CPU, Mac Metal, CUDA oder ROCm ausgeführt werden sollen. Beinhaltet das Auffinden von GGUFs, die Quant-Auswahl, das Ausführen von Servern, die exakte GGUF-Dateisuche, die Konvertierung und die OpenAI-kompatible lokale Bereitstellung.

Quelle abgerufen:

Quell-Repository
huggingface/skills
SKILL.md
skills/huggingface-local-models/SKILL.md
Repository-Sterne
11,241
Repository zuletzt aktualisiert
2026-10-30
Fähigkeitskategorien
Sonstige
Letzte Datenerfassung

Lizenz: Apache-2.0

Original SKILL.md

Die Workflow-Auszüge dienen als Lesehilfe und sind keine ausführbaren Anweisungen von Codez. Für die Erstellung dieser Seite wurde keine Drittanbieter-Skill verwendet.

Die folgenden Abschnitte zu Zweck und Arbeitsablauf sind vorgelagertes Material, das zur besseren Lesbarkeit aufbereitet und übersetzt wurde. Sie unterscheiden sich von der separat gekennzeichneten redaktionellen Analyse von Codez.

Was diese Fähigkeit bewirkt

Dient zur Auswahl von Modellen, die lokal mit llama.cpp und GGUF auf CPU, Mac Metal, CUDA oder ROCm ausgeführt werden sollen. Beinhaltet das Auffinden von GGUFs, die Quant-Auswahl, das Ausführen von Servern, die exakte GGUF-Dateisuche, die Konvertierung und die OpenAI-kompatible lokale Bereitstellung.

Wie der vorgelagerte Workflow funktioniert

Standard-Workflow

Durchsuchen Sie den Hub mitapps=llama.cppBevorzugen Sie den exakten HF-Local-App-Ausschnitt und die quantitative Empfehlung, sofern diese sichtbar sind. Bestätigen Sie die Genauigkeit..ggufDateinamen mithttps://huggingface.co/api/models//tree/main?recursive=trueStarten Sie mitllama-cli -hf :oderllama-server -hf :Die

Aufwärtspassage · L10 ↗

Umarmung Gesicht Lokale Models

Suchen Sie im Hugging Face Hub nach llama.cpp-kompatiblen GGUF-Repos, wählen Sie den richtigen Quant aus und starten Sie das Modell mitllama-clioderllama-serverDie

Aufwärtspassage · L6 ↗

Quant Choice

Bevorzugen Sie genau den Quant-Wert, den HF auf der Webseite als kompatibel kennzeichnet.?local-app=llama.cppSeite. Behalten Sie die Repository-eigenen Labels wie z. B. bei.UD-Q4_K_Manstatt sie zu normalisieren.

Aufwärtspassage · L92 ↗
Aufwärtspassage · bash ↗
brew install llama.cpp
winget install llama.cpp

Anforderungen und Einrichtung

Aus dieser Datei wurde kein Abschnitt mit kurzen Anforderungen ausgewählt. Dies bedeutet nicht, dass die Fertigkeit keine Abhängigkeiten hat. Überprüfen Sie die Anweisungen zur Repository-Einrichtung und die referenzierten Dateien.

Grenzwerte und Qualitätskontrollen

Aus dieser Datei wurde kein separater Grenzwertabschnitt ausgewählt. Dies bedeutet nicht, dass die Anwendung für jede Eingabe oder Umgebung geeignet ist. Überprüfen Sie den vollständigen Quellcode und validieren Sie Ihr Ergebnis selbst.

Beginnen Sie mit einem sicheren Testlauf

  1. Prüfen Sie den unterstützten Host und die Installationsanweisungen für das Repository. Halten Sie das Skill-Verzeichnis und die darin enthaltenen Skripte, Assets und Dokumentationen zusammen;SKILL.mdEine Einzelperson kann Abhängigkeiten außer Acht lassen.
  2. Geben Sie dem Agenten Ihre tatsächlichen Eingaben, die gewünschten Ausgaben und die Akzeptanzkriterien an. Aufrufsyntax und verfügbare Tools hängen vom Hostsystem ab; diese Website geht nicht von einem universellen Installationsbefehl aus.
  3. Testen Sie den Quellworkflow in einem temporären Projekt oder auf einer Kopie. Überprüfen Sie Vorgänge, die Dateien, Remote-Dienste oder abrechnungsfähige Ressourcen ändern, bevor Sie diese zulassen.
  4. Überprüfen Sie die Ausgabe anhand der Quellqualitätsprüfungen und Ihrer eigenen Anforderungen. Ein erfolgreicher Trigger oder eine hohe Anzahl von Sternen im Repository garantiert kein korrektes Ergebnis.

Spezifikation des Kompetenzformats und des Verzeichnisses ↗

Lesen Sie mehr dazu in der Quelle.

Übersetzung und Umfang

Dieser Leseleitfaden wählt Passagen aus dem markierten stromaufwärts gelegenen Abschnitt aus.SKILL.mdDie Übersetzung wurde unterstützt. Es handelt sich weder um ein vollständiges Handbuch noch um eine Garantie für geprüfte Kompatibilität. Lesen Sie vor der Verwendung das Original und die darin referenzierten Dateien.

Diese Einleitung bezieht sich auf die unten angepinnte Version; die aktuelle Repository-Aktivität und der Erfassungszeitpunkt werden separat angezeigt.

Angeheftete Quelle
Lesen Sie das Original ↗
Quelle abgerufen
Source-Commit
fabc634a893f62ad5c2039830397efa35fa62715
Quelle SHA-256
814640db1d5f2f274aec09d66b3589ed5a0fdcfaf536afd508b1d757dcae1534
Zurück zum vollständigen Kompetenzkatalog