Локализованное руководство по чтению

huggingface-local-modelsНазначение, использование и источник

Используется для выбора моделей для локального запуска с помощью llama.cpp и GGUF на CPU, Mac Metal, CUDA или ROCm. Охватывает поиск GGUF-файлов, выбор квантов, запуск серверов, точный поиск GGUF-файлов, преобразование и локальный запуск, совместимый с OpenAI.

Источник получен: 2026-10-29

Репозиторий-источник: huggingface/skills
SKILL.md: skills/huggingface-local-models/SKILL.md
Звёзды репозитория: 11,241
Последнее обновление репозитория: 2026-10-30
Категории Skills: Другое
Время последнего сбора: 2026-10-31 10:38 UTC+08:00

Лицензия: Apache-2.0

Оригинальный файл SKILL.md

Приведенные фрагменты описания рабочих процессов являются вспомогательными средствами для чтения, а не исполняемыми инструкциями от Codez. Для создания этой страницы не использовались сторонние инструменты.

Приведённые ниже фрагменты, описывающие цели и рабочие процессы, представляют собой исходный материал, систематизированный и переведённый для удобства чтения. Они отличаются от отдельно обозначенного редакционного анализа Codez.

Что делает этот навык

Как работает рабочий процесс на вышестоящем уровне

Стандартный рабочий процесс

Поиск в Центре с помощьюapps=llama.cppПредпочтительнее использовать точный фрагмент кода локального приложения HF и рекомендации по количественному анализу, если они доступны. Подтвердите точность..ggufимена файлов сhttps://huggingface.co/api/models//tree/main?recursive=trueЗапуск сllama-cli -hf :илиllama-server -hf :.

проход вверх по течению · L10 ↗

Местные модели, обнимающие друг друга.

Найдите в Hugging Face Hub репозитории GGUF, совместимые с llama.cpp, выберите нужный квант и запустите модель с помощью команды...llama-cliилиllama-server.

проход вверх по течению · L6 ↗

Количественный выбор

Предпочтительнее использовать точное количество, указанное HF как совместимое.?local-app=llama.cppстраница. Сохраняйте репозитивные метки, такие какUD-Q4_K_Mвместо того, чтобы их нормализовать.

проход вверх по течению · L92 ↗

проход вверх по течению · bash ↗

brew install llama.cpp
winget install llama.cpp

Требования и настройка

Из этого файла не был выбран фрагмент с краткими требованиями. Это не означает, что у навыка нет зависимостей. Проверьте инструкции по настройке репозитория и указанные файлы.

Ограничения и проверки качества

Из этого файла не был выбран отдельный фрагмент с ограничениями. Это не означает, что навык безопасен для любых входных данных или сред. Проверьте полный исходный код и подтвердите свой собственный результат.

Начните с безопасного пробного периода.

Проверьте поддерживаемый хост и инструкции по установке репозитория. Храните каталог Skill, а также связанные с ним скрипты, ресурсы и документацию вместе;SKILL.mdВ одиночку можно опустить зависимости.
Предоставьте агенту ваши реальные входные данные, желаемый результат и критерии приемки. Синтаксис вызова и доступные инструменты зависят от хоста; данный сайт не предполагает универсальной команды установки.
Попробуйте запустить исходный рабочий процесс в тестовом проекте или в его копии. Перед тем как разрешить операции, изменяющие файлы, удаленные сервисы или оплачиваемые ресурсы, проверьте их.
Проверьте выходные данные на соответствие исходным проверкам качества и вашим собственным требованиям. Успешный запуск или большое количество звезд в репозитории не гарантируют корректного результата.

Формат навыков и спецификация каталога ↗

Подробнее читайте в источнике.

Перевод и сфера применения

В этом руководстве по чтению представлены избранные отрывки из закрепленного текста выше по течению.SKILL.mdПеревод выполнен с помощью переводчика. Это не полное руководство и не гарантия проверенной совместимости. Перед использованием ознакомьтесь с оригиналом и указанными в нем файлами.

Данное введение относится к закрепленной ниже версии; текущая активность в репозитории и время сбора данных отображаются отдельно.

Закрепленный источник: Прочитайте оригинал ↗
Источник получен: 2026-10-29T09:32:23Z
Исходный коммит: fabc634a893f62ad5c2039830397efa35fa62715
Исходный SHA-256: 814640db1d5f2f274aec09d66b3589ed5a0fdcfaf536afd508b1d757dcae1534

Вернуться к полному каталогу навыков