현지화된 읽기 가이드
huggingface-local-models목적, 사용법 및 출처
llama.cpp 및 GGUF를 사용하여 CPU, Mac Metal, CUDA 또는 ROCm에서 로컬로 실행할 모델을 선택하는 데 사용합니다. GGUF 찾기, 퀀트 선택, 서버 실행, 정확한 GGUF 파일 검색, 변환 및 OpenAI 호환 로컬 서빙에 대한 내용을 다룹니다.
출처 검색됨:
- 소스 저장소
- huggingface/skills
- SKILL.md
skills/huggingface-local-models/SKILL.md- 저장소 Star
- 11,241
- 저장소 최근 업데이트
- 2026-10-30
- 능력 분류
- 기타
- 최근 수집 시간
라이선스: Apache-2.0
워크플로 발췌본은 이해를 돕기 위한 자료이며, Codez에서 제공하는 실행 가능한 명령어가 아닙니다. 이 페이지를 생성하는 데 타사 Skill은 사용되지 않았습니다.
아래의 목적 및 워크플로 관련 내용은 읽기 쉽도록 정리 및 번역된 상위 자료입니다. 이는 별도로 분류된 Codez 편집 분석과는 별개입니다.
이 스킬의 기능
llama.cpp 및 GGUF를 사용하여 CPU, Mac Metal, CUDA 또는 ROCm에서 로컬로 실행할 모델을 선택하는 데 사용합니다. GGUF 찾기, 퀀트 선택, 서버 실행, 정확한 GGUF 파일 검색, 변환 및 OpenAI 호환 로컬 서빙에 대한 내용을 다룹니다.
업스트림 워크플로우 작동 방식
기본 워크플로
허브에서 검색하기apps=llama.cpp가능한 경우 정확한 HF 로컬 앱 스니펫과 정량적 권장 사항을 선호합니다. 정확성을 확인하십시오..gguf파일 이름https://huggingface.co/api/models//tree/main?recursive=true. 시작하세요llama-cli -hf :또는llama-server -hf :.
허깅 페이스 로컬 모델
Hugging Face Hub에서 llama.cpp와 호환되는 GGUF 저장소를 검색하고, 적절한 양자 컴퓨팅 도구를 선택한 후, 다음 명령어를 사용하여 모델을 실행하세요.llama-cli또는llama-server.
퀀트 초이스
HF가 호환 가능하다고 표시한 정확한 수량을 선호합니다.?local-app=llama.cpp페이지. 저장소 네이티브 레이블을 유지하세요.UD-Q4_K_M그것들을 정상화하는 대신에.
brew install llama.cpp
winget install llama.cpp요구 사항 및 설정
이 파일에서 간략한 요구사항 구절이 선택되지 않았습니다. 이는 해당 스킬에 종속성이 없다는 의미는 아닙니다. 저장소 설정 지침 및 참조 파일을 확인하십시오.
제한 사항 및 품질 검사
이 파일에서 별도의 제한 조건 구문이 선택되지 않았습니다. 이는 해당 스킬이 모든 입력 또는 환경에서 안전하다는 것을 의미하지 않습니다. 전체 소스 코드를 검토하고 결과를 직접 확인하십시오.
안전한 시험 사용부터 시작하세요
- 지원되는 호스트와 저장소 설치 지침을 확인하세요. 스킬 디렉토리와 해당 디렉토리에서 참조하는 스크립트, 자산 및 문서를 함께 보관하세요.SKILL.md단독으로는 종속성을 생략할 수 있습니다.
- 에이전트에 실제 입력값, 원하는 출력값 및 승인 기준을 제공하십시오. 호출 구문 및 사용 가능한 도구는 호스트에 따라 다르므로 이 사이트는 범용 설치 명령을 제공하지 않습니다.
- 원본 워크플로를 임시 프로젝트 또는 복사본에서 테스트해 보세요. 파일, 원격 서비스 또는 유료 리소스를 변경하는 작업은 허용하기 전에 검토하십시오.
- 출력 결과를 원본 품질 검사 및 자체 요구 사항에 맞춰 검증하십시오. 트리거가 성공적으로 작동했거나 저장소의 별점 수가 높다고 해서 반드시 올바른 결과가 나오는 것은 아닙니다.
원문에서 더 자세한 내용을 읽어보세요.
관련 기술
번역 및 범위
이 독서 안내서는 고정된 상류 지역에서 발췌한 구절들을 소개합니다.SKILL.md본 번역은 보조 번역이며, 완전한 설명서 또는 호환성 테스트를 보장하는 것은 아닙니다. 사용 전에 원본 및 참조 파일을 반드시 읽어 주십시오.
이 소개글은 아래 고정된 버전을 참조하며, 현재 저장소 활동 및 수집 시간은 별도로 표시됩니다.
- 고정된 소스
- 원문을 읽어보세요 ↗
- 출처 검색됨
- 소스 커밋
fabc634a893f62ad5c2039830397efa35fa62715- 출처 SHA-256
814640db1d5f2f274aec09d66b3589ed5a0fdcfaf536afd508b1d757dcae1534