Git Stars Git Stars

#llama-cpp 저장소

#llama-cpp 태그가 지정된 GitHub의 활성 오픈 소스 저장소 69개를 확인해 보세요. 총 212,421개의 스타를 획득했으며 프로젝트당 평균 3,078개입니다. 이 주제를 이끄는 저장소는 27,753개의 스타를 받은 QwenLM/Qwen3입니다.

69
총 리포지토리
212,421
총 별점
3,078
리포지토리당 평균 스타 수

저장소 총 69개

1
QwenLM/Qwen3

Qwen3는 Alibaba Cloud의 Qwen 팀에서 개발한 대규모 언어 모델 시리즈입니다.

QwenLM
⭐ 27,753 Python 👤 QwenLM Organization 🕐 업데이트됨 2026-01-09 📅 생성됨 2024-02-05
2
mozilla-ai/llamafile

단일 파일로 LLM을 배포하고 실행합니다.

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 업데이트됨 2026-11-09 📅 생성됨 2023-09-10
3
altic-dev/FluidVoice

기기 내 음성 인식(STT)과 자체 학습한 AI 향상 모델을 갖춘 가장 빠르고 유일한 macOS 받아쓰기 앱입니다. Windows 및 iOS TestFlight 버전을 이용할 수 있습니다! Android 및 Linux 대기자 명단도 열려 있습니다! Wispr Flow의 로컬 대안입니다. 자세한 내용은 https://x.com/fluidvoiceapp 을 팔로우하세요.

altic-dev
⭐ 13,189 Swift 👤 altic-dev User 🕐 업데이트됨 2026-11-21 📅 생성됨 2025-09-21
4
getumbrel/llama-gpt

Llama 2로 구동되는 자체 호스팅, 오프라인, ChatGPT와 유사한 챗봇입니다. 100% 개인 정보 보호, 장치를 벗어나는 데이터 없음. جديد: Code Llama 지원!

getumbrel
⭐ 10,990 TypeScript 👤 getumbrel Organization 🕐 업데이트됨 2024-04-23 📅 생성됨 2023-07-22
5
QwenAudio/SenseVoice

오픈소스 SenseVoiceSmall 모델로, 표준 중국어, 광둥어, 영어, 일본어, 한국어 ASR, 언어 식별, 감정 인식 및 오디오 이벤트 탐지를 지원합니다.

QwenAudio
⭐ 9,797 C 👤 QwenAudio Organization 🕐 업데이트됨 2026-09-30 📅 생성됨 2024-07-03
6
xorbitsai/inference

언어, 비전, 임베딩, 재순위화, 이미지, 오디오 및 비디오 모델을 위한 오픈 소스 추론 플랫폼입니다. 여러 엔진을 사용해 노트북부터 분산 클러스터까지 다양한 하드웨어 환경에 배포할 수 있습니다. OpenAI 호환 API를 통해 모델을 제공합니다.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-06-14
7
a-ghorbani/pocketpal-ai

언어 모델을 휴대폰으로 직접 가져오는 앱입니다.

a-ghorbani
⭐ 9,644 TypeScript 👤 a-ghorbani User 🕐 업데이트됨 2026-11-19 📅 생성됨 2024-08-25
8
Osmantic/ODS

ODS V3 프리릴리스: V3 공식 출시를 앞두고 공개 테스트와 개선을 진행합니다. PC, Mac 또는 Linux 컴퓨터를 비공개 AI 서버로 바꿔 보세요.

Osmantic
⭐ 7,882 Python 👤 Osmantic Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2026-02-09
9
ARahim3/DigUp

사진, PDF, 문서, 녹음 파일, 동영상, 코드 등 파일의 내용을 기준으로 컴퓨터를 검색하세요. Mac, Windows, Linux에서 기기 내로 실행되며 Google DeepMind의 EmbeddingGemma 2를 기반으로 합니다.

ARahim3
⭐ 6,484 Swift 👤 ARahim3 User 🕐 업데이트됨 2026-10-26 📅 생성됨 2026-10-08
10
nat/openplayground

노트북에서 실행할 수 있는 LLM 플레이그라운드

nat
⭐ 6,342 TypeScript 👤 nat User 🕐 업데이트됨 2026-02-06 📅 생성됨 2023-02-26
11
defog-ai/sqlcoder

SQL 쿼리로 자연어 질문을 변환하는 SoTA LLM

defog-ai
⭐ 3,971 Jupyter Notebook 👤 defog-ai Organization 🕐 업데이트됨 2024-05-23 📅 생성됨 2023-08-17
12
SciSharp/LLamaSharp

로컬 장치에서 LLM(🦙LLaMA/LLaVA)을 효율적으로 실행하기 위한 C#/.NET 라이브러리.

SciSharp
⭐ 3,826 C# 👤 SciSharp Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2023-05-09
13
AtomicBot-ai/atomic-agent

Atomic Agent는 로컬 우선 AI 에이전트입니다. llama.cpp를 통해 자신의 컴퓨터에서 오픈 웨이트 모델을 실행합니다.

AtomicBot-ai
⭐ 3,589 TypeScript 👤 AtomicBot-ai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-04-21
14
nicedreamzapp/claude-code-local

Claude Code 사용 한도에 도달했나요? 로컬 모델로 무료 오프라인 사용을 계속하세요. Qwen 3.8, Gemma 4, 그리고 출시 당일부터 사용할 수 있는 Qwen 4를 지원합니다. Apple Silicon Mac(MLX), Linux, Windows(llama.cpp)에서 API 키 없이 실행됩니다. 코드는 내 기기에 안전하게 보관됩니다.

nicedreamzapp
⭐ 3,525 Python 👤 nicedreamzapp User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-03-26
15
off-grid-ai/OGAM

오프라인 AI의 '맥가이버 칼'. 휴대폰이나 Mac에서 채팅, 시각 인식, 음성 대화, 이미지 생성을 경험하세요. GGUF LLM, 비전, Whisper 음성 인식, Stable Diffusion, 도구 호출 및 로컬 네트워크 서버를 지원합니다. CPU, GPU 또는 NPU에서 실행되며, 계정이나 API 키가 필요 없고 데이터가 기기 외부로 유출되지 않습니다.

off-grid-ai
⭐ 3,406 TypeScript 👤 off-grid-ai Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-01-29
16
SharpAI/DeepCamera

오픈소스 AI 카메라 스킬 플랫폼, AI NVR 및 CCTV 감시. Qwen, DeepSeek, SmolVLM, LLaVA, YOLO26과 함께 로컬 VLM 비디오 분석. LLM 기반 에이전시 보안 카메라 에이전트 — Telegram, Discord 또는 Slack을 통해 귀하의 집을 감시, 이해, 기억 및 보호합니다. 플러그인 가능한 AI 스킬. OpenAI, Google, Anthropic 또는 로컬 AI. Mac Mini 및 AI PC에서 실행됩니다.

SharpAI
⭐ 3,144 JavaScript 👤 SharpAI Organization 🕐 업데이트됨 2026-09-17 📅 생성됨 2019-03-05
17
Luce-Org/lucebox

이기종 하드웨어 및 소비자용 GPU를 위한 Lucebox 추론 엔진

Luce-Org
⭐ 3,024 C++ 👤 Luce-Org Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-04-03
18
FrigadeHQ/yogurt

컴퓨터에만 보관되는 비공개 AI 회의 노트. 회의 봇이 필요 없습니다. Mac, Windows, Linux용 무료 오픈 소스 소프트웨어입니다. Granola, Otter, Fireflies의 대안입니다.

FrigadeHQ
⭐ 2,828 TypeScript 👤 FrigadeHQ Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-11-10
19
Mobile-Artificial-Intelligence/maid

Maid는 로컬에서 llama.cpp 모델과 상호작용하고 Anthropic, DeepSeek, Ollama, Mistral, OpenAI 모델과 원격으로 연결할 수 있는 무료 오픈 소스 애플리케이션입니다.

Mobile-Artificial-Intelligence
⭐ 2,785 TypeScript 👤 Mobile-Artificial-Intelligence Organization 🕐 업데이트됨 2026-10-29 📅 생성됨 2023-10-17
20
antoinezambelli/forge

자체 호스팅 LLM 도구 호출 및 다단계 에이전트 워크플로우를 위한 Python 프레임워크

antoinezambelli
⭐ 2,268 Python 👤 antoinezambelli User 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-02-16
21
withcatai/node-llama-cpp

llama.cpp용 node.js 바인딩을 사용하여 로컬 컴퓨터에서 AI 모델을 실행합니다. 생성 수준에서 모델 출력에 JSON 스키마를 적용합니다.

withcatai
⭐ 2,207 TypeScript 👤 withcatai Organization 🕐 업데이트됨 2026-11-18 📅 생성됨 2023-08-12
22
XiongjieDai/GPU-Benchmarks-on-LLM-Inference

대규모 언어 모델 추론을 위한 다중 NVIDIA GPU 또는 Apple Silicon?

XiongjieDai
⭐ 1,862 Jupyter Notebook 👤 XiongjieDai User 🕐 업데이트됨 2024-05-13 📅 생성됨 2023-07-19
23
ggml-org/Llama-macOS

당신의 LLM을 위한 아늑한 보금자리.

ggml-org
⭐ 1,852 Swift 👤 ggml-org Organization 🕐 업데이트됨 2026-11-17 📅 생성됨 2025-06-30
24
Roy3838/Observer

무엇이든 대신 모니터링해 주는 마이크로 에이전트 오케스트레이터. 완전히 로컬에서 실행됩니다. 오픈 소스.

Roy3838
⭐ 1,814 TypeScript 👤 Roy3838 User 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-02-05
25
microsoft/edgeai-for-beginners

이 과정은 초보자를 위한 흥미로운 엣지 AI의 세계를 안내하도록 설계되었으며, 기본 개념, 인기 있는 모델, 추론 기술, 장치별 애플리케이션, 모델 최적화 및 지능형 엣지 AI 에이전트 개발을 다룹니다.

microsoft
⭐ 1,784 Jupyter Notebook 👤 microsoft Organization 🕐 업데이트됨 2026-11-02 📅 생성됨 2025-06-27
26
StartLuxLabs/StartLux-Decision

0.8B~27B 규모의 오픈 의사결정 모델: 한 번의 실행으로 각 선택지의 보정된 확률을 제공하고, 확신이 없을 때만 짧은 추론을 제시합니다. vLLM, llama.cpp, MLX용 엔진.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 업데이트됨 2026-10-23 📅 생성됨 2026-09-29
27
undreamai/LLMUnity

LLM으로 Unity에서 캐릭터 만들기!

undreamai
⭐ 1,740 C# 👤 undreamai Organization 🕐 업데이트됨 2026-04-29 📅 생성됨 2023-12-27
28
thetahealth/mirobody

데이터로 내 몸을 비춰보세요. 하나의 표준, 모든 출처, 나에 대한 완전한 그림. 검사 결과, 웨어러블 기기 데이터, 유전 정보를 바탕으로 구축하는 셀프 호스팅 건강 기록으로, 모든 수치를 출처까지 추적할 수 있고 MCP 서버도 내장되어 있습니다. Docker와 LLM 키 하나로 실행하거나, llama.cpp로 모든 모델을 로컬에 둘 수 있습니다.

thetahealth
⭐ 1,645 Python 👤 thetahealth Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-11-29
29
QwenAudio/Fun-ASR

Fun-ASR 음성 인식 모델로, Fun-ASR-Nano에 Hugging Face Transformers를 기본 지원하며 FunASR, vLLM 및 llama.cpp를 위한 별도의 배포 경로를 제공합니다.

QwenAudio
⭐ 1,614 C 👤 QwenAudio Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-12-15
30
ollaya-dev/ollaya

개방형 의사결정 모델을 위한 Jev 호환 API 서버. 의사결정 모델용 Ollama: 29개 모델 계열(Laya, pplx-decider, Clef, Winnow, coba 등)을 로컬에서 내려받아 실행하거나 /v1/systemone 뒤에서 직접 호스팅할 수 있습니다. TypeSafe SDK는 변경 없이 사용할 수 있습니다. 기본 URL을 설정하고 개방형 모델을 선택하세요. CLI, 데스크톱 앱, Docker, MCP 서버, 공개 벤치마크 제공.

ollaya-dev
⭐ 1,473 Rust 👤 ollaya-dev Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-09-23
31
synchopate/llama-modchip

30B~284B MoE 모델을 위한 제로 GPU CPU 추론(Qwen3.8 176.5B는 28.26/48.35 GiB Cgroup v2 콜드 캐시 환경에서 인증 완료, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-10-29
32
gotzmann/llama.go

llama.go는 순수 Golang의 llama.cpp와 같습니다!

gotzmann
⭐ 1,396 Go 👤 gotzmann User 🕐 업데이트됨 2024-09-20 📅 생성됨 2023-03-19
33
ciddwd/overlay-translator

루트 없는 오픈소스 Android 실시간 화면 번역 도구로, 게임, 비주얼 노벨, 만화에 적합합니다. 기기 내 및 클라우드 OCR, 오프라인 LLM, 다양한 번역 서비스, 화면 번역 표시, 텍스트 음성 변환(TTS)을 지원합니다.

ciddwd
⭐ 1,369 Kotlin 👤 ciddwd User 🕐 업데이트됨 2026-11-16 📅 생성됨 2026-06-22
34
Soulmate-Halo/heterogeneous-gpu-pd-lab

AI Max+ 395, M3 512G, DGX Spark 등을 포함한 희소 연산·대용량 메모리 호스트를 고밀도 연산 카드로 가속합니다.

Soulmate-Halo
⭐ 1,288 C++ 👤 Soulmate-Halo User 🕐 업데이트됨 2026-11-10 📅 생성됨 2026-09-01
35
wici-ai/inferssd

SSD에서 MoE 전문가를 스트리밍하여 RAM 또는 VRAM 용량보다 큰 모델을 실행하세요. llama.cpp 기반으로 제작되었습니다.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-10-22
36
OpenBuddy/OpenBuddy

모두를 위한 오픈 다국어 챗봇

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 업데이트됨 2025-06-08 📅 생성됨 2023-04-26
37
StayLameBro/backburner

iPhone이 Mac의 270억 개 파라미터 모델 실행을 지원합니다: USB-C 케이블을 통해 프롬프트를 더 빠르게 읽고 더 많은 컨텍스트를 처리

StayLameBro
⭐ 1,195 Python 👤 StayLameBro User 🕐 업데이트됨 2026-11-07 📅 생성됨 2026-10-01
38
FuJacob/cotabby

Cotabby는 Mac 전체를 위한 로컬 AI 자동 완성입니다. 오픈 소스. 기기 내에서. 어디서나 입력할 수 있습니다.

FuJacob
⭐ 1,126 Swift 👤 FuJacob User 🕐 업데이트됨 2026-10-29 📅 생성됨 2026-04-04
39
hyperionaidev/smolmaxxing

가능한 한 작은 기기에서 다양한 LLM을 실행할 수 있는 능력을 극대화하기

hyperionaidev
⭐ 1,079 C 👤 hyperionaidev Organization 🕐 업데이트됨 2026-11-19 📅 생성됨 2026-11-04
40
docker/compose-for-agents

Docker Compose를 사용하여 AI 에이전트를 빌드하고 실행합니다. 오픈 소스 LLM, 도구 및 에이전트 런타임을 오케스트레이션하기 위한 즉시 사용 가능한 예제 모음입니다.

docker
⭐ 1,075 TypeScript 👤 docker Organization 🕐 업데이트됨 2026-10-23 📅 생성됨 2025-05-09
41
mybigday/llama.rn

llama.cpp의 React Native 바인딩

mybigday
⭐ 1,074 C 👤 mybigday Organization 🕐 업데이트됨 2026-11-21 📅 생성됨 2023-08-02
42
Helldez/BigMoeOnEdge

RAM 용량보다 큰 MoE 모델을 실행하세요. 스마트폰, 노트북, 엣지 기기에서 최첨단 규모의 MoE를 만나보세요. 손실 없이, 기본 llama.cpp에서 실행됩니다. 적응형 스트리밍 최적화기. 모든 하드웨어, OS, 모델, 양자화를 지원하며 로컬 OpenAI 호환 서버를 통해 제공합니다.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 업데이트됨 2026-11-21 📅 생성됨 2026-07-10
43
intel/AI-Playground

Intel® Arc™ GPU 기반 PC에서 AI 이미지 생성, 이미지 스타일 지정 및 챗봇을 위한 AI PC 시작 앱.

intel
⭐ 1,043 TypeScript 👤 intel Organization 🕐 업데이트됨 2026-10-30 📅 생성됨 2024-07-10
⭐ 1,033 CSS 👤 susiai Organization 🕐 업데이트됨 2026-01-20 📅 생성됨 2017-11-25
45
kennss/SiliconScope

sudo 없이 사용 가능한 Apple Silicon 시스템 모니터 (네이티브 SwiftUI GUI) - ANE / 미디어 엔진 / 메모리 대역폭 추적 지원

kennss
⭐ 1,026 Swift 👤 kennss User 🕐 업데이트됨 2026-11-20 📅 생성됨 2026-06-08
46
sgaofen/humanizer-local-model

AI 초안을 사람이 쓴 것처럼 자연스럽게 다시 작성합니다. 로컬에서 실행되며 사실은 그대로 유지합니다

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 업데이트됨 2026-10-19 📅 생성됨 2026-09-11
47
OleksandrChekhovskyi/hax

C로 작성된 미니멀한 터미널 네이티브 코딩 에이전트.

OleksandrChekhovskyi
⭐ 1,006 C 👤 OleksandrChekhovskyi User 🕐 업데이트됨 2026-11-13 📅 생성됨 2026-04-24
48
huggingface/AnyLanguageModel

Apple의 Foundation Models 프레임워크와 API 호환되며 사용자 정의 언어 모델 제공자를 지원하는 드롭인 대체 솔루션입니다.

huggingface
⭐ 990 Swift 👤 huggingface Organization 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-10-05
49
feder-cr/jev

jevos: Jev 및 Microsoft-Decision-1의 오픈 소스 대안입니다. 노트북 CPU에서 확률을 포함한 예/아니요 판정, 선택 및 점수 산정을 수행합니다.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 업데이트됨 2026-10-18 📅 생성됨 2024-08-15
50
alvarobartt/hf-mem

Python으로 작성된, Hugging Face 모델의 추론 메모리 요구량을 추정하는 CLI입니다.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 업데이트됨 2026-11-20 📅 생성됨 2025-12-22

자주 묻는 질문

1

GitHub에서 가장 인기 있는 #llama-cpp 저장소는 무엇인가요?

GitHub에서 가장 높은 순위의 오픈 소스 #llama-cpp 프로젝트는 27,753개의 스타를 받은 QwenLM/Qwen3입니다. Qwen3는 Alibaba Cloud의 Qwen 팀에서 개발한 대규모 언어 모델 시리즈입니다.

2

#llama-cpp 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?

GitHub에서 순위가 가장 높은 #llama-cpp 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, TypeScript, C++, Swift입니다.

3

#llama-cpp 저장소 순위는 어떻게 계산되나요?

#llama-cpp 태그가 지정된 활성 오픈 소스 저장소(69개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 212,421개이며 저장소당 평균 3,078개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.