Git Stars Git Stars

#llama-cpp Repositories

Entdecke 69 aktive Open-Source-GitHub-Repositories, die mit #llama-cpp getaggt sind und insgesamt 212,421 Sterne gesammelt haben (durchschnittlich 3,078 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist QwenLM/Qwen3 mit 27,753 Sternen.

69
Gesamtzahl der Repositories
212,421
Gesamtanzahl der Sterne
3,078
Durchschnittliche Sterne/Repo

Insgesamt 69 Repositories

1
QwenLM/Qwen3

Qwen3 ist die Serie von großen Sprachmodellen, die vom Qwen-Team von Alibaba Cloud entwickelt wurde.

QwenLM
⭐ 27,753 Python 👤 QwenLM Organization 🕐 Aktualisiert 2026-01-09 📅 Erstellt 2024-02-05
2
mozilla-ai/llamafile

Verteilen und Ausführen von LLMs mit einer einzigen Datei.

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 Aktualisiert 2026-11-09 📅 Erstellt 2023-09-10
3
altic-dev/FluidVoice

Die schnellste und einzige Diktier-App für macOS mit geräteinterner Spracherkennung (STT) und einem individuell trainierten KI-Optimierungsmodell. Für Windows und als iOS-TestFlight verfügbar! Wartelisten für Android und Linux sind geöffnet! Eine lokale Alternative zu Wispr Flow. Folge https://x.com/fluidvoiceapp für mehr.

altic-dev
⭐ 13,189 Swift 👤 altic-dev User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-09-21
4
getumbrel/llama-gpt

Ein selbst gehosteter, Offline-Chatbot ähnlich wie ChatGPT. Angetrieben von Llama 2. 100% privat, ohne dass Daten Ihr Gerät verlassen. Neu: Code Llama Unterstützung!

getumbrel
⭐ 10,990 TypeScript 👤 getumbrel Organization 🕐 Aktualisiert 2024-04-23 📅 Erstellt 2023-07-22
5
QwenAudio/SenseVoice

Open-Source-SenseVoiceSmall-Modell für ASR in Mandarin, Kantonesisch, Englisch, Japanisch und Koreanisch, Sprachidentifikation, Emotionserkennung und Audioereigniserkennung.

QwenAudio
⭐ 9,797 C 👤 QwenAudio Organization 🕐 Aktualisiert 2026-09-30 📅 Erstellt 2024-07-03
6
xorbitsai/inference

Open-Source-Inferenzplattform für Sprach-, Vision-, Embedding-, Reranking-, Bild-, Audio- und Videomodelle. Stellen Sie mehrere Engines auf heterogener Hardware bereit – vom Laptop bis zum verteilten Cluster. Stellen Sie Modelle über OpenAI-kompatible APIs bereit.

xorbitsai
⭐ 9,667 Python 👤 xorbitsai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-06-14
7
a-ghorbani/pocketpal-ai

Eine App, die Sprachmodelle direkt auf Ihr Handy bringt.

a-ghorbani
⭐ 9,644 TypeScript 👤 a-ghorbani User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2024-08-25
8
Osmantic/ODS

ODS V3 Vorabversion: Öffentliche Tests und Verbesserungen vor dem offiziellen Start von V3. Verwandeln Sie Ihren PC, Mac oder Linux-Rechner in einen privaten KI-Server.

Osmantic
⭐ 7,882 Python 👤 Osmantic Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-02-09
9
ARahim3/DigUp

Durchsuche deinen Computer nach dem Inhalt deiner Dateien: Fotos, PDFs, Dokumente, Aufnahmen, Videos und Code. Läuft lokal auf Mac, Windows und Linux und basiert auf EmbeddingGemma 2 von Google DeepMind.

ARahim3
⭐ 6,484 Swift 👤 ARahim3 User 🕐 Aktualisiert 2026-10-26 📅 Erstellt 2026-10-08
10
nat/openplayground

Eine LLM-Spielwiese, die Sie auf Ihrem Laptop ausführen können

nat
⭐ 6,342 TypeScript 👤 nat User 🕐 Aktualisiert 2026-02-06 📅 Erstellt 2023-02-26
11
defog-ai/sqlcoder

SoTA LLM zur Umwandlung von natürlichsprachlichen Fragen in SQL-Abfragen

defog-ai
⭐ 3,971 Jupyter Notebook 👤 defog-ai Organization 🕐 Aktualisiert 2024-05-23 📅 Erstellt 2023-08-17
12
SciSharp/LLamaSharp

Eine C#/.NET-Bibliothek zum effizienten Ausführen von LLMs (🦙LLaMA/LLaVA) auf Ihrem lokalen Gerät.

SciSharp
⭐ 3,826 C# 👤 SciSharp Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2023-05-09
13
AtomicBot-ai/atomic-agent

Atomic Agent ist ein KI-Agent mit Fokus auf lokale Ausführung. Führt Modelle mit offenen Gewichten über llama.cpp auf Ihrem eigenen Rechner aus.

AtomicBot-ai
⭐ 3,589 TypeScript 👤 AtomicBot-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-04-21
14
nicedreamzapp/claude-code-local

Nutzungslimit für Claude Code erreicht? Arbeite kostenlos und offline mit einem lokalen Modell weiter: Qwen 3.8, Gemma 4 und Qwen 4 ab dem Tag seiner Veröffentlichung. Läuft auf Macs mit Apple Silicon (MLX), Linux und Windows (llama.cpp) – ganz ohne API-Schlüssel. Dein Code bleibt bei dir.

nicedreamzapp
⭐ 3,525 Python 👤 nicedreamzapp User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-03-26
15
off-grid-ai/OGAM

Das Schweizer Taschenmesser der Offline-KI. Chatten, sehen, sprechen und Bilder generieren auf Ihrem Telefon oder Mac – GGUF-LLMs, Vision, Whisper-Spracherkennung, Stable Diffusion, Tool-Calling und lokale Netzwerkserver. Läuft auf Ihrer CPU, GPU oder NPU. Kein Konto, kein API-Schlüssel, keine Daten verlassen Ihr Gerät.

off-grid-ai
⭐ 3,406 TypeScript 👤 off-grid-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-01-29
16
SharpAI/DeepCamera

Plattform für Open‑Source‑AI‑Kamerafähigkeiten, AI‑NVR und CCTV‑Überwachung. Lokale VLM‑Videoanalyse mit Qwen, DeepSeek, SmolVLM, LLaVA, YOLO26. LLM‑gestützter, agentisierter Sicherheitskameraagent – beobachtet, versteht, erinnert sich und schützt Ihr Zuhause über Telegram, Discord oder Slack. Plugbare AI‑Fähigkeiten. OpenAI, Google, Anthropic oder lokale AI. Läuft auf Mac Mini & AI‑PC.

SharpAI
⭐ 3,144 JavaScript 👤 SharpAI Organization 🕐 Aktualisiert 2026-09-17 📅 Erstellt 2019-03-05
17
Luce-Org/lucebox

Lucebox-Inferenz-Engine für heterogene Hardware und Consumer-GPUs

Luce-Org
⭐ 3,024 C++ 👤 Luce-Org Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-04-03
18
FrigadeHQ/yogurt

Private KI-Meetingnotizen, die auf deinem Computer bleiben. Kein Meeting-Bot. Kostenlos und Open Source für Mac, Windows und Linux. Eine Alternative zu Granola, Otter und Fireflies.

FrigadeHQ
⭐ 2,828 TypeScript 👤 FrigadeHQ Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-11-10
19
Mobile-Artificial-Intelligence/maid

Maid ist eine kostenlose und quelloffene Anwendung zur Interaktion mit llama.cpp-Modellen lokal und mit Anthropic-, DeepSeek-, Ollama-, Mistral- und OpenAI-Modellen remote.

Mobile-Artificial-Intelligence
⭐ 2,785 TypeScript 👤 Mobile-Artificial-Intelligence Organization 🕐 Aktualisiert 2026-10-29 📅 Erstellt 2023-10-17
20
antoinezambelli/forge

Ein Python-Framework für selbstgehostete LLM-Tool-Aufrufe und mehrstufige Agenten-Workflows

antoinezambelli
⭐ 2,268 Python 👤 antoinezambelli User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-02-16
21
withcatai/node-llama-cpp

Führen Sie KI-Modelle lokal auf Ihrem Computer mit Node.js-Bindings für llama.cpp aus. Erzwingen Sie ein JSON-Schema für die Modellausgabe auf der Generierungsebene.

withcatai
⭐ 2,207 TypeScript 👤 withcatai Organization 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2023-08-12
22
XiongjieDai/GPU-Benchmarks-on-LLM-Inference

Mehrere NVIDIA GPUs oder Apple Silicon für die Inferenz großer Sprachmodelle?

XiongjieDai
⭐ 1,862 Jupyter Notebook 👤 XiongjieDai User 🕐 Aktualisiert 2024-05-13 📅 Erstellt 2023-07-19
23
ggml-org/Llama-macOS

Ein gemütliches Zuhause für Ihre LLMs.

ggml-org
⭐ 1,852 Swift 👤 ggml-org Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2025-06-30
24
Roy3838/Observer

Der Micro-Agent-Orchestrator, der alles für Sie überwacht. Läuft vollständig lokal. Open Source.

Roy3838
⭐ 1,814 TypeScript 👤 Roy3838 User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-02-05
25
microsoft/edgeai-for-beginners

Dieser Kurs soll Anfänger durch die spannende Welt der Edge AI führen und behandelt grundlegende Konzepte, beliebte Modelle, Inferenztechniken, gerätespezifische Anwendungen, Modelloptimierung und die Entwicklung intelligenter Edge AI-Agenten.

microsoft
⭐ 1,784 Jupyter Notebook 👤 microsoft Organization 🕐 Aktualisiert 2026-11-02 📅 Erstellt 2025-06-27
26
StartLuxLabs/StartLux-Decision

Offene Entscheidungsmodelle von 0,8B bis 27B: eine kalibrierte Wahrscheinlichkeit für jede Option in einem Durchgang und nur bei Unsicherheit ein kurzer Gedankengang. Engine für vLLM, llama.cpp und MLX.

StartLuxLabs
⭐ 1,780 Python 👤 StartLuxLabs Organization 🕐 Aktualisiert 2026-10-23 📅 Erstellt 2026-09-29
27
undreamai/LLMUnity

Erstellen Sie Charaktere in Unity mit LLMs!

undreamai
⭐ 1,740 C# 👤 undreamai Organization 🕐 Aktualisiert 2026-04-29 📅 Erstellt 2023-12-27
28
thetahealth/mirobody

Bilde deinen Körper in Daten ab. Ein Standard, alle Quellen, ein vollständiges Bild von dir: eine selbst gehostete Gesundheitsakte aus Laborberichten, Wearable-Daten und Genetik – mit jeder Zahl bis zu ihrer Quelle zurückverfolgbar und einem integrierten MCP-Server. Führe sie mit Docker und einem LLM-Schlüssel aus oder betreibe alle Modelle lokal mit llama.cpp.

thetahealth
⭐ 1,645 Python 👤 thetahealth Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-11-29
29
QwenAudio/Fun-ASR

Fun-ASR-Spracherkennungsmodelle mit nativer Unterstützung für Hugging Face Transformers für Fun-ASR-Nano sowie separaten Bereitstellungspfaden für FunASR, vLLM und llama.cpp.

QwenAudio
⭐ 1,614 C 👤 QwenAudio Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-12-15
30
ollaya-dev/ollaya

Jev-kompatibler API-Server für offene Entscheidungsmodelle. Ollama für Entscheidungsmodelle: 29 Modellfamilien (Laya, pplx-decider, Clef, Winnow, coba...) lokal herunterladen und ausführen oder hinter /v1/systemone selbst hosten. Das TypeSafe-SDK funktioniert unverändert: Basis-URL festlegen und ein offenes Modell auswählen. CLI, Desktop-App, Docker, MCP-Server und öffentlicher Benchmark.

ollaya-dev
⭐ 1,473 Rust 👤 ollaya-dev Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-09-23
31
synchopate/llama-modchip

GPU-freie CPU-Inferenz für 30B–284B-MoE-Modelle (Qwen3.8 176.5B mit kaltem Cache in Cgroup v2 bei 28,26/48,35 GiB zertifiziert, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-10-29
32
gotzmann/llama.go

llama.go ist wie llama.cpp in reinem Golang!

gotzmann
⭐ 1,396 Go 👤 gotzmann User 🕐 Aktualisiert 2024-09-20 📅 Erstellt 2023-03-19
33
ciddwd/overlay-translator

Open-Source-Android-Übersetzer für den Echtzeit-Bildschirm ohne Root, geeignet für Spiele, Visual Novels und Manga. Unterstützt On-Device- und Cloud-OCR, Offline-LLMs, mehrere Übersetzungsdienste, Bildschirmübersetzungen und Text-to-Speech (TTS).

ciddwd
⭐ 1,369 Kotlin 👤 ciddwd User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2026-06-22
34
Soulmate-Halo/heterogeneous-gpu-pd-lab

Beschleunigen Sie Hosts mit großem Speicher und geringer Rechendichte mithilfe von Karten mit hoher Rechendichte, darunter AI Max+ 395, M3 512G und DGX Spark.

Soulmate-Halo
⭐ 1,288 C++ 👤 Soulmate-Halo User 🕐 Aktualisiert 2026-11-10 📅 Erstellt 2026-09-01
35
wici-ai/inferssd

Führe Modelle aus, die größer sind als dein RAM oder VRAM, indem du MoE-Experten von einer SSD streamst. Basiert auf llama.cpp.

wici-ai
⭐ 1,277 C++ 👤 wici-ai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-10-22
36
OpenBuddy/OpenBuddy

Offener mehrsprachiger Chatbot für jedermann

OpenBuddy
⭐ 1,274 👤 OpenBuddy Organization 🕐 Aktualisiert 2025-06-08 📅 Erstellt 2023-04-26
37
StayLameBro/backburner

Dein iPhone unterstützt deinen Mac beim Ausführen eines 27B-Modells: schnelleres Einlesen von Prompts und mehr Kontext über ein USB-C-Kabel

StayLameBro
⭐ 1,195 Python 👤 StayLameBro User 🕐 Aktualisiert 2026-11-07 📅 Erstellt 2026-10-01
38
FuJacob/cotabby

Cotabby ist die lokale KI-Autovervollständigung für Ihren gesamten Mac. Open Source. Auf dem Gerät. Überall, wo Sie tippen.

FuJacob
⭐ 1,126 Swift 👤 FuJacob User 🕐 Aktualisiert 2026-10-29 📅 Erstellt 2026-04-04
39
hyperionaidev/smolmaxxing

Die Fähigkeit maximieren, verschiedene LLMs auf möglichst kleinen Geräten auszuführen

hyperionaidev
⭐ 1,079 C 👤 hyperionaidev Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-11-04
40
docker/compose-for-agents

Erstellen und ausführen von KI-Agenten mit Docker Compose. Eine Sammlung von gebrauchsfertigen Beispielen für die Orchestrierung von Open-Source-LLMs, Tools und Agenten-Runtimes.

docker
⭐ 1,075 TypeScript 👤 docker Organization 🕐 Aktualisiert 2026-10-23 📅 Erstellt 2025-05-09
41
mybigday/llama.rn

React Native-Bindung von llama.cpp

mybigday
⭐ 1,074 C 👤 mybigday Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-08-02
42
Helldez/BigMoeOnEdge

Führe MoE-Modelle aus, die größer sind als dein RAM. MoE-Modelle der Spitzenklasse auf einem Smartphone, Laptop oder Edge-Gerät. Verlustfrei, mit unverändertem llama.cpp. Ein adaptiver Streaming-Optimierer. Jede Hardware, jedes Betriebssystem, jedes Modell und jede Quantisierung – über einen lokalen OpenAI-kompatiblen Server.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-07-10
43
intel/AI-Playground

AI PC Starter-App für KI-Bilderstellung, Bildstiländerung und Chatbot auf einem PC mit einer Intel® Arc™ GPU.

intel
⭐ 1,043 TypeScript 👤 intel Organization 🕐 Aktualisiert 2026-10-30 📅 Erstellt 2024-07-10
45
kennss/SiliconScope

Systemmonitor für Apple Silicon ohne sudo (native SwiftUI-GUI) mit ANE-/Media-Engine-/Speicherbandbreitenverfolgung

kennss
⭐ 1,026 Swift 👤 kennss User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-06-08
46
sgaofen/humanizer-local-model

Schreibt KI-Entwürfe so um, dass sie wie von Menschen verfasst klingen – läuft lokal und bewahrt die Fakten

sgaofen
⭐ 1,010 Python 👤 sgaofen User 🕐 Aktualisiert 2026-10-19 📅 Erstellt 2026-09-11
47
OleksandrChekhovskyi/hax

Ein minimalistischer, terminal-nativer Programmieragent, geschrieben in C.

OleksandrChekhovskyi
⭐ 1,006 C 👤 OleksandrChekhovskyi User 🕐 Aktualisiert 2026-11-13 📅 Erstellt 2026-04-24
48
huggingface/AnyLanguageModel

Ein API-kompatibler Drop-in-Ersatz für Apples Foundation Models Framework mit Unterstützung für benutzerdefinierte Sprachmodell-Anbieter.

huggingface
⭐ 990 Swift 👤 huggingface Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-10-05
49
feder-cr/jev

jevos: eine Open-Source-Alternative zu Jev und Microsoft-Decision-1. Ja/Nein-Entscheidungen, Auswahlmöglichkeiten und Bewertungen mit Wahrscheinlichkeiten – auf der CPU Ihres Laptops.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Aktualisiert 2026-10-18 📅 Erstellt 2024-08-15
50
alvarobartt/hf-mem

Ein CLI zur Schätzung des Speicherbedarfs für Inferenz bei Hugging Face Modellen, geschrieben in Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-12-22

Häufig gestellte Fragen

1

Welches ist das beliebteste #llama-cpp-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#llama-cpp-Projekt auf GitHub ist QwenLM/Qwen3 mit 27,753 Sternen. Qwen3 ist die Serie von großen Sprachmodellen, die vom Qwen-Team von Alibaba Cloud entwickelt wurde.

2

Welche Programmiersprachen werden in #llama-cpp-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #llama-cpp-Projekten auf GitHub sind Python, TypeScript, C++, Swift die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #llama-cpp-Repositories berechnet?

Wir verfolgen 69 aktive Open-Source-Repositories, die mit #llama-cpp getaggt sind (500+ Sterne), mit insgesamt 212,421 Sternen und durchschnittlich 3,078 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.