Git Stars Git Stars

#llama-cpp Repositories

69
Gesamtzahl der Repositories
212,421
Gesamtanzahl der Sterne
3,078
Durchschnittliche Sterne/Repo

Insgesamt 69 Repositories

51
cobanov/PS5LM

llama.cpp auf einer jailbreakten PS5: Beliebige GGUF-Modelle nativ auf der Konsole ausführen – beginnend mit Qwen 3.8

cobanov
⭐ 868 C++ 👤 cobanov User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-10-01
52
nace-ai/kapitsa

Blitzschnelle Inferenz-Engine für Apple Silicon, optimiert für Qwen und Nemotron. Kompatibel mit den APIs von OpenAI und Anthropic. Entwickelt vom Team von nace.ai

nace-ai
⭐ 840 C++ 👤 nace-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-10-16
53
OrionStarAI/Orion

Orion-14B ist eine Modellfamilie, die ein 14B-Foundation-LLM und eine Reihe von Modellen umfasst: ein Chat-Modell, ein Modell für langen Kontext, ein quantisiertes Modell, ein RAG-feinabgestimmtes Modell und ein Agent-feinabgestimmtes Modell. Die Orion-14B-Modellreihe umfasst ein Basis-LLM mit 14 Milliarden Parametern sowie eine Reihe verwandter abgeleiteter Modelle, die Dialogmodelle, Langtextmodelle, quantisierte Modelle, RAG-feinabgestimmte Modelle, Agent-feinabgestimmte Modelle usw. umfassen.

OrionStarAI
⭐ 801 Python 👤 OrionStarAI Organization 🕐 Aktualisiert 2024-06-03 📅 Erstellt 2024-01-17
55
timmyy123/LLM-Hub

Lokales LLM sowie Bild-, Video- und Musikgenerator

timmyy123
⭐ 665 C 👤 timmyy123 User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2025-07-08
56
the-crypt-keeper/can-ai-code

Selbstevaluierungsgespräch für KI-Programmierer

the-crypt-keeper
⭐ 600 Python 👤 the-crypt-keeper User 🕐 Aktualisiert 2025-06-21 📅 Erstellt 2023-05-27
57
llmmanorg/llmman

Führen Sie jeden Agenten auf jedem Modell aus; die Modelle werden als OCI-Images gespeichert

llmmanorg
⭐ 598 Rust 👤 llmmanorg Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-03-22
58
gokayfem/ComfyUI_VLM_nodes

ComfyUI-Nodes für Vision-Language-Modelle: Qwen3-VL, Moondream 3, Florence-2, SmolVLM2, InternVL, Gemma 3, MiniCPM-V. Sowie Open-Vocabulary-Erkennung, SAM2/SAM3-Segmentierung, zeitliche Videobetrachtung, GGUF via llama.cpp und gehostete LLM/VLM-APIs.

gokayfem
⭐ 592 Python 👤 gokayfem User 🕐 Aktualisiert 2026-08-08 📅 Erstellt 2024-01-24
59
WisdomShell/codeshell-vscode

Ein intelligenter Codierungsassistent-Plugin für Visual Studio Code, entwickelt auf Basis von CodeShell

WisdomShell
⭐ 579 TypeScript 👤 WisdomShell Organization 🕐 Aktualisiert 2024-05-09 📅 Erstellt 2023-10-19
60
oriveo/oriveo

Open-Source-Multi-Modell-KI-Chatclient mit eigenem API-Schlüssel (BYOK) für iOS, Android und das Web. Ein LLM-Client für OpenAI, Anthropic, Google Gemini, OpenRouter, DeepSeek und zehn weitere Anbieter sowie jeden mit OpenAI, Anthropic oder Gemini kompatiblen Endpunkt — Ollama, LM Studio, llama.cpp, vLLM. Lokal orientiert, selbst hostbar, kein Konto erforderlich. AGPL-3.0.

oriveo
⭐ 567 Swift 👤 oriveo Organization 🕐 Aktualisiert 2026-11-12 📅 Erstellt 2026-09-03
61
spark-arena/sparkrun

sparkrun – LLM-Inferenz-Workloads auf NVIDIA-DGX-Spark-Systemen starten, verwalten und stoppen. Live-Support: https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2026-02-16
62
FrigadeHQ/hob

Eine einfachere Möglichkeit, KI auf dem eigenen Computer zu nutzen. Eine kostenlose Open-Source-Alternative zu Claude und ChatGPT, die Modelle mit offenen Gewichten wie Gemma und gpt-oss lokal auf Mac, Windows und Linux ausführt. Privat und offline nutzbar.

FrigadeHQ
⭐ 556 TypeScript 👤 FrigadeHQ Organization 🕐 Aktualisiert 2026-10-30 📅 Erstellt 2026-10-14
63
automataIA/graphrag-rs

GraphRAG-rs ist eine leistungsstarke, hochmoderne Rust-Implementierung von GraphRAG (Graph-basierte Retrieval Augmented Generation), die Wissensgraphen aus Dokumenten erstellt und natürliche Sprachabfragen mit konfigurierbarer Entitätsextraktion und lokaler LLM-Integration ermöglicht

automataIA
⭐ 541 Rust 👤 automataIA User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2025-09-21
64
Yzw202011/OmniSpace

Lokal priorisierte Full-Stack-KI-Kreativwerkstatt: fünf Module – KI-Chat, KI-Comics, Comic-Drama-Erstellung, Schreibbereich und Wissenslernen; lokale Inferenz mit mehreren Engines (vLLM / llama.cpp / Transformers), intelligente VRAM-Verwaltung, Bulkhead-Isolierung und Selbstheilung. Nur zu Lernzwecken; Austausch und Hinweise sind willkommen. (Aufgrund von Protokollbeschränkungen können die neuesten Fortschritte – mit Ausnahme des Plugin-Systems – derzeit nicht in das Repository übernommen werden.)

Yzw202011
⭐ 536 Python 👤 Yzw202011 User 🕐 Aktualisiert 2026-09-20 📅 Erstellt 2026-08-23
65
lucasjinreal/Crane

Eine vollständig in Rust entwickelte Inferenz-Engine für LLMs, VLMs, VLAs, TTS und OCR, angetrieben von Candle und Rust. Eine Alternative zu llama.cpp, die viel einfacher und übersichtlicher ist.

lucasjinreal
⭐ 534 Rust 👤 lucasjinreal User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2025-03-19
66
wizardAEI/Gomoon

Gomoon, ein Desktop-Produktivitätstool, das auf großen Modellen basiert

wizardAEI
⭐ 520 TypeScript 👤 wizardAEI User 🕐 Aktualisiert 2026-02-27 📅 Erstellt 2023-11-20
67
bofenghuang/vigogne

Französische Befolgen-von-Anweisungen- und Chat-Modelle

bofenghuang
⭐ 506 Jupyter Notebook 👤 bofenghuang User 🕐 Aktualisiert 2024-12-05 📅 Erstellt 2023-03-24
68
AudarAI/Audar-ASR-V1

Arabisch-fokussierte generative Spracherkennung — Audar-ASR-V1 (Flash + Turbo). Platz 1 auf der Open Universal Arabic ASR-Bestenliste. Modellkarten, Benchmarks & Inferenz.

AudarAI
⭐ 503 Python 👤 AudarAI Organization 🕐 Aktualisiert 2026-08-22 📅 Erstellt 2026-07-06
69
withcatai/catai

Führen Sie einen KI-✨-Assistenten lokal aus! Mit einer einfachen API für Node.js 🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 Aktualisiert 2025-11-16 📅 Erstellt 2023-03-25