Git Stars Git Stars

#local-llm Repositories

122
Gesamtzahl der Repositories
383,928
Gesamtanzahl der Sterne
3,146
Durchschnittliche Sterne/Repo

Insgesamt 122 Repositories

101
travisvn/chatterbox-tts-api

Lokales, OpenAI-kompatibles Text‑zu‑Speech‑API (TTS) mit Chatterbox, das es Benutzern ermöglicht, Sprachklonierte Sprache überall dort zu erzeugen, wo die OpenAI‑API verwendet wird (z. B. Open WebUI, AnythingLLM, etc.).

travisvn
⭐ 700 Python 👤 travisvn User 🕐 Aktualisiert 2025-12-23 📅 Erstellt 2025-05-31
102
gensyn-ai/codeassist

Ein vollständig privater und lokaler KI-Programmierassistent, entwickelt von Gensyn. Er hilft Ihnen, Programmieraufgaben zu üben und einen neuartigen Assistenten zu trainieren, der Sie beim Codieren unterstützt.

gensyn-ai
⭐ 699 Python 👤 gensyn-ai Organization 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2025-10-31
103
codingmoh/open-codex

Vollständig Open-Source-Befehlszeilen-KI-Assistent, inspiriert von OpenAI Codex, der lokale Sprachmodelle unterstützt.

codingmoh
⭐ 696 Python 👤 codingmoh User 🕐 Aktualisiert 2026-10-20 📅 Erstellt 2025-03-29
104
carloslfu/slotstream

Führen Sie ein 105-GB-KI-Modell auf einem Mac aus, auf dem es nicht vollständig Platz findet. Qwen3.8-Flash-Next in 4-Bit, gestreamt von einer SSD auf Apple-Silicon-Macs mit 16–64 GB Arbeitsspeicher. Vollständig nativ mit Swift, MLX und Metal. Offline, ohne Python. CLI, Swift-Bibliothek sowie Ollama-/OpenAI-/Anthropic-APIs. Funktioniert mit Claude Code und Codex.

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2026-08-28
105
leonickson1/Swiftlet

Swiftlet ist eine Swift- und Metal-Laufzeitumgebung, die große Qwen Mixture-of-Experts-Modelle lokal auf Apple-Geräten ausführt, indem Experten-Gewichte vom Speicher gestreamt werden, wodurch 35B- und 80B-Modelle mit geringem RAM-Verbrauch ausgeführt werden können, auch auf dem iPhone.

leonickson1
⭐ 667 Swift 👤 leonickson1 User 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2026-08-03
106
Nehanth/pooled

Peer-to-Peer-LLM-Inferenz im Browser: Bündle deine Geräte, um große offene Modelle für Chat- und Programmieragenten auszuführen.

Nehanth
⭐ 658 JavaScript 👤 Nehanth User 🕐 Aktualisiert 2026-11-03 📅 Erstellt 2026-09-01
107
NightMean/OlliteRT

Verwandeln Sie Ihr Android-Telefon in einen mit OpenAI kompatiblen LLM-Inferenzserver – vollständig lokal, privat und Open Source

NightMean
⭐ 645 Kotlin 👤 NightMean User 🕐 Aktualisiert 2026-11-07 📅 Erstellt 2026-04-06
108
ServiceStack/llms

LLM-Client, Server-API und UI

ServiceStack
⭐ 631 JavaScript 👤 ServiceStack Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-09-23
109
runebookai/tome

ein magischer LLM-Desktop-Client, der es *jedem* erleichtert, LLMs und MCP zu nutzen

runebookai
⭐ 630 Svelte 👤 runebookai Organization 🕐 Aktualisiert 2025-10-20 📅 Erstellt 2025-04-25
110
jaylfc/taOS

Selbstgehostetes KI-Agenten-Betriebssystem. Ihre Erinnerungen, Chats, Agenten und Dateien bleiben auf Ihrer eigenen Hardware – standardmäßig offline, Cloud optional. Bietet Offline-KI-Speicher (taOSmd), selbstgehosteten Multi-Framework-Gruppenchat, einen vollständigen Web-Desktop mit App-Store sowie automatisches Clustering über Ihre vorhandene Consumer-Hardware (Orange/Raspberry Pi, Mac mini, Gaming-PC).

jaylfc
⭐ 609 Python 👤 jaylfc User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-04-05
111
abacusai/abacusai-bot

100 % kostenlose, quelloffene persönliche Agenten für deine Messaging-Apps, Tools und Dienste

abacusai
⭐ 601 TypeScript 👤 abacusai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-09-11
112
heider-x/vela

KI-gestützte IDE für das Schreiben von Romanen — lokales LLM + RAG, Datenschutz zuerst, BYOK. Für Web-Fiction-Autoren und kreative Schreiber.

heider-x
⭐ 593 TypeScript 👤 heider-x User 🕐 Aktualisiert 2026-10-19 📅 Erstellt 2026-04-21
113
vstorm-co/agenticos

Open-Source-Plattform für selbst gehostete KI-Agenten als KI-Teammitglieder Ihres Unternehmens. Erstellen, betreiben und verwalten Sie Agenten auf Ihren eigenen Servern und mit Ihren eigenen Modellen: gemeinsamer Chat, RAG, Skills, ein echter Browser, mehr als 4.700 MCP-Server, Budgets, Genehmigungen und ein Prüfpfad. Eine Alternative zu ChatGPT Enterprise und Grok Bot. Apache-2.0-lizenziert, auf Pydantic AI aufgebaut.

vstorm-co
⭐ 589 Python 👤 vstorm-co Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-07-31
114
aristoapp/awesome-second-brain

Eine kuratierte Lösung zum Aufbau eines sich selbst entwickelnden zweiten Gehirns, das KI-Agenten hilft, Ihren persönlichen und Teamkontext zu verstehen.

aristoapp
⭐ 586 👤 aristoapp Organization 🕐 Aktualisiert 2026-07-13 📅 Erstellt 2026-01-12
115
DilawarShafiq/nietzschian-debugger

Es wird deinen Bug nicht beheben. Es wird dich beheben. Der Debugger, der dir die Frage zurückgibt, statt die Antwort.

DilawarShafiq
⭐ 562 Python 👤 DilawarShafiq User 🕐 Aktualisiert 2026-10-27 📅 Erstellt 2026-02-24
116
ibrahimcetin/reins

Lokaler KI-Chat für iPhone, iPad und Mac. Verbinde Ollama, LM Studio oder einen beliebigen OpenAI-kompatiblen Server oder führe MLX-Modelle direkt auf dem Gerät aus. Mit Tools und Websuche.

ibrahimcetin
⭐ 561 Dart 👤 ibrahimcetin User 🕐 Aktualisiert 2026-10-14 📅 Erstellt 2024-11-11
117
FrigadeHQ/hob

Eine einfachere Möglichkeit, KI auf dem eigenen Computer zu nutzen. Eine kostenlose Open-Source-Alternative zu Claude und ChatGPT, die Modelle mit offenen Gewichten wie Gemma und gpt-oss lokal auf Mac, Windows und Linux ausführt. Privat und offline nutzbar.

FrigadeHQ
⭐ 556 TypeScript 👤 FrigadeHQ Organization 🕐 Aktualisiert 2026-10-30 📅 Erstellt 2026-10-14
118
Indras-Mirror/Xolotl

Xolotl: Führe DeepSeek-V4.1-Flash mit allen 552B Parametern als lokalen Coding-Agent auf einem einzigen Gaming-PC aus (RTX 4090 + 110 GB RAM): ca. 33 Tok/s im Agentenmodus, ca. 41 im Schnellmodus, 512K Kontext. Dazu Inkling-2-Mini (Thinking Machines, eigene Engine + MTP-Entwurfsmodul), GLM-5.3-Flash, Qwen3.8 und LFM3-Omni. MoE-Experten werden stufenweise über VRAM, RAM und NVMe verteilt (Xolotl Direct). OpenAI- und Anthropic-API.

Indras-Mirror
⭐ 549 C++ 👤 Indras-Mirror User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-10-06
119
Yzw202011/OmniSpace

Lokal priorisierte Full-Stack-KI-Kreativwerkstatt: fünf Module – KI-Chat, KI-Comics, Comic-Drama-Erstellung, Schreibbereich und Wissenslernen; lokale Inferenz mit mehreren Engines (vLLM / llama.cpp / Transformers), intelligente VRAM-Verwaltung, Bulkhead-Isolierung und Selbstheilung. Nur zu Lernzwecken; Austausch und Hinweise sind willkommen. (Aufgrund von Protokollbeschränkungen können die neuesten Fortschritte – mit Ausnahme des Plugin-Systems – derzeit nicht in das Repository übernommen werden.)

Yzw202011
⭐ 536 Python 👤 Yzw202011 User 🕐 Aktualisiert 2026-09-20 📅 Erstellt 2026-08-23
120
mantisfury/ArkhamMirror

KI-gestützte Dokumentenintelligenz-Plattform mit lokalem Ansatz für investigativen Journalismus

mantisfury
⭐ 507 Python 👤 mantisfury User 🕐 Aktualisiert 2026-01-25 📅 Erstellt 2025-11-25
121
dineshsoudagar/local-llms-on-android

Führen Sie lokale LLMs wie Gemma, Qwen und LLaMA auf Android aus, um mit LiteRT und ONNX Runtime offline, privat und in Echtzeit zu chatten und Fragen zu beantworten.

dineshsoudagar
⭐ 501 Kotlin 👤 dineshsoudagar User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-05-04
122
withcatai/catai

Führen Sie einen KI-✨-Assistenten lokal aus! Mit einer einfachen API für Node.js 🚀

withcatai
⭐ 500 TypeScript 👤 withcatai Organization 🕐 Aktualisiert 2025-11-16 📅 Erstellt 2023-03-25