#local-llm Repositories
Insgesamt 122 Repositories
Lokales, OpenAI-kompatibles Text‑zu‑Speech‑API (TTS) mit Chatterbox, das es Benutzern ermöglicht, Sprachklonierte Sprache überall dort zu erzeugen, wo die OpenAI‑API verwendet wird (z. B. Open WebUI, AnythingLLM, etc.).
Ein vollständig privater und lokaler KI-Programmierassistent, entwickelt von Gensyn. Er hilft Ihnen, Programmieraufgaben zu üben und einen neuartigen Assistenten zu trainieren, der Sie beim Codieren unterstützt.
Vollständig Open-Source-Befehlszeilen-KI-Assistent, inspiriert von OpenAI Codex, der lokale Sprachmodelle unterstützt.
Führen Sie ein 105-GB-KI-Modell auf einem Mac aus, auf dem es nicht vollständig Platz findet. Qwen3.8-Flash-Next in 4-Bit, gestreamt von einer SSD auf Apple-Silicon-Macs mit 16–64 GB Arbeitsspeicher. Vollständig nativ mit Swift, MLX und Metal. Offline, ohne Python. CLI, Swift-Bibliothek sowie Ollama-/OpenAI-/Anthropic-APIs. Funktioniert mit Claude Code und Codex.
Swiftlet ist eine Swift- und Metal-Laufzeitumgebung, die große Qwen Mixture-of-Experts-Modelle lokal auf Apple-Geräten ausführt, indem Experten-Gewichte vom Speicher gestreamt werden, wodurch 35B- und 80B-Modelle mit geringem RAM-Verbrauch ausgeführt werden können, auch auf dem iPhone.
Peer-to-Peer-LLM-Inferenz im Browser: Bündle deine Geräte, um große offene Modelle für Chat- und Programmieragenten auszuführen.
Verwandeln Sie Ihr Android-Telefon in einen mit OpenAI kompatiblen LLM-Inferenzserver – vollständig lokal, privat und Open Source
ein magischer LLM-Desktop-Client, der es *jedem* erleichtert, LLMs und MCP zu nutzen
Selbstgehostetes KI-Agenten-Betriebssystem. Ihre Erinnerungen, Chats, Agenten und Dateien bleiben auf Ihrer eigenen Hardware – standardmäßig offline, Cloud optional. Bietet Offline-KI-Speicher (taOSmd), selbstgehosteten Multi-Framework-Gruppenchat, einen vollständigen Web-Desktop mit App-Store sowie automatisches Clustering über Ihre vorhandene Consumer-Hardware (Orange/Raspberry Pi, Mac mini, Gaming-PC).
100 % kostenlose, quelloffene persönliche Agenten für deine Messaging-Apps, Tools und Dienste
KI-gestützte IDE für das Schreiben von Romanen — lokales LLM + RAG, Datenschutz zuerst, BYOK. Für Web-Fiction-Autoren und kreative Schreiber.
Open-Source-Plattform für selbst gehostete KI-Agenten als KI-Teammitglieder Ihres Unternehmens. Erstellen, betreiben und verwalten Sie Agenten auf Ihren eigenen Servern und mit Ihren eigenen Modellen: gemeinsamer Chat, RAG, Skills, ein echter Browser, mehr als 4.700 MCP-Server, Budgets, Genehmigungen und ein Prüfpfad. Eine Alternative zu ChatGPT Enterprise und Grok Bot. Apache-2.0-lizenziert, auf Pydantic AI aufgebaut.
Eine kuratierte Lösung zum Aufbau eines sich selbst entwickelnden zweiten Gehirns, das KI-Agenten hilft, Ihren persönlichen und Teamkontext zu verstehen.
Es wird deinen Bug nicht beheben. Es wird dich beheben. Der Debugger, der dir die Frage zurückgibt, statt die Antwort.
Lokaler KI-Chat für iPhone, iPad und Mac. Verbinde Ollama, LM Studio oder einen beliebigen OpenAI-kompatiblen Server oder führe MLX-Modelle direkt auf dem Gerät aus. Mit Tools und Websuche.
Eine einfachere Möglichkeit, KI auf dem eigenen Computer zu nutzen. Eine kostenlose Open-Source-Alternative zu Claude und ChatGPT, die Modelle mit offenen Gewichten wie Gemma und gpt-oss lokal auf Mac, Windows und Linux ausführt. Privat und offline nutzbar.
Xolotl: Führe DeepSeek-V4.1-Flash mit allen 552B Parametern als lokalen Coding-Agent auf einem einzigen Gaming-PC aus (RTX 4090 + 110 GB RAM): ca. 33 Tok/s im Agentenmodus, ca. 41 im Schnellmodus, 512K Kontext. Dazu Inkling-2-Mini (Thinking Machines, eigene Engine + MTP-Entwurfsmodul), GLM-5.3-Flash, Qwen3.8 und LFM3-Omni. MoE-Experten werden stufenweise über VRAM, RAM und NVMe verteilt (Xolotl Direct). OpenAI- und Anthropic-API.
Lokal priorisierte Full-Stack-KI-Kreativwerkstatt: fünf Module – KI-Chat, KI-Comics, Comic-Drama-Erstellung, Schreibbereich und Wissenslernen; lokale Inferenz mit mehreren Engines (vLLM / llama.cpp / Transformers), intelligente VRAM-Verwaltung, Bulkhead-Isolierung und Selbstheilung. Nur zu Lernzwecken; Austausch und Hinweise sind willkommen. (Aufgrund von Protokollbeschränkungen können die neuesten Fortschritte – mit Ausnahme des Plugin-Systems – derzeit nicht in das Repository übernommen werden.)
KI-gestützte Dokumentenintelligenz-Plattform mit lokalem Ansatz für investigativen Journalismus
Führen Sie lokale LLMs wie Gemma, Qwen und LLaMA auf Android aus, um mit LiteRT und ONNX Runtime offline, privat und in Echtzeit zu chatten und Fragen zu beantworten.
Führen Sie einen KI-✨-Assistenten lokal aus! Mit einer einfachen API für Node.js 🚀