#llamacpp Repositories
Entdecke 49 aktive Open-Source-GitHub-Repositories, die mit #llamacpp getaggt sind und insgesamt 215,151 Sterne gesammelt haben (durchschnittlich 4,390 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist janhq/jan mit 45,982 Sternen.
Insgesamt 49 Repositories
Jan ist eine Open-Source-Alternative zu ChatGPT, die zu 100 % offline auf Ihrem Computer läuft.
Ihr KI-Zweitgehirn. Selbst-hostbar. Erhalten Sie Antworten aus dem Web oder Ihren Dokumenten. Bauen Sie benutzerdefinierte Agenten, planen Sie Automatisierungen, führen Sie tiefgehende Recherchen durch. Verwandeln Sie jedes Online- oder lokale LLM in Ihre persönliche, autonome KI (gpt, claude, gemini, llama, qwen, mistral). Erste Schritte – kostenlos.
Einheitlicher Rahmen für den Aufbau von Enterprise-RAG-Pipelines mit kleinen, spezialisierten Modellen
Ein selbst gehosteter, Offline-Chatbot ähnlich wie ChatGPT. Angetrieben von Llama 2. 100% privat, ohne dass Daten Ihr Gerät verlassen. Neu: Code Llama Unterstützung!
Open-Source-Inferenzplattform für Sprach-, Vision-, Embedding-, Reranking-, Bild-, Audio- und Videomodelle. Stellen Sie mehrere Engines auf heterogener Hardware bereit – vom Laptop bis zum verteilten Cluster. Stellen Sie Modelle über OpenAI-kompatible APIs bereit.
Private & lokale KI-Anwendung für persönliches Wissensmanagement für Menschen mit hoher Entropie.
⚡ WebGPU-Inferenz-Engine in reinem Rust — OpenAI-API-kompatibel, GGUF-nativ, läuft auf jeder GPU. Kein Python. Kein llama.cpp. Einzelne Binärdatei.
Eine Weboberfläche zum Chatten mit Alpaca über llama.cpp. Vollständig Docker-basiert, mit einer einfach zu bedienenden API.
Eine C#/.NET-Bibliothek zum effizienten Ausführen von LLMs (🦙LLaMA/LLaVA) auf Ihrem lokalen Gerät.
Open-Source-KI-Programmierassistent für VS Code. Programmieragent, Codevervollständigung, Chat, Bearbeitungen und Code-Reviews mit lokalen oder gehosteten Modellen. Deine Modelle, deine Infrastruktur.
AGiXT ist eine dynamische KI-Agenten-Automatisierungsplattform, die die Instruktionsverwaltung und die Ausführung komplexer Aufgaben über verschiedene KI-Anbieter hinweg nahtlos orchestriert. Durch die Kombination von adaptivem Gedächtnis, intelligenten Funktionen und einem vielseitigen Plugin-System liefert AGiXT effiziente und umfassende KI-Lösungen.
LSP-AI ist ein Open-Source-Sprachserver, der als Backend für KI-gestützte Funktionalität dient und darauf ausgelegt ist, Software-Ingenieure zu unterstützen und zu stärken, nicht sie zu ersetzen.
RamaLama ist ein Open-Source-Entwicklertool, das das lokale Bereitstellen von KI-Modellen aus beliebigen Quellen vereinfacht und deren Verwendung für Inferenzen in der Produktion erleichtert, und das alles über die vertraute Sprache von Containern.
Lokale KI-App und Inferenz-Engine für Agenten. Führen Sie Open-Weight-LLMs lokal aus – privat, 100 % offline auf Ihrem Computer. Treten Sie unserem Discord bei: https://discord.com/invite/8wGSsvmg4V
Open-Source-Lastverteiler und Serving-Plattform für LLM/VLM zur Selbsthosting von LLMs (und VLMs) im großen Maßstab 🏓🦙 Alternative zu Projekten wie llm-d, Docker Model Runner usw., aber mit weniger beweglichen Teilen und einfachen Bereitstellungen um das ggml-Ökosystem herum. Läuft auf CPU und GPU.
Chatten Sie mit Ihren bevorzugten LLaMA-Modellen in einer nativen macOS-App
🌌 Verleihe deinen Lieblingscharakteren eine Seele. Soul of Waifu ist eine Desktop-App für Rollenspiele und KI-Begleiter mit Live2D/VRM-Avataren, Voice-Chat und lokalem LLM. Entwickelt euch gemeinsam durch immersive Chats, RPG-Abenteuer und direkt auf eurem Desktop.
Erstellen Sie produktionsreife LLM-Anwendungen und fortschrittliche Agenten mit Python, LangChain und LangGraph. Dies ist das Begleitrepository für das Buch über generative KI mit LangChain.
Berechnen Sie den Token/s- & GPU-Speicherbedarf für jedes LLM. Unterstützt Quantisierung von llama.cpp/ggml/bnb/QLoRA
Ein FastAPI-Dienst für semantische Textsuche unter Verwendung vortrainierter Einbettungen und fortschrittlicher Ähnlichkeitsmaße mit integrierter Unterstützung für verschiedene Dateitypen durch Textract.
Die derzeit fortschrittlichste, vollständig offline arbeitende Client-seitige KI-Suite für Android.
Offene Modellreihe Spark-x2.6. Die Grenzen agentischer Fähigkeiten von On-Device-Modellen erweitern
Ausführung beliebiger GGUF SLMs/LLMs lokal, auf dem Gerät unter Android
Offizielles Repository meines Buches "Ein praktischer Leitfaden zum Feinabstimmen von LLMs mit PyTorch und Hugging Face"
End-to-End-Dokumentation zum Einrichten Ihres eigenen lokalen und vollständig privaten LLM-Servers unter Debian. Ausgestattet mit Chat, Websuche, RAG, Modellverwaltung, MCP-Servern, Bilderzeugung und TTS.
Mit eigener Intelligenz voran: Schreiben Sie Go-Anwendungen, die llama.cpp direkt integrieren, um unter Linux, macOS, Windows und WebAssembly lokale Inferenz mit Hardwarebeschleunigung durchzuführen.
Das llama-cpp-agent Framework ist ein Werkzeug, das für die einfache Interaktion mit Large Language Models (LLMs) entwickelt wurde. Es ermöglicht Benutzern, mit LLM-Modellen zu chatten, strukturierte Funktionsaufrufe auszuführen und strukturierte Ausgaben zu erhalten. Funktioniert auch mit Modellen, die nicht auf JSON-Ausgabe und Funktionsaufrufe feinabgestimmt sind.
Optimieren Sie Ihren Workflow mit Lynkr, einem CLI-Tool, das als HTTP-Proxy für effiziente Code-Interaktionen mit Claude Code CLI fungiert.
Ein weiteres Sprachmodell: LLM-Inferenz in C++/CUDA, keine Bibliotheken außer I/O
Verwenden Sie Code Llama mit Visual Studio Code und der Continue-Erweiterung. Eine lokale LLM-Alternative zu GitHub Copilot.
Go-Bibliothek für eingebettete Vektorsuche und semantische Embeddings mithilfe von llama.cpp
Statische, minimalistische, einzelne Charge, nur CUDA, qwen3-0.6B Mini-Inferenz-Engine
Moxin ist eine Familie von vollständig quelloffenen und reproduzierbaren LLMs
QwQ ist die Modellreihe für Schlussfolgerungen, die vom Qwen-Team von Alibaba Cloud entwickelt wurde.
Browser Operator – Der KI-Browser mit integrierter Multi-Agenten-Plattform! Eine Open-Source-Alternative zu ChatGPT Atlas, Perplexity Comet, Dia und dem Microsoft Copilot Edge-Browser
Häufig gestellte Fragen
Welches ist das beliebteste #llamacpp-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#llamacpp-Projekt auf GitHub ist janhq/jan mit 45,982 Sternen. Jan ist eine Open-Source-Alternative zu ChatGPT, die zu 100 % offline auf Ihrem Computer läuft.
Welche Programmiersprachen werden in #llamacpp-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #llamacpp-Projekten auf GitHub sind Python, Rust, TypeScript, JavaScript die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #llamacpp-Repositories berechnet?
Wir verfolgen 49 aktive Open-Source-Repositories, die mit #llamacpp getaggt sind (500+ Sterne), mit insgesamt 215,151 Sternen und durchschnittlich 4,390 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.