#local-inference Repositories
Entdecke 19 aktive Open-Source-GitHub-Repositories, die mit #local-inference getaggt sind und insgesamt 116,603 Sterne gesammelt haben (durchschnittlich 6,137 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist oobabooga/textgen mit 47,736 Sternen.
Insgesamt 19 Repositories
Open-Source-Desktop-App für lokale LLMs. Text, Vision, Tool-Calling, OpenAI/Anthropic-kompatible API. 100 % privat.
Hochgeschwindigkeits-Large-Language-Model-Bereitstellung für lokale Bereitstellung
Mano-P: Open-Source-GUI-VLA-Agent für Edge-Geräte. Platz 1 auf OSWorld (spezialisiert, 58,2 %). Läuft lokal auf Apple M4 Mac mini/MacBook — keine Daten verlassen Ihr Gerät. Mano-P ist ein Open-Source-GUI-VLA-Projekt, das lokale Inferenz auf Mac mini/MacBook oder über Compute-Stick unterstützt und rein visuell gesteuerte plattformübergreifende GUI-Automatisierungsoperationen ermöglicht. Daten werden vollständig lokal verarbeitet und unterstützen die Planung und Ausführung komplexer mehrstufiger Aufgaben.
CORTEX RAG ist ein unternehmensweiter Retrieval- und Wissensassistent, der Teams hilft, genaue Antworten aus Unternehmensdaten mit Quellenangaben, berechtigungsbewusstem Retrieval und schneller Bereitstellung zu finden.
Jev-kompatibler API-Server für offene Entscheidungsmodelle. Ollama für Entscheidungsmodelle: 29 Modellfamilien (Laya, pplx-decider, Clef, Winnow, coba...) lokal herunterladen und ausführen oder hinter /v1/systemone selbst hosten. Das TypeSafe-SDK funktioniert unverändert: Basis-URL festlegen und ein offenes Modell auswählen. CLI, Desktop-App, Docker, MCP-Server und öffentlicher Benchmark.
Lokale Modelle unterstützen Microsofts Graphrag mit Ollama (llama3, mistral, gemma2 phi3) – Extraktion von LLM & Embedding
Entfalte deine eigene Intelligenz! Nutze Go für hardwarebeschleunigte lokale Inferenz mit llama.cpp, whisper.cpp und stable-diffusion.cpp, direkt in deine Go-Anwendungen integriert. Kronk bietet eine High-Level-API und einen produktionsreifen Modellserver.
Gefleckter Seehund — Phocinae-Largha-150M-v1: ein zweisprachiges Entscheidungsmodell mit 144,3 Mio. Parametern. Kleines Modell. Große Entscheidungen. Kleine Robbe, große Entscheidungen.
Tools, ComfyUI-Workflows und Benchmark-Konfigurationen von einem lokalen Inferenzsystem mit 4 RTX 3090
Häufig gestellte Fragen
Welches ist das beliebteste #local-inference-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#local-inference-Projekt auf GitHub ist oobabooga/textgen mit 47,736 Sternen. Open-Source-Desktop-App für lokale LLMs. Text, Vision, Tool-Calling, OpenAI/Anthropic-kompatible API. 100 % privat.
Welche Programmiersprachen werden in #local-inference-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #local-inference-Projekten auf GitHub sind Python, C++, TypeScript, Swift die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #local-inference-Repositories berechnet?
Wir verfolgen 19 aktive Open-Source-Repositories, die mit #local-inference getaggt sind (500+ Sterne), mit insgesamt 116,603 Sternen und durchschnittlich 6,137 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.