Git Stars Git Stars

#local-inference Repositories

Entdecke 19 aktive Open-Source-GitHub-Repositories, die mit #local-inference getaggt sind und insgesamt 116,603 Sterne gesammelt haben (durchschnittlich 6,137 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist oobabooga/textgen mit 47,736 Sternen.

19
Gesamtzahl der Repositories
116,603
Gesamtanzahl der Sterne
6,137
Durchschnittliche Sterne/Repo

Insgesamt 19 Repositories

1
oobabooga/textgen

Open-Source-Desktop-App für lokale LLMs. Text, Vision, Tool-Calling, OpenAI/Anthropic-kompatible API. 100 % privat.

oobabooga
⭐ 47,736 Python 👤 oobabooga User 🕐 Aktualisiert 2026-08-17 📅 Erstellt 2022-12-21
2
mozilla-ai/llamafile

Verteilen und Ausführen von LLMs mit einer einzigen Datei.

mozilla-ai
⭐ 26,681 C++ 👤 mozilla-ai Organization 🕐 Aktualisiert 2026-11-09 📅 Erstellt 2023-09-10
3
Tiiny-AI/PowerInfer

Hochgeschwindigkeits-Large-Language-Model-Bereitstellung für lokale Bereitstellung

Tiiny-AI
⭐ 9,893 C++ 👤 Tiiny-AI Organization 🕐 Aktualisiert 2026-05-11 📅 Erstellt 2023-12-15
4
nat/openplayground

Eine LLM-Spielwiese, die Sie auf Ihrem Laptop ausführen können

nat
⭐ 6,342 TypeScript 👤 nat User 🕐 Aktualisiert 2026-02-06 📅 Erstellt 2023-02-26
⭐ 3,574 Python 👤 XiaoMi Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-11-06
6
linyiLYi/bilibot

Ein lokaler Chatbot, der von Bilibili-Benutzerkommentaren feinabgestimmt wurde.

linyiLYi
⭐ 3,176 Python 👤 linyiLYi User 🕐 Aktualisiert 2024-05-15 📅 Erstellt 2024-05-06
7
Mininglamp-AI/Mano-P

Mano-P: Open-Source-GUI-VLA-Agent für Edge-Geräte. Platz 1 auf OSWorld (spezialisiert, 58,2 %). Läuft lokal auf Apple M4 Mac mini/MacBook — keine Daten verlassen Ihr Gerät. Mano-P ist ein Open-Source-GUI-VLA-Projekt, das lokale Inferenz auf Mac mini/MacBook oder über Compute-Stick unterstützt und rein visuell gesteuerte plattformübergreifende GUI-Automatisierungsoperationen ermöglicht. Daten werden vollständig lokal verarbeitet und unterstützen die Planung und Ausführung komplexer mehrstufiger Aufgaben.

Mininglamp-AI
⭐ 2,855 👤 Mininglamp-AI Organization 🕐 Aktualisiert 2026-06-25 📅 Erstellt 2026-03-25
8
janhq/ichigo

Lokale Echtzeit-Sprach-KI

janhq
⭐ 2,493 Python 👤 janhq Organization 🕐 Aktualisiert 2025-11-26 📅 Erstellt 2024-07-02
9
mainframecomputer/fullmoon-ios

mit privaten und lokalen großen Sprachmodellen chatten

mainframecomputer
⭐ 2,255 Swift 👤 mainframecomputer Organization 🕐 Aktualisiert 2025-05-05 📅 Erstellt 2024-10-09
10
SaiAkhil066/CORTEX-AI-SUPER-RAG

CORTEX RAG ist ein unternehmensweiter Retrieval- und Wissensassistent, der Teams hilft, genaue Antworten aus Unternehmensdaten mit Quellenangaben, berechtigungsbewusstem Retrieval und schneller Bereitstellung zu finden.

SaiAkhil066
⭐ 1,980 Python 👤 SaiAkhil066 User 🕐 Aktualisiert 2026-09-28 📅 Erstellt 2025-01-30
11
browser-use/macOS-use

Mac-Apps für KI-Agenten zugänglich machen

browser-use
⭐ 1,948 Python 👤 browser-use Organization 🕐 Aktualisiert 2025-03-05 📅 Erstellt 2025-01-23
12
ollaya-dev/ollaya

Jev-kompatibler API-Server für offene Entscheidungsmodelle. Ollama für Entscheidungsmodelle: 29 Modellfamilien (Laya, pplx-decider, Clef, Winnow, coba...) lokal herunterladen und ausführen oder hinter /v1/systemone selbst hosten. Das TypeSafe-SDK funktioniert unverändert: Basis-URL festlegen und ein offenes Modell auswählen. CLI, Desktop-App, Docker, MCP-Server und öffentlicher Benchmark.

ollaya-dev
⭐ 1,473 Rust 👤 ollaya-dev Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-09-23
13
TheAiSingularity/graphrag-local-ollama

Lokale Modelle unterstützen Microsofts Graphrag mit Ollama (llama3, mistral, gemma2 phi3) – Extraktion von LLM & Embedding

TheAiSingularity
⭐ 1,111 Python 👤 TheAiSingularity User 🕐 Aktualisiert 2026-05-08 📅 Erstellt 2024-07-08
15
huggingface/meshgen

KI-Agenten direkt in Blender verwenden.

huggingface
⭐ 950 Python 👤 huggingface Organization 🕐 Aktualisiert 2026-10-22 📅 Erstellt 2024-10-14
16
ardanlabs/kronk

Entfalte deine eigene Intelligenz! Nutze Go für hardwarebeschleunigte lokale Inferenz mit llama.cpp, whisper.cpp und stable-diffusion.cpp, direkt in deine Go-Anwendungen integriert. Kronk bietet eine High-Level-API und einen produktionsreifen Modellserver.

ardanlabs
⭐ 871 Go 👤 ardanlabs Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-11-18
17
ochyai/vibe-local

Kostenlose KI-Codierungsumgebung: Ollama + Python

ochyai
⭐ 804 Python 👤 ochyai User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-02-22
18
Phocinae/Phocinae-Largha-150M-v1

Gefleckter Seehund — Phocinae-Largha-150M-v1: ein zweisprachiges Entscheidungsmodell mit 144,3 Mio. Parametern. Kleines Modell. Große Entscheidungen. Kleine Robbe, große Entscheidungen.

Phocinae
⭐ 797 Python 👤 Phocinae Organization 🕐 Aktualisiert 2026-10-20 📅 Erstellt 2026-10-08
19
alesha-pro/tools

Tools, ComfyUI-Workflows und Benchmark-Konfigurationen von einem lokalen Inferenzsystem mit 4 RTX 3090

alesha-pro
⭐ 702 HTML 👤 alesha-pro User 🕐 Aktualisiert 2026-09-28 📅 Erstellt 2026-08-07

Häufig gestellte Fragen

1

Welches ist das beliebteste #local-inference-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#local-inference-Projekt auf GitHub ist oobabooga/textgen mit 47,736 Sternen. Open-Source-Desktop-App für lokale LLMs. Text, Vision, Tool-Calling, OpenAI/Anthropic-kompatible API. 100 % privat.

2

Welche Programmiersprachen werden in #local-inference-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #local-inference-Projekten auf GitHub sind Python, C++, TypeScript, Swift die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #local-inference-Repositories berechnet?

Wir verfolgen 19 aktive Open-Source-Repositories, die mit #local-inference getaggt sind (500+ Sterne), mit insgesamt 116,603 Sternen und durchschnittlich 6,137 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.