Git Stars Git Stars

#on-device-ai Repositories

Entdecke 68 aktive Open-Source-GitHub-Repositories, die mit #on-device-ai getaggt sind und insgesamt 183,992 Sterne gesammelt haben (durchschnittlich 2,705 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist cactus-compute/cactus mit 14,864 Sternen.

68
Gesamtzahl der Repositories
183,992
Gesamtanzahl der Sterne
2,705
Durchschnittliche Sterne/Repo

Insgesamt 69 Repositories

1
cactus-compute/cactus

Agentische, Sprach- und Bildverarbeitungsintelligenz mit weniger als 50 MB für Endgeräte.

cactus-compute
⭐ 14,864 Python 👤 cactus-compute Organization 🕐 Aktualisiert 2026-11-18 📅 Erstellt 2026-02-24
2
Edge0-AI/Edge0

Gerätenative Foundation-Modelle: 145B auf einem Laptop, 35B auf einem Smartphone. Latentes MoE, per SSD gestreamte Gewichte und ein Router, der die Auslastung einen Schritt im Voraus vorhersagt. Mac, iPhone, Android, Windows.

Edge0-AI
⭐ 12,176 C++ 👤 Edge0-AI Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-09-08
3
OpenBMB/MiniCPM

MiniCPM5: SOTA On-Device-LLMs, klein aber leistungsstark.

OpenBMB
⭐ 11,898 Jupyter Notebook 👤 OpenBMB Organization 🕐 Aktualisiert 2026-11-09 📅 Erstellt 2024-01-29
4
RunanywhereAI/runanywhere-sdks

Produktionsreifes Toolkit zum lokalen Ausführen von KI

RunanywhereAI
⭐ 10,354 C++ 👤 RunanywhereAI Organization 🕐 Aktualisiert 2026-11-10 📅 Erstellt 2025-07-22
5
m87-labs/moondream

kleines visuelles Sprachmodell

m87-labs
⭐ 10,167 Python 👤 m87-labs Organization 🕐 Aktualisiert 2026-04-20 📅 Erstellt 2023-12-29
6
qualcomm/GenieX

Führen Sie führende LLMs und VLMs lokal auf Qualcomm-Geräten über NPU, GPU und CPU mit nur wenigen Codezeilen aus

qualcomm
⭐ 8,544 Go 👤 qualcomm Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-08-16
7
apple-aiml-research/ml-fastvlm

Dieses Repository enthält die offizielle Implementierung von "FastVLM: Efficient Vision Encoding for Vision Language Models" - CVPR 2025

apple-aiml-research
⭐ 7,445 Python 👤 apple-aiml-research Organization 🕐 Aktualisiert 2026-09-11 📅 Erstellt 2025-05-01
8
drumih/turbo-fieldfare

Gemma 4 26B-A4B Inferenz mit ca. 2 GB RAM auf jedem MacBook der M-Serie

drumih
⭐ 7,432 Swift 👤 drumih User 🕐 Aktualisiert 2026-11-14 📅 Erstellt 2026-07-17
9
google-ai-edge/LiteRT-LM

LiteRT-LM ist das produktionsreife, leistungsstarke Open-Source-Inferenz-Framework von Google für die Bereitstellung großer Sprachmodelle auf Edge-Geräten.

google-ai-edge
⭐ 6,913 C++ 👤 google-ai-edge Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-04-14
10
neuphonic/neutts

On-Device-TTS-Modell von Neuphonic

neuphonic
⭐ 6,343 Python 👤 neuphonic Organization 🕐 Aktualisiert 2026-07-30 📅 Erstellt 2025-10-02
11
cactus-compute/engine

2-Bit-Quantisierung, Kernel und Laufzeitumgebung für Endgeräte.

cactus-compute
⭐ 6,200 C++ 👤 cactus-compute Organization 🕐 Aktualisiert 2026-11-05 📅 Erstellt 2025-04-23
12
Fractal-Compute-Orchestrations/FractalAndroid

Ein menschenzentrierter, ressourcenbewusster Android-Knoten für Edge Computing und föderiertes Lernen. Er koordiniert verteilte Intelligenz durch datenschutzorientierte Lokalisierung und einen rücksichtsvollen Umgang mit der Hardware.

Fractal-Compute-Orchestrations
⭐ 4,851 Kotlin 👤 Fractal-Compute-Orchestrations Organization 🕐 Aktualisiert 2026-11-13 📅 Erstellt 2025-11-21
13
thunderbird/thunderbolt

KI, die du kontrollierst: Wähle deine Modelle. Besitze deine Daten. Vermeide Vendor Lock-in.

thunderbird
⭐ 4,827 TypeScript 👤 thunderbird Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-07-23
14
huggingface/smollm

Alles über die SmolLM- und SmolVLM-Modellfamilie

huggingface
⭐ 3,960 Python 👤 huggingface Organization 🕐 Aktualisiert 2026-10-06 📅 Erstellt 2024-11-04
15
XiaoMi
⭐ 3,574 Python 👤 XiaoMi Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2025-11-06
16
nicedreamzapp/claude-code-local

Nutzungslimit für Claude Code erreicht? Arbeite kostenlos und offline mit einem lokalen Modell weiter: Qwen 3.8, Gemma 4 und Qwen 4 ab dem Tag seiner Veröffentlichung. Läuft auf Macs mit Apple Silicon (MLX), Linux und Windows (llama.cpp) – ganz ohne API-Schlüssel. Dein Code bleibt bei dir.

nicedreamzapp
⭐ 3,525 Python 👤 nicedreamzapp User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-03-26
17
QiuYannnn/Local-File-Organizer

Ein KI-gestütztes Dateiverwaltungstool, das die Privatsphäre durch die Organisation lokaler Texte und Bilder gewährleistet. Mithilfe der Modelle Llama3.2 3B und Llava v1.6 mit dem Nexa SDK scannt, restrukturiert und organisiert es Dateien intuitiv für einen schnellen, nahtlosen Zugriff und eine einfache Wiederbeschaffung.

QiuYannnn
⭐ 3,069 Python 👤 QiuYannnn User 🕐 Aktualisiert 2024-10-21 📅 Erstellt 2024-09-21
18
Mininglamp-AI/Mano-P

Mano-P: Open-Source-GUI-VLA-Agent für Edge-Geräte. Platz 1 auf OSWorld (spezialisiert, 58,2 %). Läuft lokal auf Apple M4 Mac mini/MacBook — keine Daten verlassen Ihr Gerät. Mano-P ist ein Open-Source-GUI-VLA-Projekt, das lokale Inferenz auf Mac mini/MacBook oder über Compute-Stick unterstützt und rein visuell gesteuerte plattformübergreifende GUI-Automatisierungsoperationen ermöglicht. Daten werden vollständig lokal verarbeitet und unterstützen die Planung und Ausführung komplexer mehrstufiger Aufgaben.

Mininglamp-AI
⭐ 2,855 👤 Mininglamp-AI Organization 🕐 Aktualisiert 2026-06-25 📅 Erstellt 2026-03-25
19
huggingface/swift-coreml-diffusers

Swift-App, die Core ML Stable Diffusion demonstriert

huggingface
⭐ 2,758 Swift 👤 huggingface Organization 🕐 Aktualisiert 2025-11-06 📅 Erstellt 2022-12-13
20
fikrikarim/parlor

Geräteinterne Echtzeit-Multimodal-KI mit Funktionen ähnlich wie GPT-Live

fikrikarim
⭐ 2,117 Python 👤 fikrikarim User 🕐 Aktualisiert 2026-08-03 📅 Erstellt 2026-04-05
21
cosmo-wander-ai/cosmo-edge

Produktionsreife C++-Edge-KI-Engine für Videoanalysen und geräteinterne VLMs auf Sophon, Rockchip RKNN und x86, mit visueller Orchestrierung, Echtzeit-OSD, Ereignissen und reproduzierbaren Benchmarks.

cosmo-wander-ai
⭐ 2,106 C 👤 cosmo-wander-ai Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-06-09
22
john-rocky/CoreML-Models

Core ML Model Zoo für iOS/macOS — PyTorch-Modelle, konvertiert in einsatzbereite .mlpackage-Dateien, jeweils mit Konvertierungsskript und SwiftUI-Beispiel-App. Zugehörige Repositories decken Apples Core AI-Framework (iOS/macOS 27) und On-Device-LLMs ab.

john-rocky
⭐ 1,902 Swift 👤 john-rocky User 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2020-08-12
23
software-mansion/react-native-executorch

Leistungsstarke On-Device-KI-Inferenzbibliothek für React Native mit Fokus auf Datenschutz, angetrieben von PyTorchs ExecuTorch-Runtime

software-mansion
⭐ 1,794 TypeScript 👤 software-mansion Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-10-16
24
nobodywho-ooo/nobodywho

NobodyWho ist eine Inferenz-Engine, mit der Sie LLMs lokal und effizient auf jedem Gerät ausführen können.

nobodywho-ooo
⭐ 1,699 Rust 👤 nobodywho-ooo Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2024-09-03
25
Muesli-HQ/muesli

Muesli: agent-native lokale Meeting-Transkription und Diktierfunktion für macOS (Alternative zu Granola + WisprFlow + Littlebird)

Muesli-HQ
⭐ 1,652 Swift 👤 Muesli-HQ Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-03-05
26
amicalhq/amical

Kostenlose Open-Source-Spracheingabe für macOS und Windows. Lokale Spracherkennung mit Whisper und Parakeet, funktioniert auch offline.

amicalhq
⭐ 1,648 TypeScript 👤 amicalhq Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-05-08
27
mizorewww/laya-coreml

Lokale typisierte Laya-Entscheidungen auf Apple Core ML und der Neural Engine. Validierte Portierungen, kurze Entscheidungen von etwa 5 ms auf dem M3 Max sowie reproduzierbare Benchmarks für Geschwindigkeit und Energieverbrauch.

mizorewww
⭐ 1,646 Python 👤 mizorewww User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-09-19
28
Neywa-Labs/nativ

Nativ ist eine quelloffene lokale KI-App für den Mac. Sie führt offene KI-Modelle auf Apple Silicon aus, und nichts verlässt deinen Mac.

Neywa-Labs
⭐ 1,608 Swift 👤 Neywa-Labs Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-07-20
29
jxlpzqc/TMSpeech

Tencent Meeting "Moyu" Tool

jxlpzqc
⭐ 1,504 C# 👤 jxlpzqc User 🕐 Aktualisiert 2026-07-15 📅 Erstellt 2023-06-20
30
ARahim3/mlx-tune

LLMs auf deinem Mac mit Apple Silicon fine-tunen. SFT, DPO, GRPO, Vision, TTS, STT, Embedding und OCR-Fine-Tuning — nativ auf MLX. Unsloth-kompatible API.

ARahim3
⭐ 1,475 Python 👤 ARahim3 User 🕐 Aktualisiert 2026-06-23 📅 Erstellt 2026-01-03
31
facebookresearch/MobileLLM

MobileLLM Optimierung von Sprachmodellen mit weniger als einer Milliarde Parametern für Anwendungsfälle auf Geräten. In ICML 2024.

facebookresearch
⭐ 1,471 Python 👤 facebookresearch Organization 🕐 Aktualisiert 2026-04-30 📅 Erstellt 2024-07-09
32
mit-han-lab/proxylessnas

[ICLR 2019] ProxylessNAS: Direkte neuronale Architektursuche für Zielaufgabe und Hardware

mit-han-lab
⭐ 1,451 C++ 👤 mit-han-lab Organization 🕐 Aktualisiert 2024-08-30 📅 Erstellt 2018-12-01
33
callstackincubator/ai

On-Device LLM-Ausführung in React Native mit Vercel AI SDK-Kompatibilität

callstackincubator
⭐ 1,442 TypeScript 👤 callstackincubator Organization 🕐 Aktualisiert 2026-11-11 📅 Erstellt 2024-07-19
34
kellyvv/PhoneClaw

PhoneClaw verwandelt Telefone in lokale KI-Agenten-Laufzeitumgebungen mit geräteinternen Modellen, nativen mobilen Skills, LiveLand und optionaler Mac Gateway-Inferenz.

kellyvv
⭐ 1,294 Swift 👤 kellyvv User 🕐 Aktualisiert 2026-08-06 📅 Erstellt 2026-04-04
35
rudrankriyam/Foundation-Models-Framework-Lab

Ein praktisches Labor zum Erstellen, Testen und Evaluieren von Apps mit dem Foundation Models Framework von Apple.

rudrankriyam
⭐ 1,194 Swift 👤 rudrankriyam User 🕐 Aktualisiert 2026-11-07 📅 Erstellt 2025-06-09
36
agents-io/PokeClaw

PokeClaw (PocketClaw) — erstes On-Device-KI, das dein Android-Phone steuert. Gemma 4, kein Cloud, kein API-Schlüssel. Poke ist die Kurzform für Pocket.

agents-io
⭐ 1,165 Kotlin 👤 agents-io Organization 🕐 Aktualisiert 2026-06-02 📅 Erstellt 2026-04-06
37
chongzhou96/EdgeSAM

Offizielle PyTorch-Implementierung von "EdgeSAM: Prompt-In-the-Loop-Destillation für die On-Device-Bereitstellung von SAM"

chongzhou96
⭐ 1,152 Jupyter Notebook 👤 chongzhou96 User 🕐 Aktualisiert 2025-05-24 📅 Erstellt 2023-12-06
38
NativeMindBrowser/NativeMindExtension

NativeMind: Ihr vollständig privater, Open-Source, On-Device KI-Assistent

NativeMindBrowser
⭐ 1,137 TypeScript 👤 NativeMindBrowser Organization 🕐 Aktualisiert 2026-03-23 📅 Erstellt 2025-06-05
39
google-ai-edge/litert-torch

Unterstützt die Konvertierung von PyTorch-Modellen mit LiteRT.

google-ai-edge
⭐ 1,112 Jupyter Notebook 👤 google-ai-edge Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-05-13
40
Helldez/BigMoeOnEdge

Führe MoE-Modelle aus, die größer sind als dein RAM. MoE-Modelle der Spitzenklasse auf einem Smartphone, Laptop oder Edge-Gerät. Verlustfrei, mit unverändertem llama.cpp. Ein adaptiver Streaming-Optimierer. Jede Hardware, jedes Betriebssystem, jedes Modell und jede Quantisierung – über einen lokalen OpenAI-kompatiblen Server.

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-07-10
41
intel/AI-Playground

AI PC Starter-App für KI-Bilderstellung, Bildstiländerung und Chatbot auf einem PC mit einer Intel® Arc™ GPU.

intel
⭐ 1,043 TypeScript 👤 intel Organization 🕐 Aktualisiert 2026-10-30 📅 Erstellt 2024-07-10
42
kennss/SiliconScope

Systemmonitor für Apple Silicon ohne sudo (native SwiftUI-GUI) mit ANE-/Media-Engine-/Speicherbandbreitenverfolgung

kennss
⭐ 1,026 Swift 👤 kennss User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-06-08
43
facebookresearch/EdgeTAM

[CVPR 2025] Offizielle PyTorch-Implementierung von „EdgeTAM: On-Device Track Anything Model“

facebookresearch
⭐ 1,024 Jupyter Notebook 👤 facebookresearch Organization 🕐 Aktualisiert 2026-01-27 📅 Erstellt 2024-12-13
44
feder-cr/jev

jevos: eine Open-Source-Alternative zu Jev und Microsoft-Decision-1. Ja/Nein-Entscheidungen, Auswahlmöglichkeiten und Bewertungen mit Wahrscheinlichkeiten – auf der CPU Ihres Laptops.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Aktualisiert 2026-10-18 📅 Erstellt 2024-08-15
45
mit-han-lab/TinyChatEngine

TinyChatEngine: On-Device LLM Inferenzbibliothek

mit-han-lab
⭐ 934 C++ 👤 mit-han-lab Organization 🕐 Aktualisiert 2024-07-04 📅 Erstellt 2023-05-24
46
eclaire-labs/eclaire

Lokaler, quelloffener KI-Assistent für Ihre Daten. Vereinheitlicht Aufgaben, Notizen, Dokumente, Fotos und Lesezeichen. Privat, selbstgehostet und über APIs erweiterbar.

eclaire-labs
⭐ 925 TypeScript 👤 eclaire-labs Organization 🕐 Aktualisiert 2026-11-08 📅 Erstellt 2025-09-02
47
TheStageAI/TheWhisper

Optimierte Whisper-Modelle für Streaming und On-Device-Einsatz

TheStageAI
⭐ 905 Python 👤 TheStageAI Organization 🕐 Aktualisiert 2026-10-31 📅 Erstellt 2025-10-19
48
gety-ai/apple-on-device-openai

OpenAI-kompatibler API-Server für Apple On-Device-Modelle

gety-ai
⭐ 891 Swift 👤 gety-ai Organization 🕐 Aktualisiert 2025-10-02 📅 Erstellt 2025-06-15
49
christopherkarani/Wax

Gemeinsame Speicher-Schicht in einer einzigen Datei für all Ihre Agenten, RAG mit weniger als einer Millisekunde für Text, Fotos und Videos auf Apple Silicon. Kein Server. Keine API. Eine Datei. Reines Swift.

christopherkarani
⭐ 816 Swift 👤 christopherkarani User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-01-20
50
tetherto/qvac

Open-Source-SDK für lokale KI – führe KI direkt auf dem Gerät aus, ganz ohne Cloud und API-Schlüssel. Unterstützt GGUF, RAG, die Generierung von Bildern, Musik und Videos, Sprache-zu-Text, P2P-Inferenz und mehr. Plattformübergreifend: Linux, macOS, Windows, Android und iOS.

tetherto
⭐ 806 TypeScript 👤 tetherto Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2026-01-03

Häufig gestellte Fragen

1

Welches ist das beliebteste #on-device-ai-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#on-device-ai-Projekt auf GitHub ist cactus-compute/cactus mit 14,864 Sternen. Agentische, Sprach- und Bildverarbeitungsintelligenz mit weniger als 50 MB für Endgeräte.

2

Welche Programmiersprachen werden in #on-device-ai-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #on-device-ai-Projekten auf GitHub sind Python, Swift, C++, TypeScript die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #on-device-ai-Repositories berechnet?

Wir verfolgen 68 aktive Open-Source-Repositories, die mit #on-device-ai getaggt sind (500+ Sterne), mit insgesamt 183,992 Sternen und durchschnittlich 2,705 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.