Git Stars Git Stars

#on-device-ai Repositories

68
Gesamtzahl der Repositories
183,992
Gesamtanzahl der Sterne
2,705
Durchschnittliche Sterne/Repo

Insgesamt 69 Repositories

51
SharpAI/SwiftLM

⚡ Native MLX Swift LLM-Inferenzserver für Apple Silicon. OpenAI-kompatible API, SSD-Streaming für 100B+ MoE-Modelle, TurboQuant KV-Cache-Kompression, MACOS + iOS iPhone-App.

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2026-03-21
52
webmachinelearning/prompt-api

💬 Ein Vorschlag für eine Web-API zur Ansteuerung von sprachmodellen, die vom Browser bereitgestellt werden

webmachinelearning
⭐ 797 Bikeshed 👤 webmachinelearning Organization 🕐 Aktualisiert 2026-11-09 📅 Erstellt 2024-07-01
53
Sentient-OS-Labs/sentient-os

Ein auf dem Gerät ausgeführtes LLM versteht Ihr gesamtes Leben und bietet anschließend proaktiv an, Ihre Arbeit durch die Nutzung des Computers zu erledigen.

Sentient-OS-Labs
⭐ 774 Swift 👤 Sentient-OS-Labs Organization 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2026-06-10
54
carloslfu/slotstream

Führen Sie ein 105-GB-KI-Modell auf einem Mac aus, auf dem es nicht vollständig Platz findet. Qwen3.8-Flash-Next in 4-Bit, gestreamt von einer SSD auf Apple-Silicon-Macs mit 16–64 GB Arbeitsspeicher. Vollständig nativ mit Swift, MLX und Metal. Offline, ohne Python. CLI, Swift-Bibliothek sowie Ollama-/OpenAI-/Anthropic-APIs. Funktioniert mit Claude Code und Codex.

carloslfu
⭐ 674 Swift 👤 carloslfu User 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2026-08-28
55
DenisovAV/flutter_edge_ai

KI auf dem Gerät für Flutter – Gemma und andere LLMs, multimodale Funktionen, Funktionsaufrufe, Embeddings, RAG und Sprache auf Android, iOS, Web, macOS, Windows und Linux.

DenisovAV
⭐ 669 Dart 👤 DenisovAV User 🕐 Aktualisiert 2026-11-20 📅 Erstellt 2024-04-02
56
leonickson1/Swiftlet

Swiftlet ist eine Swift- und Metal-Laufzeitumgebung, die große Qwen Mixture-of-Experts-Modelle lokal auf Apple-Geräten ausführt, indem Experten-Gewichte vom Speicher gestreamt werden, wodurch 35B- und 80B-Modelle mit geringem RAM-Verbrauch ausgeführt werden können, auch auf dem iPhone.

leonickson1
⭐ 667 Swift 👤 leonickson1 User 🕐 Aktualisiert 2026-11-17 📅 Erstellt 2026-08-03
57
woheller69/whisperIME

Android Input Method Editor (IME) basierend auf Whisper

woheller69
⭐ 661 Java 👤 woheller69 User 🕐 Aktualisiert 2026-10-28 📅 Erstellt 2024-12-30
59
NightMean/OlliteRT

Verwandeln Sie Ihr Android-Telefon in einen mit OpenAI kompatiblen LLM-Inferenzserver – vollständig lokal, privat und Open Source

NightMean
⭐ 645 Kotlin 👤 NightMean User 🕐 Aktualisiert 2026-11-07 📅 Erstellt 2026-04-06
60
sarim2000/pennywiseai-tracker

PennyWise liest automatisch Transaktions-SMS und wandelt sie mit Hilfe von KI auf dem Gerät in organisierte Finanzdaten um. Keine manuelle Eingabe, keine Cloud-Verarbeitung, vollständige Privatsphäre.

sarim2000
⭐ 627 Kotlin 👤 sarim2000 User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-07-18
61
keijiro/UnityMLStableDiffusion

Core ML Stable Diffusion auf Unity

keijiro
⭐ 605 C# 👤 keijiro User 🕐 Aktualisiert 2024-09-21 📅 Erstellt 2023-03-20
62
huggingface/swift-chat

Mac-App zur Demonstration von Swift-Transformers

huggingface
⭐ 592 Swift 👤 huggingface Organization 🕐 Aktualisiert 2024-07-29 📅 Erstellt 2023-05-11
63
Samsung/ONE

On-Device Neural Engine

Samsung
⭐ 584 Python 👤 Samsung Organization 🕐 Aktualisiert 2026-07-24 📅 Erstellt 2020-04-16
64
PrismML-Eng/Bonsai-Image-Demo

Bilder lokal generieren

PrismML-Eng
⭐ 561 PowerShell 👤 PrismML-Eng Organization 🕐 Aktualisiert 2026-09-08 📅 Erstellt 2026-05-05
65
FluidInference/FluidUse

Lokale Computernutzung auf Apple silicon: typisierte Entscheidungen direkt auf dem Gerät mit laya und Formularausfüllung mit CUA-S1-FORMS über die macOS-API für Bedienungshilfen

FluidInference
⭐ 547 Swift 👤 FluidInference Organization 🕐 Aktualisiert 2026-10-28 📅 Erstellt 2026-09-21
66
d2forum/19th

Die 19. D2 Terminal Technology Conference „Hitze · KI“

d2forum
⭐ 536 👤 d2forum Organization 🕐 Aktualisiert 2025-03-11 📅 Erstellt 2025-03-10
67
xybrid-ai/xybrid

Plattformübergreifendes KI-Toolkit für Geräte

xybrid-ai
⭐ 527 Rust 👤 xybrid-ai Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-12-13
68
NimbleEdge/deliteAI

Plattform für KI-Agenten auf dem Gerät

NimbleEdge
⭐ 519 C++ 👤 NimbleEdge Organization 🕐 Aktualisiert 2026-03-29 📅 Erstellt 2025-05-05
69
dineshsoudagar/local-llms-on-android

Führen Sie lokale LLMs wie Gemma, Qwen und LLaMA auf Android aus, um mit LiteRT und ONNX Runtime offline, privat und in Echtzeit zu chatten und Fragen zu beantworten.

dineshsoudagar
⭐ 501 Kotlin 👤 dineshsoudagar User 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-05-04