Git Stars Git Stars

#on-device-ai Repository

68
Totale Repository
183,992
Totale stelle
2,705
Media Stelle/Repo
51
SharpAI/SwiftLM

โšก Server di inferenza LLM MLX Swift nativo per Apple Silicon. API compatibile con OpenAI, streaming SSD per modelli MoE 100B+, compressione TurboQuant KV cache, app MACOS + iOS iPhone.

SharpAI
โญ 802 Swift ๐Ÿ‘ค SharpAI Organization ๐Ÿ• Aggiornato 2026-11-19 ๐Ÿ“… Creato 2026-03-21
52
webmachinelearning/prompt-api

๐Ÿ’ฌ Una proposta per un'API web per il prompting di modelli linguistici forniti dal browser

webmachinelearning
โญ 797 Bikeshed ๐Ÿ‘ค webmachinelearning Organization ๐Ÿ• Aggiornato 2026-11-09 ๐Ÿ“… Creato 2024-07-01
53
Sentient-OS-Labs/sentient-os

Un LLM sul dispositivo comprende tutta la tua vita e poi si offre proattivamente di svolgere il tuo lavoro utilizzando il computer.

Sentient-OS-Labs
โญ 774 Swift ๐Ÿ‘ค Sentient-OS-Labs Organization ๐Ÿ• Aggiornato 2026-11-20 ๐Ÿ“… Creato 2026-06-10
54
carloslfu/slotstream

Esegui un modello IA da 105 GB su un Mac che non puรฒ contenerlo. Qwen3.8-Flash-Next a 4 bit, trasmesso in streaming da SSD sui Mac Apple Silicon con 16โ€“64 GB di memoria. Completamente nativo in Swift, MLX e Metal. Offline, senza Python. CLI, libreria Swift e API Ollama/OpenAI/Anthropic. Compatibile con Claude Code e Codex.

carloslfu
โญ 674 Swift ๐Ÿ‘ค carloslfu User ๐Ÿ• Aggiornato 2026-11-17 ๐Ÿ“… Creato 2026-08-28
55
DenisovAV/flutter_edge_ai

IA on-device per Flutter: Gemma e altri LLM, multimodalitร , chiamate di funzione, embedding, RAG e voce su Android, iOS, Web, macOS, Windows e Linux.

DenisovAV
โญ 669 Dart ๐Ÿ‘ค DenisovAV User ๐Ÿ• Aggiornato 2026-11-20 ๐Ÿ“… Creato 2024-04-02
56
leonickson1/Swiftlet

Swiftlet รจ un runtime Swift e Metal che esegue modelli Qwen Mixture-of-Experts di grandi dimensioni localmente su dispositivi Apple tramite lo streaming dei pesi degli esperti dallo storage, consentendo ai modelli da 35B e 80B di funzionare con poca RAM, anche su iPhone.

leonickson1
โญ 667 Swift ๐Ÿ‘ค leonickson1 User ๐Ÿ• Aggiornato 2026-11-17 ๐Ÿ“… Creato 2026-08-03
57
woheller69/whisperIME

Editor del metodo di input (IME) per Android basato su Whisper

woheller69
โญ 661 Java ๐Ÿ‘ค woheller69 User ๐Ÿ• Aggiornato 2026-10-28 ๐Ÿ“… Creato 2024-12-30
59
NightMean/OlliteRT

Trasforma il tuo telefono Android in un server di inferenza LLM compatibile con OpenAI: completamente locale, privato e open source

NightMean
โญ 645 Kotlin ๐Ÿ‘ค NightMean User ๐Ÿ• Aggiornato 2026-11-07 ๐Ÿ“… Creato 2026-04-06
60
sarim2000/pennywiseai-tracker

PennyWise legge automaticamente i messaggi SMS delle transazioni e li trasforma in dati finanziari organizzati con assistenza AI sul dispositivo. Nessun inserimento manuale, nessun elaborazione cloud, privacy completa.

sarim2000
โญ 627 Kotlin ๐Ÿ‘ค sarim2000 User ๐Ÿ• Aggiornato 2026-11-21 ๐Ÿ“… Creato 2025-07-18
61
keijiro/UnityMLStableDiffusion

Core ML Stable Diffusion su Unity

keijiro
โญ 605 C# ๐Ÿ‘ค keijiro User ๐Ÿ• Aggiornato 2024-09-21 ๐Ÿ“… Creato 2023-03-20
62
huggingface/swift-chat

App Mac per dimostrare swift-transformers

huggingface
โญ 592 Swift ๐Ÿ‘ค huggingface Organization ๐Ÿ• Aggiornato 2024-07-29 ๐Ÿ“… Creato 2023-05-11
63
Samsung/ONE

Neural Engine sul dispositivo

Samsung
โญ 584 Python ๐Ÿ‘ค Samsung Organization ๐Ÿ• Aggiornato 2026-07-24 ๐Ÿ“… Creato 2020-04-16
64
PrismML-Eng/Bonsai-Image-Demo

Generare immagini localmente

PrismML-Eng
โญ 561 PowerShell ๐Ÿ‘ค PrismML-Eng Organization ๐Ÿ• Aggiornato 2026-09-08 ๐Ÿ“… Creato 2026-05-05
65
FluidInference/FluidUse

Uso locale del computer su Apple silicon: decisioni tipizzate sul dispositivo con laya e compilazione di moduli con CUA-S1-FORMS, tramite lโ€™API di accessibilitร  di macOS

FluidInference
โญ 547 Swift ๐Ÿ‘ค FluidInference Organization ๐Ÿ• Aggiornato 2026-10-28 ๐Ÿ“… Creato 2026-09-21
66
d2forum/19th

La 19a Conferenza sulla tecnologia dei terminali D2 "Calore ยท AI"

d2forum
โญ 536 ๐Ÿ‘ค d2forum Organization ๐Ÿ• Aggiornato 2025-03-11 ๐Ÿ“… Creato 2025-03-10
67
xybrid-ai/xybrid

Toolkit di IA multipiattaforma sul dispositivo

xybrid-ai
โญ 527 Rust ๐Ÿ‘ค xybrid-ai Organization ๐Ÿ• Aggiornato 2026-11-21 ๐Ÿ“… Creato 2025-12-13
68
NimbleEdge/deliteAI

Piattaforma AI agentiva on-device

NimbleEdge
โญ 519 C++ ๐Ÿ‘ค NimbleEdge Organization ๐Ÿ• Aggiornato 2026-03-29 ๐Ÿ“… Creato 2025-05-05
69
dineshsoudagar/local-llms-on-android

Esegui LLM locali come Gemma, Qwen e LLaMA su Android per chat e risposte alle domande in tempo reale, offline e private, con LiteRT e ONNX Runtime.

dineshsoudagar
โญ 501 Kotlin ๐Ÿ‘ค dineshsoudagar User ๐Ÿ• Aggiornato 2026-11-21 ๐Ÿ“… Creato 2025-05-04