#on-device-ai Repository
Scopri 68 repository GitHub open source attivi contrassegnati con #on-device-ai, che raccolgono un totale di 183,992 stelle (con una media di 2,705 stelle per progetto). Il progetto leader di questo argomento è cactus-compute/cactus, con 14,864 stelle.
69 repository in totale
Intelligenza agentica, vocale e visiva sotto i 50 MB per dispositivi consumer.
Modelli fondazionali nativi del dispositivo: 145B su un laptop, 35B su un telefono. MoE latente, pesi trasmessi in streaming dall’SSD e un router che prevede i carichi con un passo di anticipo. Mac, iPhone, Android, Windows.
Esegui LLM e VLM all'avanguardia localmente su dispositivi Qualcomm attraverso NPU, GPU e CPU con poche righe di codice
Questo repository contiene l'implementazione ufficiale di "FastVLM: Efficient Vision Encoding for Vision Language Models" - CVPR 2025
LiteRT-LM è il framework di inferenza open source di Google, pronto per la produzione e ad alte prestazioni, per l'implementazione di modelli linguistici di grandi dimensioni su dispositivi edge.
Quantizzazione a 2 bit, kernel e ambiente di esecuzione per dispositivi consumer.
Un nodo Android incentrato sulle persone e attento alle risorse, per l’edge computing e l’apprendimento federato. Coordina l’intelligenza distribuita con una localizzazione che mette al primo posto la privacy e una gestione attenta dell’hardware.
IA che controlli: Scegli i tuoi modelli. Possiedi i tuoi dati. Elimina il lock-in del fornitore.
Hai raggiunto il limite di utilizzo di Claude Code? Continua gratis e offline con un modello locale: Qwen 3.8, Gemma 4 e Qwen 4 dal giorno del lancio. Funziona su Mac con Apple Silicon (MLX), Linux e Windows (llama.cpp), senza chiave API. Il tuo codice resta sul tuo dispositivo.
Uno strumento di gestione file basato sull'IA che garantisce la privacy organizzando testi e immagini locali. Utilizzando i modelli Llama3.2 3B e Llava v1.6 con Nexa SDK, scansiona, ristruttura e organizza intuitivamente i file per un accesso rapido e fluido e un facile recupero.
Mano-P: Agente GUI-VLA open-source per dispositivi edge. #1 su OSWorld (specializzato, 58.2%). Esegue localmente su Apple M4 Mac mini/MacBook — nessun dato lascia il tuo dispositivo. Mano-P è un progetto GUI-VLA open-source che supporta l'esecuzione locale su Mac mini/MacBook o tramite stick di calcolo, realizzando operazioni di automazione GUI cross-platform guidate puramente dalla visione. I dati vengono elaborati completamente in locale, supportando la pianificazione e l'esecuzione di compiti complessi a più passaggi.
IA multimodale in tempo reale su dispositivo con funzionalità simili a GPT-Live
Motore di IA edge in C++ pronto per la produzione per l’analisi video e i VLM on-device su Sophon, Rockchip RKNN e x86, con orchestrazione visiva, OSD in tempo reale, eventi e benchmark riproducibili.
Core ML model zoo per iOS/macOS — Modelli PyTorch convertiti in .mlpackage pronti all'uso, ognuno con uno script di conversione e un'app di esempio in SwiftUI. I repository correlati coprono il framework Core AI di Apple (iOS/macOS 27) e gli LLM on-device.
Libreria di inferenza AI on-device per React Native, ad alte prestazioni e orientata alla privacy, basata sul runtime ExecuTorch di PyTorch
NobodyWho è un motore di inferenza che ti consente di eseguire LLM localmente ed efficientemente su qualsiasi dispositivo.
Muesli: trascrizione locale delle riunioni e dettatura native per agenti su macOS (alternativa a Granola + WisprFlow + Littlebird)
Digitazione vocale gratuita e open source per macOS e Windows. Trascrizione vocale locale con Whisper e Parakeet, disponibile anche offline.
Decisioni tipizzate Laya locali su Apple Core ML e Neural Engine. Port validati, decisioni brevi di circa 5 ms su M3 Max e benchmark riproducibili di velocità e consumo energetico.
Nativ è un’app di IA locale open source per Mac. Esegue modelli di IA aperti su Apple Silicon e nulla lascia il tuo Mac.
Fine-tune LLMs sul tuo Mac con Apple Silicon. SFT, DPO, GRPO, Visione, TTS, STT, Embedding e fine-tuning OCR — nativamente su MLX. API compatibile con Unsloth.
MobileLLM Ottimizzazione di modelli linguistici con parametri inferiori al miliardo per casi d'uso su dispositivo. In ICML 2024.
[ICLR 2019] ProxylessNAS: Ricerca diretta dell'architettura neurale sul compito target e hardware
Esecuzione LLM sul dispositivo in React Native con compatibilità Vercel AI SDK
PhoneClaw trasforma i telefoni in runtime di agenti AI locali con modelli on-device, Skills mobili nativi, LiveLand e inferenza opzionale di Mac Gateway.
Un laboratorio pratico per creare, testare e valutare app con il framework dei modelli di base di Apple.
PokeClaw (PocketClaw) — prima IA on-device che controlla il tuo telefono Android. Gemma 4, senza cloud, senza chiave API. Poke è l'abbreviazione di Pocket.
Implementazione PyTorch ufficiale di "EdgeSAM: Prompt-In-the-Loop Distillation per il deployment on-device di SAM"
NativeMind: Il tuo assistente AI completamente privato, open-source e on-device
Esegui modelli MoE più grandi della tua RAM. MoE di frontiera su smartphone, laptop o dispositivo edge. Senza perdita, con llama.cpp standard. Un ottimizzatore adattivo in streaming. Qualsiasi hardware, sistema operativo, modello e quantizzazione, tramite un server locale compatibile con OpenAI.
App di avvio AI PC per la creazione di immagini AI, la stilizzazione di immagini e il chatbot su un PC basato su GPU Intel® Arc™.
Monitor di sistema Apple Silicon senza sudo (interfaccia grafica nativa SwiftUI) con tracciamento ANE / Media Engine / larghezza di banda della memoria
[CVPR 2025] Implementazione ufficiale PyTorch di "EdgeTAM: On-Device Track Anything Model"
jevos: un'alternativa open source a Jev e Microsoft-Decision-1. Decisioni sì/no, scelte e punteggi con probabilità, eseguiti sulla CPU del tuo laptop.
Assistente AI locale e open-source per i tuoi dati. Unifica attività, note, documenti, foto e segnalibri. Privato, self-hosted ed estensibile tramite API.
Livello di memoria condiviso in un singolo file per tutti i tuoi agenti, RAG in meno di un millisecondo su testo, foto e video su Apple Silicon. Nessun server. Nessuna API. Un file. Swift puro.
SDK AI locale open source: esegui l’AI sul dispositivo senza cloud né chiavi API. Supporta GGUF, RAG, la generazione di immagini, musica e video, la conversione da voce a testo, l’inferenza P2P e altro ancora. Multipiattaforma: Linux, macOS, Windows, Android e iOS.
Domande frequenti
Qual è il repository #on-device-ai più popolare su GitHub?
Il progetto open source #on-device-ai più alto in classifica su GitHub è cactus-compute/cactus, con 14,864 stelle. Intelligenza agentica, vocale e visiva sotto i 50 MB per dispositivi consumer.
Quali linguaggi di programmazione sono più utilizzati nei repository #on-device-ai?
Tra i progetti #on-device-ai più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Swift, C++, TypeScript.
Come viene calcolata la classifica dei repository #on-device-ai?
Monitoriamo 68 repository open source attivi contrassegnati con #on-device-ai (500+ stelle), per un totale di 183,992 stelle e una media di 2,705 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.