#local-llm Repository
Scopri 122 repository GitHub open source attivi contrassegnati con #local-llm, che raccolgono un totale di 383,928 stelle (con una media di 3,146 stelle per progetto). Il progetto leader di questo argomento è HKUDS/nanobot, con 50,249 stelle.
122 repository in totale
Un agente di programmazione open source per il tuo terminale, scritto in Rust. Funziona con qualsiasi modello, può suddividere un’attività tra più agenti e puoi leggere ogni singola riga del suo codice.
Affina i LLM da un singolo YAML. Lo streaming a livelli addestra un modello da 8B su una GPU per laptop da 4 GB.
~95% su SimpleQA (es. Qwen3.6-27B su una 3090). Supporta tutti i LLM locali e cloud (llama.cpp, Ollama, Google, ...). 10+ motori di ricerca - arXiv, PubMed, i tuoi documenti privati. Tutto Locale & Criptato.
Assistente completamente locale per la ricerca sul web e la stesura di report
FreeAskInternet è un aggregatore di ricerca e generatore di risposte completamente gratuito, PRIVATO e in esecuzione LOCALMENTE, che utilizza LLM MULTIPLI, senza la necessità di GPU. L'utente può porre una domanda e il sistema effettuerà una ricerca multi-motore e combinerà il risultato della ricerca con LLM per generare la risposta basata sui risultati della ricerca. È tutto GRATUITO da usare.
Runtime per agenti TypeScript self-hosted, con approvazioni persistenti e registri delle esecuzioni verificabili. Lo possiedi, lo approvi e lo sottoponi ad audit.
Piattaforma di IA vocale open source. Alternativa self-hosted a Vapi e Retell. On-premise, BYOK per Speech-to-Speech o LLM/STT/TTS, con un costruttore di flussi di lavoro visivo, nativo MCP e supporto per la telefonia.
IA sanitaria con elaborazione locale prioritaria: riconoscimento di entità cliniche (NER) e de-identificazione dei dati personali (PII) conforme a HIPAA sull’hardware che controlli. Oltre 2.200 modelli medici, gestione dei PII basata su modelli in 35 lingue e ambienti di esecuzione per Python, MLX, Android e browser. SDK con licenza Apache-2.0.
Questo è il Nucleo di Personalità per GLaDOS, i primi passi verso un'implementazione reale dell'IA della serie Portal di Valve.
Un’app auto-ospitata per cercare lavoro e creare curriculum, che redige curriculum e lettere di presentazione su misura a partire dal tuo profilo.
Spaziatura del testo in JavaScript rigorosa e paranoica, con valutazione semantica tramite IA sul dispositivo
Lo studio di IA locale tutto-in-uno per il tuo desktop: chat, generazione di immagini e video e un agente di programmazione in un'unica app gratuita e open source. Windows e Linux. Senza Docker, senza terminale, senza cloud.
Rapid-MLX è un server di inferenza LLM open source (Apache 2.0) per Apple Silicon, compatibile con OpenAI e Anthropic, basato su MLX e progettato per offrire chiamate agli strumenti affidabili agli agenti di programmazione. Fino a 4 volte più veloce di MLX (mlx-lm) di Apple con gli stessi pesi.
Quaderni AI personali. Organizza file e pagine web e genera note da essi. Open source, dati locali e aperti, scelta del modello aperto (incluso quello locale).
Atomic Agent è un agente di IA local-first. Esegue modelli open-weight sul tuo computer tramite llama.cpp.
Hai raggiunto il limite di utilizzo di Claude Code? Continua gratis e offline con un modello locale: Qwen 3.8, Gemma 4 e Qwen 4 dal giorno del lancio. Funziona su Mac con Apple Silicon (MLX), Linux e Windows (llama.cpp), senza chiave API. Il tuo codice resta sul tuo dispositivo.
Linger è un agente personale open source che funziona interamente sul tuo PC. Vogliamo spezzare il controllo delle grandi aziende tecnologiche sull’IA portando una potente IA locale sui computer di tutti i giorni, grazie a una co-progettazione efficiente del modello e dell’ambiente di esecuzione, così che chiunque possa usare la propria IA.
Esegui GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) e Hy4-Flash (220B) sulle tue GPU — a partire da 8 GB di VRAM, con supporto per NVIDIA e AMD, un’unica dashboard e un’API compatibile con OpenAI e Anthropic.
Un elenco curato di piattaforme, strumenti, pratiche e risorse eccellenti che aiutano a eseguire gli LLM localmente
Agente AI desktop open source per strumenti, file, conoscenza, flussi di lavoro e risultati concreti.
Esegui rapidamente modelli Qwen di grandi dimensioni sulle GPU che possiedi davvero. Qwen3.8-27B su una singola scheda da 24 GB con vLLM: 127 tok/s per un singolo utente (381 quando la risposta cita il prompt), circa 1.035 tok/s con 64 richieste simultanee e un contesto di 150k–262k. Patch per vLLM, pipeline di requantizzazione e benchmark.
Il modo più veloce per eseguire Qwen 3.8 Flash Next, Qwen 3.8 27B e Ternary Bonsai 2 27B su un Mac: 125 token/s in OpenCode su un M5 Max e un modello 27B sui Mac con 16 GB. Decodifica speculativa MTP nativa su Apple Silicon, accurata a qualsiasi temperatura. Server locale compatibile con OpenAI e Anthropic.
Strumento professionale di ricerca con IA per Zotero: chatta con i PDF, cerca in tutta la tua libreria, Radar della letteratura e Pilota automatico. Oltre 30 LLM o modelli locali; server MCP integrato. Chatta con il tuo Zotero tascabile su iPhone → https://www.docsagent.app
Server nativo per l’inferenza di LLM su Apple Silicon. Compatibile con le API di OpenAI e Anthropic. Senza Python. App macOS con backend in Zig e frontend in Swift, per la generazione di chat, musica, voce e video.
GraphRAG con LLM locali - Presenta API robuste e molteplici app per Indicizzazione/Prompt Tuning/Query/Chat/Visualizzazione/Ecc. Questa è pensata per essere l'app GraphRAG/KG definitiva per LLM locali.
IA multimodale in tempo reale su dispositivo con funzionalità simili a GPT-Live
App AI locale e motore di inferenza per agenti. Esegui LLM a pesi aperti localmente: privato, 100% offline sul tuo computer. Unisciti al nostro Discord: https://discord.com/invite/8wGSsvmg4V
Synthadoc: Un motore di compilazione della conoscenza LLM open source che trasforma documenti grezzi in wiki strutturati e locali. Un'alternativa trasparente e leggibile dall'uomo al tradizionale RAG, che può essere autogestita e auto-migliorata senza l'uso di alcuno strumento.
Endpoint API text-to-speech gratuito e di alta qualità per sostituire OpenAI, Azure o ElevenLabs
L'ambiente AI locale portatile definitivo senza installazione. Esegui LLM di alta qualità non censurati (Gemma, Qwen, NemoMix) direttamente da qualsiasi chiavetta USB o SSD. Completamente air-gapped, multipiattaforma (Win/Mac/Linux) e con priorità alla privacy con cronologia chat persistente.
Sì, un'altra implementazione di chat su documenti... ma questa è interamente locale!
L’orchestratore di micro-agenti che monitora qualsiasi cosa per te. Funziona interamente in locale. Open source.
Capri — Animaletto desktop con IA gratuito e open source, overlay per il gaming e compagno vocale per Windows. Interfaccia grafica visiva per Claude Code, Ollama, DeepSeek e MCP. Partecipa alle chiamate Discord, avvia giochi Steam, commenta il gameplay e automatizza le attività sullo schermo offline.
NobodyWho è un motore di inferenza che ti consente di eseguire LLM localmente ed efficientemente su qualsiasi dispositivo.
Row-Bot: un assistente IA che privilegia l’uso locale e porta a termine il lavoro. Ricorda ciò che conta, lavora con i tuoi file, il codice, i progetti, il browser e le app, esegue flussi di lavoro e agenti e ti avvisa quando ha bisogno di te; prima di qualsiasi operazione rischiosa, chiede il tuo consenso. Usa il tuo piano ChatGPT, Claude o Grok, una chiave API o modelli locali. I tuoi dati restano sul tuo dispositivo.
Server di inferenza LLM ad alte prestazioni compatibile con OpenAI e Anthropic per Apple Silicon. MLX nativo, batching continuo, modelli multimodali, chiamate di strumenti MCP e supporto per Claude Code.
Configurazioni open source di computer per l’IA, dai desktop con 2 GPU ai server con 8 GPU: CAD, distinta base, BIOS e guide all’assemblaggio. Acquista il kit del case con riser PCIe oppure chiedici una verifica gratuita della compatibilità.
Bot Grok open source. I bot Gawk automatizzano il tuo lavoro ripetitivo tramite modelli di IA e costruiscono per te microapp per gestire il risultato, dandoti una falsa sensazione di controllo.
Domande frequenti
Qual è il repository #local-llm più popolare su GitHub?
Il progetto open source #local-llm più alto in classifica su GitHub è HKUDS/nanobot, con 50,249 stelle. Il tuo agente personale leggero e open source.
Quali linguaggi di programmazione sono più utilizzati nei repository #local-llm?
Tra i progetti #local-llm più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, TypeScript, Rust, C++.
Come viene calcolata la classifica dei repository #local-llm?
Monitoriamo 122 repository open source attivi contrassegnati con #local-llm (500+ stelle), per un totale di 383,928 stelle e una media di 3,146 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.