#local-llm Repository
122 repository in totale
API locale compatibile con OpenAI per sintesi vocale (TTS) con Chatterbox, che consente agli utenti di generare discorsi clonati in qualsiasi luogo in cui viene utilizzata l'API OpenAI (ad es. Open WebUI, AnythingLLM, ecc.).
Un assistente di codifica AI completamente privato e locale, sviluppato da Gensyn. Ti aiuta a esercitarti con i problemi di programmazione e ad addestrare un assistente innovativo che ti supporti nella scrittura del codice.
Assistente AI da riga di comando completamente open-source ispirato da OpenAI Codex, che supporta modelli linguistici locali.
Esegui un modello IA da 105 GB su un Mac che non può contenerlo. Qwen3.8-Flash-Next a 4 bit, trasmesso in streaming da SSD sui Mac Apple Silicon con 16–64 GB di memoria. Completamente nativo in Swift, MLX e Metal. Offline, senza Python. CLI, libreria Swift e API Ollama/OpenAI/Anthropic. Compatibile con Claude Code e Codex.
Swiftlet è un runtime Swift e Metal che esegue modelli Qwen Mixture-of-Experts di grandi dimensioni localmente su dispositivi Apple tramite lo streaming dei pesi degli esperti dallo storage, consentendo ai modelli da 35B e 80B di funzionare con poca RAM, anche su iPhone.
Inferenza LLM peer-to-peer nel browser: unisci i tuoi dispositivi per eseguire grandi modelli aperti per agenti di chat e programmazione.
Trasforma il tuo telefono Android in un server di inferenza LLM compatibile con OpenAI: completamente locale, privato e open source
Sistema operativo per agenti IA self-hosted. La tua memoria, le chat, gli agenti e i file rimangono sull'hardware di tua proprietà, offline per impostazione predefinita, nel cloud per scelta. Include memoria IA offline (taOSmd), chat di gruppo multi-framework self-hosted, un desktop web completo + app store e clustering automatico sull'hardware consumer che già possiedi (Orange/Raspberry Pi, Mac mini, PC da gaming).
Agenti personali 100% gratuiti e open source per le tue app di messaggistica, i tuoi strumenti e servizi
IDE basato sull'IA per la scrittura di romanzi — LLM locale + RAG, privacy al primo posto, BYOK. Per autori di narrativa web e scrittori creativi.
Piattaforma open source e self-hosted per agenti IA, pensata per i membri IA del team della tua azienda. Crea, esegui e governa agenti sui tuoi server e con i tuoi modelli: chat condivisa, RAG, competenze, un browser reale, oltre 4.700 server MCP, budget, approvazioni e una traccia di audit. Un’alternativa a ChatGPT Enterprise e Grok Bot. Apache-2.0, realizzata su Pydantic AI.
Una soluzione curata per costruire un secondo cervello auto-evolutivo che aiuta gli agenti AI a comprendere il tuo contesto personale e di squadra.
Non correggerà il tuo bug. Correggerà te. Il debugger che ti restituisce la domanda invece della risposta.
Chat IA locale per iPhone, iPad e Mac. Connettiti a Ollama, LM Studio o a qualsiasi server compatibile con OpenAI, oppure esegui modelli MLX sul dispositivo. Include strumenti e ricerca sul Web.
Un modo più semplice per usare l’IA sul tuo computer. Un’alternativa gratuita e open source a Claude e ChatGPT, che esegue localmente modelli con pesi aperti come Gemma e gpt-oss su Mac, Windows e Linux. Privata e utilizzabile offline.
Xolotl: esegui DeepSeek-V4.1-Flash, con tutti i 552B parametri, come agente di programmazione locale su un singolo PC da gaming (RTX 4090 + 110 GB di RAM): ~33 tok/s come agente, ~41 in modalità veloce, contesto da 512K. Inoltre, Inkling-2-Mini (Thinking Machines, motore proprietario + generatore di bozze MTP), GLM-5.3-Flash, Qwen3.8 e LFM3-Omni. Esperti MoE organizzati a livelli tra VRAM, RAM e NVMe (Xolotl Direct). API OpenAI + Anthropic.
Postazione creativa AI full-stack con priorità al locale: cinque moduli — chat AI, fumetti AI, creazione di drammi a fumetti, spazio di scrittura e apprendimento delle conoscenze —; inferenza locale con più motori (vLLM / llama.cpp / Transformers), gestione intelligente della VRAM, isolamento a compartimenti e autoriparazione. Solo a scopo didattico; commenti e confronti sono benvenuti. (A causa di restrizioni del protocollo, al momento non è possibile inviare al repository gli ultimi progressi, ad eccezione del sistema di plugin.)
Piattaforma di intelligence documentale basata sull’IA e orientata all’elaborazione locale per il giornalismo investigativo
Esegui LLM locali come Gemma, Qwen e LLaMA su Android per chat e risposte alle domande in tempo reale, offline e private, con LiteRT e ONNX Runtime.