#llama-cpp Repository
Scopri 69 repository GitHub open source attivi contrassegnati con #llama-cpp, che raccolgono un totale di 212,421 stelle (con una media di 3,078 stelle per progetto). Il progetto leader di questo argomento è QwenLM/Qwen3, con 27,753 stelle.
69 repository in totale
Qwen3 è la serie di modelli linguistici di grandi dimensioni sviluppata dal team Qwen di Alibaba Cloud.
L’app di dettatura per macOS più veloce e l’unica con riconoscimento vocale sul dispositivo (STT) e un modello di miglioramento IA addestrato su misura. Disponibile per Windows e su TestFlight per iOS! Liste d’attesa aperte per Android e Linux! Un’alternativa locale a Wispr Flow. Segui https://x.com/fluidvoiceapp per saperne di più.
Un chatbot self-hosted, offline, simile a ChatGPT. Alimentato da Llama 2. 100% privato, senza dati che lasciano il tuo dispositivo. Novità: supporto Code Llama!
Modello SenseVoiceSmall open source per ASR in mandarino, cantonese, inglese, giapponese e coreano, identificazione della lingua, riconoscimento delle emozioni e rilevamento di eventi audio.
Piattaforma open source per l’inferenza di modelli linguistici, visivi, di embedding, reranking, immagini, audio e video. Distribuisci più motori su hardware eterogeneo, da un laptop a un cluster distribuito. Fornisci modelli tramite API compatibili con OpenAI.
Pre-release di ODS V3: test pubblici e perfezionamenti in vista del lancio ufficiale della V3. Trasforma il tuo PC, Mac o computer Linux in un server IA privato.
Cerca sul tuo computer in base al contenuto dei tuoi file: foto, PDF, documenti, registrazioni, video e codice. Funziona direttamente sul dispositivo su Mac, Windows e Linux ed è basato su EmbeddingGemma 2 di Google DeepMind.
LLM all'avanguardia per la conversione di domande in linguaggio naturale in query SQL
Una libreria C#/.NET per eseguire in modo efficiente LLM (🦙LLaMA/LLaVA) sul tuo dispositivo locale.
Atomic Agent è un agente di IA local-first. Esegue modelli open-weight sul tuo computer tramite llama.cpp.
Hai raggiunto il limite di utilizzo di Claude Code? Continua gratis e offline con un modello locale: Qwen 3.8, Gemma 4 e Qwen 4 dal giorno del lancio. Funziona su Mac con Apple Silicon (MLX), Linux e Windows (llama.cpp), senza chiave API. Il tuo codice resta sul tuo dispositivo.
Il coltellino svizzero dell'IA offline. Chatta, guarda, parla e genera immagini sul tuo telefono o Mac: LLM GGUF, visione, sintesi vocale Whisper, Stable Diffusion, chiamate a strumenti e server di rete locale. Funziona sulla tua CPU, GPU o NPU. Nessun account, nessuna chiave API, nessun dato lascia il tuo dispositivo.
Piattaforma open‑source di competenze per telecamere AI, NVR AI e sorveglianza CCTV. Analisi video VLM locale con Qwen, DeepSeek, SmolVLM, LLaVA, YOLO26. Agente di sicurezza di telecamere alimentato da LLM — osserva, comprende, ricorda e protegge la tua casa tramite Telegram, Discord o Slack. Competenze AI plug‑and‑play. OpenAI, Google, Anthropic o AI locale. Funziona su Mac Mini e AI PC.
Note private per le riunioni con l'IA che restano sul tuo computer. Nessun bot per le riunioni. Gratis e open source per Mac, Windows e Linux. Un'alternativa a Granola, Otter e Fireflies.
Maid è un’applicazione gratuita e open source per interfacciarsi con i modelli llama.cpp localmente e con i modelli Anthropic, DeepSeek, Ollama, Mistral e OpenAI in remoto.
Un framework Python per chiamate a strumenti LLM self-hosted e flussi di lavoro agentici a più fasi
Esegui modelli AI localmente sulla tua macchina con binding Node.js per llama.cpp. Applica uno schema JSON all'output del modello a livello di generazione.
GPU NVIDIA multiple o Apple Silicon per l'inferenza di Large Language Model?
L’orchestratore di micro-agenti che monitora qualsiasi cosa per te. Funziona interamente in locale. Open source.
Questo corso è progettato per guidare i principianti attraverso l'emozionante mondo dell'Edge AI, coprendo concetti fondamentali, modelli popolari, tecniche di inferenza, applicazioni specifiche per dispositivo, ottimizzazione del modello e lo sviluppo di agenti intelligenti Edge AI.
Modelli decisionali aperti da 0,8B a 27B: una probabilità calibrata per ogni opzione in un solo passaggio e un breve ragionamento solo in caso di incertezza. Motore per vLLM, llama.cpp e MLX.
Rappresenta il tuo corpo con i dati. Un unico standard, tutte le fonti, un quadro completo di te: una cartella sanitaria self-hosted basata su referti di laboratorio, dati dei dispositivi indossabili e informazioni genetiche, con ogni valore riconducibile alla propria fonte e un server MCP integrato. Avviala con Docker e una chiave LLM oppure mantieni tutti i modelli in locale con llama.cpp.
Modelli di riconoscimento vocale Fun-ASR, con supporto nativo per Hugging Face Transformers per Fun-ASR-Nano e percorsi di distribuzione separati per FunASR, vLLM e llama.cpp.
Server API compatibile con Jev per modelli decisionali aperti. Ollama per modelli decisionali: scarica ed esegui localmente 29 famiglie di modelli (Laya, pplx-decider, Clef, Winnow, coba...) oppure ospitali autonomamente dietro /v1/systemone. L'SDK TypeSafe funziona senza modifiche: imposta l'URL di base e scegli un modello aperto. CLI, app desktop, Docker, server MCP e benchmark pubblico.
Inferenza su CPU senza GPU per modelli MoE da 30B a 284B (Qwen3.8 176.5B certificato con cache fredda in Cgroup v2 a 28,26/48,35 GiB, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.
Traduttore di schermo in tempo reale per Android, open source e senza root, adatto a giochi, visual novel e manga. Supporta OCR su dispositivo e cloud, LLM offline, più servizi di traduzione, traduzioni su schermo e sintesi vocale (TTS).
Accelera host con grande memoria e calcolo sparso utilizzando schede di calcolo denso, tra cui AI Max+ 395, M3 512G e DGX Spark.
Esegui modelli più grandi della tua RAM o VRAM caricando in streaming gli esperti MoE da un SSD. Basato su llama.cpp.
Il tuo iPhone aiuta il tuo Mac a eseguire un modello da 27B: lettura più rapida dei prompt e più contesto tramite un cavo USB-C
Cotabby è il completamento automatico locale basato sull'IA per l'intero Mac. Open source. Sul dispositivo. Ovunque tu scriva.
Massimizzare la capacità di eseguire diversi LLM sui dispositivi più piccoli possibili
Costruisci ed esegui agenti AI utilizzando Docker Compose. Una raccolta di esempi pronti all'uso per l'orchestrazione di LLM open-source, strumenti e runtime di agenti.
Esegui modelli MoE più grandi della tua RAM. MoE di frontiera su smartphone, laptop o dispositivo edge. Senza perdita, con llama.cpp standard. Un ottimizzatore adattivo in streaming. Qualsiasi hardware, sistema operativo, modello e quantizzazione, tramite un server locale compatibile con OpenAI.
App di avvio AI PC per la creazione di immagini AI, la stilizzazione di immagini e il chatbot su un PC basato su GPU Intel® Arc™.
Monitor di sistema Apple Silicon senza sudo (interfaccia grafica nativa SwiftUI) con tracciamento ANE / Media Engine / larghezza di banda della memoria
Riscrive le bozze dell’IA perché sembrino scritte da una persona: funziona in locale e mantiene i fatti
Un agente di programmazione minimalista e nativo del terminale, scritto in C.
Un sostituto drop-in compatibile con API per il framework Foundation Models di Apple con supporto per provider di modelli linguistici personalizzati.
jevos: un'alternativa open source a Jev e Microsoft-Decision-1. Decisioni sì/no, scelte e punteggi con probabilità, eseguiti sulla CPU del tuo laptop.
Un CLI per stimare i requisiti di memoria di inferenza per i modelli Hugging Face, scritto in Python.
Domande frequenti
Qual è il repository #llama-cpp più popolare su GitHub?
Il progetto open source #llama-cpp più alto in classifica su GitHub è QwenLM/Qwen3, con 27,753 stelle. Qwen3 è la serie di modelli linguistici di grandi dimensioni sviluppata dal team Qwen di Alibaba Cloud.
Quali linguaggi di programmazione sono più utilizzati nei repository #llama-cpp?
Tra i progetti #llama-cpp più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, TypeScript, C++, Swift.
Come viene calcolata la classifica dei repository #llama-cpp?
Monitoriamo 69 repository open source attivi contrassegnati con #llama-cpp (500+ stelle), per un totale di 212,421 stelle e una media di 3,078 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.