#local-inference Repository
Scopri 19 repository GitHub open source attivi contrassegnati con #local-inference, che raccolgono un totale di 116,603 stelle (con una media di 6,137 stelle per progetto). Il progetto leader di questo argomento è oobabooga/textgen, con 47,736 stelle.
19 repository in totale
Applicazione desktop open-source per LLM locali. Testo, visione, chiamata di strumenti, API compatibile con OpenAI/Anthropic. 100% privata.
Servizio di modelli linguistici di grandi dimensioni ad alta velocità per l'implementazione locale
Mano-P: Agente GUI-VLA open-source per dispositivi edge. #1 su OSWorld (specializzato, 58.2%). Esegue localmente su Apple M4 Mac mini/MacBook — nessun dato lascia il tuo dispositivo. Mano-P è un progetto GUI-VLA open-source che supporta l'esecuzione locale su Mac mini/MacBook o tramite stick di calcolo, realizzando operazioni di automazione GUI cross-platform guidate puramente dalla visione. I dati vengono elaborati completamente in locale, supportando la pianificazione e l'esecuzione di compiti complessi a più passaggi.
chattare con modelli linguistici di grandi dimensioni privati e locali
CORTEX RAG è un assistente aziendale di recupero e conoscenza che aiuta i team a trovare risposte accurate dai dati aziendali con citazioni, recupero sensibile alle autorizzazioni e distribuzione rapida.
Server API compatibile con Jev per modelli decisionali aperti. Ollama per modelli decisionali: scarica ed esegui localmente 29 famiglie di modelli (Laya, pplx-decider, Clef, Winnow, coba...) oppure ospitali autonomamente dietro /v1/systemone. L'SDK TypeSafe funziona senza modifiche: imposta l'URL di base e scegli un modello aperto. CLI, app desktop, Docker, server MCP e benchmark pubblico.
Modelli locali per Graphrag di Microsoft utilizzando ollama (llama3, mistral, gemma2 phi3) – Estrazione LLM e Embedding
Vai con la tua intelligenza! Usa Go per l’inferenza locale con accelerazione hardware tramite llama.cpp, whisper.cpp e stable-diffusion.cpp, integrati direttamente nelle tue applicazioni Go. Kronk offre un’API di alto livello e un server di modelli pronto per la produzione.
Foca maculata — Phocinae-Largha-150M-v1: un modello bilingue per le decisioni da 144,3 M. Modello piccolo. Grandi decisioni. Piccola foca, grandi decisioni.
Strumenti, workflow di ComfyUI e configurazioni di benchmark da un sistema di inferenza locale con 4 RTX 3090
Domande frequenti
Qual è il repository #local-inference più popolare su GitHub?
Il progetto open source #local-inference più alto in classifica su GitHub è oobabooga/textgen, con 47,736 stelle. Applicazione desktop open-source per LLM locali. Testo, visione, chiamata di strumenti, API compatibile con OpenAI/Anthropic. 100% privata.
Quali linguaggi di programmazione sono più utilizzati nei repository #local-inference?
Tra i progetti #local-inference più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, C++, TypeScript, Swift.
Come viene calcolata la classifica dei repository #local-inference?
Monitoriamo 19 repository open source attivi contrassegnati con #local-inference (500+ stelle), per un totale di 116,603 stelle e una media di 6,137 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.