#qwen Repository
145 repository in totale
Motore di inferenza velocissimo per Apple Silicon, ottimizzato per Qwen e Nemotron. Compatibile con le API di OpenAI e Anthropic. Realizzato dal team di nace.ai
Distribuisci qualsiasi modello AI, agente, database, RAG e pipeline localmente o da remoto in pochi minuti
♾️ Flotta di Agenti Privati con Codifica Specifica. Ogni agente ottiene il proprio desktop accelerato da GPU. Esegui Claude, Codex, Gemini e modelli open su uno Stack AI Privato Completo ♾️
🤖✨ChatMLX è un'applicazione di chat moderna, open-source e ad alte prestazioni per MacOS basata su modelli linguistici di grandi dimensioni.
Verbalized Sampling, una strategia di prompting senza addestramento per mitigare il collasso di modalità negli LLM richiedendo risposte con probabilità. Ottiene un miglioramento della diversità di 2-3 volte mantenendo la qualità. Framework agnostico rispetto al modello con CLI/API per la scrittura creativa, la generazione di dati sintetici e la simulazione di dialoghi.
Uno strumento di IA multi-agente che trasforma articoli di ricerca in valutazioni documentate della commercializzazione e del trasferimento tecnologico, comprendenti TRL, panorama brevettuale, mercati e rischi. Realizzato con CrewAI + FastAPI e corredato di un benchmark riproducibile.
FlashRT è un motore di inferenza in tempo reale ad alte prestazioni per carichi di lavoro IA a piccoli batch sensibili alla latenza. L'integrazione di punta è il controllo VLA di produzione per Pi0, Pi0.5, GROOT N1.6 e Pi0-FAST. Supporta anche LLM, ad esempio qwen3.6-27B.
Modelli open di livello frontier su una TPU v5e-8 gratuita di Kaggle: GLM-5.3-Flash 320B MoE (~165 token/s, con il nostro motore JAX) e Qwen3.8-27B bf16 (~130 token/s), contesto da 262k e caching dei prefissi. Funziona con Claude Code, Codex, opencode e pi.
🚀🚀🚀Una raccolta di alcuni fantastici progetti pubblici su Large Language Model (LLM), Vision Language Model (VLM), Vision Language Action (VLA), AI Generated Content (AIGC), i relativi Dataset e Applicazioni.
Dingo: Uno strumento completo per la valutazione della qualità di dati, modelli e applicazioni di IA
MimikaStudio - Un'applicazione local-first per macOS (Apple Silicon) + Supporto Agentic MCP
Motore di inferenza LLM puro Rust + CUDA — nessun PyTorch, compatibile con OpenAI, serve da Qwen3 a Kimi-K2
Centro chiamate AI self-hosted e API-first: l’AI parla, il codice controlla la chiamata. Gli agenti AI rispondono a ogni chiamata; una persona può subentrare senza interromperla. Funziona con FreeSWITCH, il tuo trunk SIP e un modello in tempo reale (OpenAI, Grok, Qwen, Doubao o qualsiasi gateway compatibile).
Impalcatura del team di agenti AI per Claude Code — 19 ruoli collaborano attraverso stage gate, rafforzati da competenze obbligatorie + hook bloccanti + checklist DoD. Cartelle di modifica guidate da specifiche, revisioni del codice controllate da SIT, difesa a 4 livelli di hook, multi-LLM (DeepSeek/Doubao/Qwen/MiniMax). Tracce: Web · Mini Program WeChat · Nativo Apple (macOS/iOS). README in 中文/EN.
🐋MindChat (Conversazione) – Grande modello psicologico: Chiacchierata sul cammino della vita, affrontando le avversità con un sorriso
Un motore nativo di inferenza per modelli linguistici di grandi dimensioni (LLM) .NET e un runtime per agenti per modelli GGUF. TensorSharp offre un’applicazione da console, un’interfaccia chatbot basata sul Web, un’app per iPhone e API HTTP compatibili con Ollama/OpenAI per l’accesso programmatico. Supporta Windows, macOS, iOS e Linux con pieno supporto GPU.
Progetto Personale: MPP-Qwen14B & MPP-Qwen-Next (Multimodal Pipeline Parallelism basato su Qwen-LM). Supporta [video/image/multi-image] {sft/conversations}. Non lasciare che la povertà limiti la tua immaginazione! Addestra il tuo MLLM in stile LLaVA-training da 8B/14B su RTX3090/4090 24GB.
Esegui un modello IA da 105 GB su un Mac che non può contenerlo. Qwen3.8-Flash-Next a 4 bit, trasmesso in streaming da SSD sui Mac Apple Silicon con 16–64 GB di memoria. Completamente nativo in Swift, MLX e Metal. Offline, senza Python. CLI, libreria Swift e API Ollama/OpenAI/Anthropic. Compatibile con Claude Code e Codex.
Swiftlet è un runtime Swift e Metal che esegue modelli Qwen Mixture-of-Experts di grandi dimensioni localmente su dispositivi Apple tramite lo streaming dei pesi degli esperti dallo storage, consentendo ai modelli da 35B e 80B di funzionare con poca RAM, anche su iPhone.
Awesome-LLM-Eval: un elenco curato di strumenti, set di dati/benchmark, demo, classifiche, articoli, documenti e modelli, principalmente per la valutazione dei LLM. Un elenco curato di strumenti, benchmark/dati, demo, classifiche e modelli di grandi dimensioni, principalmente focalizzato sulla valutazione dei modelli di base di grandi dimensioni, con l'obiettivo di esplorare i confini tecnologici dell'IA generativa.
Gateway proxy inverso Qoder multi-account per l’accesso nazionale e internazionale; hub di gateway Qoder compatibile con OpenAI, multi-account e a doppia regione — inferenza firmata COSY, impronte digitali del dispositivo stabili per evitare i controlli di rischio, autorizzazione del dispositivo OAuth per accedere senza client, check-in giornaliero e vantaggi Pro, scheduler in background e dashboard di monitoraggio Web. Supporta Codex / Claude Code e i client OpenAI standard.
Una raccolta curata di fantastici strumenti, estensioni e risorse per Gemini CLI.
Benvenuto nel repository ufficiale di SINQ! Un metodo di quantizzazione innovativo, veloce e di alta qualità progettato per rendere qualsiasi Large Language Model più piccolo mantenendo la precisione [ICML 2026]
ComfyUI DyPE+SEGA, che consente la generazione di immagini 4K+ prive di artefatti: Z-Image, Qwen, Flux, Krea2
Fine-tuning facile ed efficiente di LLM. (Supporta LLama, LLama2, LLama3, Qwen, Baichuan, GLM, Falcon) Addestramento e implementazione quantizzati efficienti di grandi modelli.
🔴 LISTA MOLTO GRANDE DI STRUMENTI AI! 🔴 Elenco curato di strumenti AI - Aggiornato 2026
Esegui Qwen3-TTS text-to-speech localmente su Mac (M1/M2/M3/M4). Clonazione vocale, design della voce, voci personalizzate. 100% offline utilizzando MLX.
Un modello di prototipo Web MVP per Chat Bot a turno singolo pronto per lo sviluppo secondario, costruito con tecnologie mainstream come Vue 3, Vite 8, TypeScript, Naive UI, Pinia (v3) e UnoCSS. 🧤 Integrazione semplice di API per modelli linguistici di grandi dimensioni, modalità di dialogo AI a turno singolo con risposte indipendenti (nessun contesto richiesto), output in streaming con effetto macchina da scrivere SSE e integrazione di markdown-it con anteprima delle formule Mermaid/KaTex/LaTex. Supporta le anteprime dei modelli di ragionamento profondo iFlytek Spark, Zhipu, SiliconFlow e DeepSeek V4/V3/R1, compatibile con i tag <think> e include competenze distillate. 💼 Facile da personalizzare e costruire rapidamente prodotti basati su LLM di tipo Chat (screenshot di esempio inclusi).
Reclutamento scolastico, autunnale, primaverile, ottimi progetti di stage, ti guida a realizzare da zero un framework di inferenza per grandi modelli che supporta Llama2/3 e Qwen2.5.
[ICLR 2026] Un framework per l'addestramento con rinforzo e l'inferenza multi-agente basati su LLM
Motore di inferenza mini qwen3-0.6B statico, minimalista, batch singolo, solo CUDA
Orchestrazione incentrata su CLI per agenti di codifica IA: esegui agenti e modelli selezionati in parallelo, confronta le risposte grezze e coordina i flussi di lavoro di revisione o implementazione.
Xolotl: esegui DeepSeek-V4.1-Flash, con tutti i 552B parametri, come agente di programmazione locale su un singolo PC da gaming (RTX 4090 + 110 GB di RAM): ~33 tok/s come agente, ~41 in modalità veloce, contesto da 512K. Inoltre, Inkling-2-Mini (Thinking Machines, motore proprietario + generatore di bozze MTP), GLM-5.3-Flash, Qwen3.8 e LFM3-Omni. Esperti MoE organizzati a livelli tra VRAM, RAM e NVMe (Xolotl Direct). API OpenAI + Anthropic.
Gezhi AI · Gezhi Sheets | Fai capire ai fogli di calcolo ciò che vuoi. Un assistente locale per fogli di calcolo basato sull’IA, compatibile con GLM, Kimi, Doubao, DeepSeek e Qwen.
Open Model Engine (OME) — operatore Kubernetes per il serving degli LLM, la pianificazione delle GPU e la gestione del ciclo di vita dei modelli. Compatibile con SGLang, vLLM, TensorRT-LLM e Triton
CLI ufficiale di Model Studio (CLI di Alibaba Cloud Bailian) progettata per i framework di agenti IA, che espone funzionalità di modelli, ricerca, multimodalità e flussi di lavoro tramite chiamate a strumenti strutturate.
Interfaccia web/desktop per Gemini CLI/Qwen Code. Gestisci i progetti, passa da uno strumento all’altro, cerca nelle conversazioni precedenti e amministra i server MCP, tutto da un’unica interfaccia multilingue, in locale o da remoto.
Ablazione completamente senza censura e con capacità potenziate di Qwen3.6-27B. Decodifica speculativa NVFP4 + z-lab DFlash (n=12) nel container unificato ghcr.io/aeon-7/aeon-vllm-ultimate:latest, ottimizzata per l’accettazione delle proposte in contesti lunghi su DGX Spark. 6 varianti HF (BF16/NVFP4/MTP/MTP-XS), docker-compose e guida QuickStart.
Esegui LLM locali come Gemma, Qwen e LLaMA su Android per chat e risposte alle domande in tempo reale, offline e private, con LiteRT e ONNX Runtime.