#qwen Repositories
Insgesamt 145 Repositories
Blitzschnelle Inferenz-Engine für Apple Silicon, optimiert für Qwen und Nemotron. Kompatibel mit den APIs von OpenAI und Anthropic. Entwickelt vom Team von nace.ai
Stellen Sie jedes KI-Modell, jeden Agenten, jede Datenbank, jedes RAG und jede Pipeline innerhalb von Minuten lokal oder remote bereit
♾️ Private Agent-Flotte mit spezifischem Coding. Jeder Agent erhält seinen eigenen GPU-beschleunigten Desktop. Führen Sie Claude, Codex, Gemini und Open Models auf einem vollständigen privaten AI-Stack aus ♾️
🤖✨ChatMLX ist eine moderne, quelloffene, leistungsstarke Chat-Anwendung für MacOS, die auf großen Sprachmodellen basiert.
Verbalized Sampling, eine trainingsfreie Prompting-Strategie zur Minderung des Mode Collapse in LLMs durch Anfordern von Antworten mit Wahrscheinlichkeiten. Erreicht eine 2-3-fache Steigerung der Diversität bei gleichbleibender Qualität. Modellunabhängiges Framework mit CLI/API für kreatives Schreiben, synthetische Datengenerierung und Dialogsimulation.
Ein KI-Tool mit mehreren Agenten, das Forschungsarbeiten in zitierte Bewertungen zur Kommerzialisierung und zum Technologietransfer umwandelt und dabei TRL, Patentlandschaft, Märkte und Risiken abdeckt. Entwickelt mit CrewAI + FastAPI und mit einem reproduzierbaren Benchmark.
FlashRT ist eine leistungsstarke Echtzeit-Inferenz-Engine für KI-Workloads mit kleinen Batches und hoher Latenzempfindlichkeit. Die wichtigste Integration ist die produktive VLA-Steuerung für Pi0, Pi0.5, GROOT N1.6 und Pi0-FAST. Unterstützt auch LLMs, z. B. qwen3.6-27B.
Open-Modelle der Spitzenklasse auf einer kostenlosen Kaggle-TPU v5e-8: GLM-5.3-Flash 320B MoE (~165 Tok/s, mit unserer eigenen JAX-Engine) und Qwen3.8-27B bf16 (~130 Tok/s), 262k Kontext und Präfix-Caching. Funktioniert mit Claude Code, Codex, opencode und pi.
🚀🚀🚀Eine Sammlung einiger beeindruckender öffentlicher Projekte zu Large Language Models (LLM), Vision Language Models (VLM), Vision Language Action (VLA), AI Generated Content (AIGC), den dazugehörigen Datensätzen und Anwendungen.
Dingo: Ein umfassendes Tool zur Bewertung der Qualität von KI-Daten, -Modellen und -Anwendungen
MimikaStudio - Eine lokal-first Anwendung für macOS (Apple Silicon) + Agentic MCP-Unterstützung
Reine Rust + CUDA LLM-Inferenz-Engine — kein PyTorch, OpenAI-kompatibel, bedient Qwen3 bis Kimi-K2
Selbst gehostetes, API-orientiertes KI-Callcenter: Die KI spricht, der Code steuert den Anruf. KI-Agenten nehmen jeden Anruf entgegen; Menschen können übernehmen, ohne dass die Verbindung abbricht. Läuft mit FreeSWITCH, Ihrem SIP-Trunk und einem Echtzeitmodell (OpenAI, Grok, Qwen, Doubao oder einem beliebigen kompatiblen Gateway).
KI-Agent-Team-Gerüst für Claude Code — 19 Rollen arbeiten durch Stufentore zusammen, durchgesetzt durch obligatorische Fähigkeiten + blockierende Hooks + DoD-Checklisten. Spezifikationsgesteuerte Änderungsordner, SIT-geprüfte Code-Reviews, 4-schichtige Hook-Verteidigung, Multi-LLM (DeepSeek/Doubao/Qwen/MiniMax). Tracks: Web · WeChat-Mini-Programm · Apple-nativ (macOS/iOS). 中文/EN README.
🐋MindChat (Mindspeech) – Großes psychologisches Modell: Plaudern über den Lebensweg, dem Sturm mit einem Lächeln begegnen
Eine native .NET-Inferenz-Engine für große Sprachmodelle (LLMs) und eine Agenten-Laufzeitumgebung für GGUF-Modelle. TensorSharp bietet eine Konsolenanwendung, eine webbasierte Chatbot-Oberfläche, eine iPhone-App sowie mit Ollama/OpenAI kompatible HTTP-APIs für den programmgesteuerten Zugriff. Es unterstützt Windows, macOS, iOS und Linux mit vollständiger GPU-Unterstützung.
Persönliches Projekt: MPP-Qwen14B & MPP-Qwen-Next (Multimodale Pipeline-Parallelität basierend auf Qwen-LM). Unterstützt [video/image/multi-image] {sft/conversations}. Lassen Sie nicht zu, dass Armut Ihre Vorstellungskraft einschränkt! Trainieren Sie Ihr eigenes 8B/14B LLaVA-training-ähnliches MLLM auf RTX3090/4090 24GB.
Führen Sie ein 105-GB-KI-Modell auf einem Mac aus, auf dem es nicht vollständig Platz findet. Qwen3.8-Flash-Next in 4-Bit, gestreamt von einer SSD auf Apple-Silicon-Macs mit 16–64 GB Arbeitsspeicher. Vollständig nativ mit Swift, MLX und Metal. Offline, ohne Python. CLI, Swift-Bibliothek sowie Ollama-/OpenAI-/Anthropic-APIs. Funktioniert mit Claude Code und Codex.
Swiftlet ist eine Swift- und Metal-Laufzeitumgebung, die große Qwen Mixture-of-Experts-Modelle lokal auf Apple-Geräten ausführt, indem Experten-Gewichte vom Speicher gestreamt werden, wodurch 35B- und 80B-Modelle mit geringem RAM-Verbrauch ausgeführt werden können, auch auf dem iPhone.
Awesome-LLM-Eval: eine kuratierte Liste von Tools, Datensätzen/Benchmarks, Demos, Bestenlisten, Papern, Docs und Modellen, hauptsächlich für die Evaluierung von LLMs. Eine kuratierte Liste von Tools, Benchmark/Daten, Demos, Ranglisten und großen Modellen, die sich hauptsächlich an die Bewertung von Basis-Large Models richtet und darauf abzielt, die technologischen Grenzen der generativen KI zu erforschen.
Qoder-Multi-Account-Reverse-Proxy-Gateway für den nationalen und internationalen Zugriff; zentrale Qoder-Gateway-Plattform mit zwei Regionen und mehreren Konten, kompatibel mit OpenAI — COSY-signierte Inferenz, stabile Geräte-Fingerprints zur Vermeidung von Risikokontrollen, OAuth-Geräteautorisierung für die Anmeldung ohne Client, täglicher Check-in und Pro-Vorteile, Hintergrund-Zeitplaner und Web-Monitoring-Dashboard. Unterstützt Codex / Claude Code und standardmäßige OpenAI-Clients.
Eine kuratierte Liste großartiger Tools, Erweiterungen und Ressourcen für Gemini CLI.
Willkommen im offiziellen Repository von SINQ! Eine neuartige, schnelle und hochwertige Quantisierungsmethode, die jedes Large Language Model verkleinert, während die Genauigkeit erhalten bleibt [ICML 2026]
ComfyUI DyPE+SEGA, ermöglicht artefaktfreie 4K+-Bildgenerierung: Z-Image, Qwen, Flux, Krea2
Einfaches und effizientes Finetuning von LLMs. (Unterstützt LLama, LLama2, LLama3, Qwen, Baichuan, GLM, Falcon) Effizientes Quantisierungstraining und -bereitstellung großer Modelle.
🔴 SEHR GROSSE KI-TOOL-LISTE! 🔴 Kuratierte Liste von KI-Tools - Aktualisiert 2026
Führen Sie Qwen3-TTS Text-to-Speech lokal auf dem Mac (M1/M2/M3/M4) aus. Stimmenklonen, Stimmendesign, benutzerdefinierte Stimmen. 100 % offline mit MLX.
Eine für die Sekundärentwicklung bereitstehende Web-MVP-Prototyp-Vorlage für Chatbots, basierend auf gängigen Technologien wie Vue 3, Vite 8, TypeScript, Naive UI, Pinia (v3) und UnoCSS. 🧤 Einfache Integration von LLM-APIs, Single-Turn-KI-Dialogmodus mit unabhängigen Antworten (kein Kontext erforderlich), SSE-Streaming-Ausgabe mit Schreibmaschineneffekt sowie integriertem markdown-it mit Mermaid/KaTex/LaTex-Formel-Vorschau. Unterstützt iFlytek Spark, Zhipu, SiliconFlow und DeepSeek V4/V3/R1 Deep-Reasoning-Modellvorschauen, kompatibel mit <think>-Tags, inklusive destillierter Skills. 💼 Einfach anzupassen und schnell für Chat-basierte LLM-Produkte zu implementieren (Beispiel-Screenshots enthalten).
Schulrekrutierung, Herbstrekrutierung, Frühlingsrekrutierung, tolle Praktika-Projekte, führen Sie von Null an bei der Umsetzung eines Large-Model-Inferenz-Frameworks, das Llama2/3 und Qwen2.5 unterstützt.
[ICLR 2026] Ein Framework für LLM-basiertes verstärktes Training und Inferenz mit mehreren Agenten
Statische, minimalistische, einzelne Charge, nur CUDA, qwen3-0.6B Mini-Inferenz-Engine
CLI-zentrierte Orchestrierung für KI-Coding-Agenten: Führen Sie ausgewählte Agenten und Modelle parallel aus, vergleichen Sie Rohantworten und koordinieren Sie Review- oder Implementierungs-Workflows.
Xolotl: Führe DeepSeek-V4.1-Flash mit allen 552B Parametern als lokalen Coding-Agent auf einem einzigen Gaming-PC aus (RTX 4090 + 110 GB RAM): ca. 33 Tok/s im Agentenmodus, ca. 41 im Schnellmodus, 512K Kontext. Dazu Inkling-2-Mini (Thinking Machines, eigene Engine + MTP-Entwurfsmodul), GLM-5.3-Flash, Qwen3.8 und LFM3-Omni. MoE-Experten werden stufenweise über VRAM, RAM und NVMe verteilt (Xolotl Direct). OpenAI- und Anthropic-API.
Gezhi AI · Gezhi Sheets | Lassen Sie Tabellen verstehen, was Sie meinen. Ein lokaler KI-Tabellenassistent mit Unterstützung für GLM, Kimi, Doubao, DeepSeek und Qwen.
Open Model Engine (OME) — Kubernetes-Operator für das Bereitstellen von LLM-Diensten, die GPU-Planung und das Management des Modelllebenszyklus. Unterstützt SGLang, vLLM, TensorRT-LLM und Triton
Offizielle Model Studio CLI (Alibaba Cloud Bailian CLI), entwickelt für KI-Agent-Frameworks und mit Funktionen für Modelle, Suche, Multimodalität und Workflows in Form strukturierter Tool-Aufrufe.
Web-/Desktop-Oberfläche für Gemini CLI/Qwen Code. Projekte verwalten, zwischen Tools wechseln, vergangene Unterhaltungen durchsuchen und MCP-Server verwalten – alles über eine einzige mehrsprachige Oberfläche, lokal oder remote.
Vollständig unzensierte, fähigkeitserweiterte Ablation von Qwen3.6-27B. NVFP4 + z-lab DFlash Speculative Decoding (n=12) im einheitlichen Container ghcr.io/aeon-7/aeon-vllm-ultimate:latest, optimiert für die Akzeptanz von Entwürfen bei langen Kontexten auf DGX Spark. 6 HF-Varianten (BF16/NVFP4/MTP/MTP-XS), docker-compose und QuickStart.
Führen Sie lokale LLMs wie Gemma, Qwen und LLaMA auf Android aus, um mit LiteRT und ONNX Runtime offline, privat und in Echtzeit zu chatten und Fragen zu beantworten.