#qwen Репозитории
Всего репозиториев: 145
Сверхбыстрый движок инференса для Apple Silicon, оптимизированный для Qwen и Nemotron. Совместим с API OpenAI и Anthropic. Создан командой nace.ai.
Разверните любую модель ИИ, агент, базу данных, RAG и конвейер локально или удаленно за считанные минуты
♾️ Приватный Флот Агентов с Специфической Кодировкой. Каждый агент получает свой собственный GPU-ускоренный рабочий стол. Запускайте Claude, Codex, Gemini и открытые модели на полном приватном AI-стеки ♾️
🤖✨ChatMLX — это современное, высокопроизводительное чат-приложение с открытым исходным кодом для MacOS, основанное на больших языковых моделях.
Вербализованная выборка (Verbalized Sampling) — это стратегия подсказок без обучения для смягчения проблемы коллапса мод в LLM путем запроса ответов с вероятностями. Обеспечивает улучшение разнообразия в 2-3 раза при сохранении качества. Модельно-независимый фреймворк с CLI/API для креативного письма, генерации синтетических данных и симуляции диалогов.
Мультиагентный ИИ-инструмент, преобразующий научные статьи в снабжённые ссылками оценки коммерциализации и передачи технологий, охватывающие УГТ, патентный ландшафт, рынки и риски. Создан на базе CrewAI + FastAPI; включает воспроизводимый бенчмарк.
FlashRT — это высокопроизводительный движок для инференса в реальном времени, предназначенный для небольших пакетов данных и задач ИИ, чувствительных к задержкам. Флагманская интеграция включает промышленное управление VLA для Pi0, Pi0.5, GROOT N1.6 и Pi0-FAST. Также поддерживаются LLM, например, qwen3.6-27B.
Открытые модели передового уровня на бесплатной TPU Kaggle v5e-8: GLM-5.3-Flash 320B MoE (~165 токенов/с, на нашем собственном движке JAX) и Qwen3.8-27B bf16 (~130 токенов/с), контекст 262k и кэширование префиксов. Работает с Claude Code, Codex, opencode и pi.
🚀🚀🚀Сборник некоторых потрясающих общедоступных проектов по большим языковым моделям (LLM), моделям зрения и языка (VLM), действиям зрения и языка (VLA), контенту, созданному ИИ (AIGC), а также связанным наборам данных и приложениям.
Dingo: Комплексный инструмент для оценки качества данных, моделей и приложений ИИ
MimikaStudio - Локальное-first приложение для macOS (Apple Silicon) + Поддержка Agentic MCP
Чистый движок вывода LLM на Rust + CUDA — без PyTorch, совместим с OpenAI, обслуживает от Qwen3 до Kimi-K2
Самостоятельно размещаемый AI-кол-центр с приоритетом API: AI общается, код управляет звонком. AI-агенты отвечают на каждый звонок; человек может подключиться, не прерывая его. Работает на FreeSWITCH с вашей SIP-транковой линией и моделью реального времени (OpenAI, Grok, Qwen, Doubao или любым совместимым шлюзом).
Каркас команды AI-агентов для Claude Code — 19 ролей сотрудничают через этапные шлюзы, обеспечиваемые обязательными навыками + блокирующими хуками + контрольными списками DoD. Папки изменений на основе спецификаций, проверки кода с аудитом SIT, 4-уровневая защита хуков, мульти-LLM (DeepSeek/Doubao/Qwen/MiniMax). Треки: Web · Мини-программа WeChat · Нативное Apple (macOS/iOS). README на 中文/EN.
🐋MindChat (Рассуждения) – Большая психологическая модель: Беседы о жизненном пути, встречая невзгоды с улыбкой
Нативный .NET-движок инференса больших языковых моделей (LLM) и среда выполнения агентов для моделей GGUF. TensorSharp предоставляет консольное приложение, веб-интерфейс чат-бота, приложение для iPhone, а также совместимые с Ollama/OpenAI HTTP API для программного доступа. Поддерживаются Windows, macOS, iOS и Linux с полноценной поддержкой GPU.
Личный проект: MPP-Qwen14B & MPP-Qwen-Next (Мультимодальный конвейерный параллелизм на основе Qwen-LM). Поддержка [video/image/multi-image] {sft/conversations}. Не позволяйте бедности ограничивать ваше воображение! Обучите свой собственный MLLM, похожий на LLaVA-training, 8B/14B на RTX3090/4090 24GB.
Запускайте ИИ-модель размером 105 ГБ на Mac, на котором она не помещается целиком. Qwen3.8-Flash-Next в 4-битном формате загружается потоком с SSD на компьютерах Mac с Apple Silicon и 16–64 ГБ памяти. Полностью нативная реализация на Swift, MLX и Metal. Работает офлайн, без Python. CLI, библиотека Swift и API Ollama/OpenAI/Anthropic. Совместима с Claude Code и Codex.
Swiftlet — это среда выполнения на Swift и Metal, которая запускает большие модели Qwen Mixture-of-Experts локально на устройствах Apple путем потоковой передачи весов экспертов из хранилища, что позволяет запускать модели 35B и 80B с малым объемом оперативной памяти, в том числе на iPhone.
Awesome-LLM-Eval: тщательно подобранный список инструментов, наборов данных/бенчмарков, демонстраций, таблиц лидеров, статей, документов и моделей, в основном для оценки LLM. Тщательно подобранный список инструментов, бенчмарков/данных, демонстраций, рейтингов и больших моделей, в основном ориентированный на оценку базовых больших моделей, с целью исследования технологических границ генеративного ИИ.
Мультиаккаунтный шлюз обратного прокси Qoder для внутреннего и международного доступа; центральный шлюз Qoder с поддержкой OpenAI, двумя регионами и несколькими аккаунтами — инференс с подписью COSY, стабильные отпечатки устройств для обхода риск-контроля, авторизация устройств OAuth для входа без клиентского приложения, ежедневные отметки и привилегии Pro, фоновый планировщик задач и веб-панель мониторинга. Поддерживает Codex / Claude Code и стандартные клиенты OpenAI.
Подборка отличных инструментов, расширений и ресурсов для Gemini CLI.
Добро пожаловать в официальный репозиторий SINQ! Новый, быстрый и высококачественный метод квантования, предназначенный для уменьшения любого Большой языковой модели при сохранении точности [ICML 2026]
ComfyUI DyPE+SEGA, обеспечивающий генерацию изображений 4K+ без артефактов: Z-Image, Qwen, Flux, Krea2
Простая и эффективная донастройка LLM. (Поддерживаются LLama, LLama2, LLama3, Qwen, Baichuan, GLM, Falcon) Эффективное обучение + развертывание больших моделей с квантованием.
🔴 ОЧЕНЬ БОЛЬШОЙ СПИСОК ИНСТРУМЕНТОВ ИИ! 🔴 Кураторский список инструментов ИИ - Обновлено 2026
Запускайте Qwen3-TTS (преобразование текста в речь) локально на Mac (M1/M2/M3/M4). Клонирование голоса, дизайн голоса, пользовательские голоса. 100% офлайн с использованием MLX.
Шаблон MVP веб-прототипа чат-бота для одноходового диалога, готовый к вторичной разработке. Построен на базе современных технологий: Vue 3, Vite 8, TypeScript, Naive UI, Pinia (v3), UnoCSS и др. 🧤 Простая интеграция API больших языковых моделей, режим диалога «вопрос-ответ» с независимыми ответами (без учета контекста), потоковый вывод SSE с эффектом печатной машинки, встроенный markdown-it с поддержкой предпросмотра формул Mermaid/KaTex/LaTex. Поддержка предпросмотра моделей глубокого рассуждения iFlytek Spark, Zhipu, SiliconFlow, Deepseek V4/V3/R1, совместимость с тегами <think>, включает дистиллированные навыки. 💼 Легко настраивается для быстрой сборки продуктов на базе LLM (примеры скриншотов прилагаются).
Школьный набор, осенний набор, весенний набор, отличные стажировки, поможем вам с нуля реализовать фреймворк для инференса больших моделей с поддержкой Llama2/3 и Qwen2.5.
[ICLR 2026] Фреймворк для обучения с подкреплением и вывода на основе LLM в системах с несколькими агентами
Статический минималистичный однопакетный движок вывода только для CUDA qwen3-0.6B
Оркестрация на базе CLI для ИИ-агентов кодирования: запускайте выбранные агенты и модели параллельно, сравнивайте исходные ответы и координируйте рабочие процессы проверки или реализации.
Xolotl: запускайте DeepSeek-V4.1-Flash со всеми 552B параметров как локального агента для программирования на одном игровом ПК (RTX 4090 + 110 ГБ ОЗУ): около 33 токенов/с в режиме агента, около 41 в быстром режиме, контекст 512K. Также доступны Inkling-2-Mini (Thinking Machines, собственный движок + модуль создания черновиков MTP), GLM-5.3-Flash, Qwen3.8 и LFM3-Omni. Эксперты MoE распределяются по уровням между VRAM, ОЗУ и NVMe (Xolotl Direct). API OpenAI + Anthropic.
Gezhi AI · Gezhi Sheets | Пусть таблицы понимают вас. Локальный ИИ-помощник для работы с таблицами с поддержкой GLM, Kimi, Doubao, DeepSeek и Qwen.
Open Model Engine (OME) — оператор Kubernetes для предоставления LLM-сервисов, планирования использования GPU и управления жизненным циклом моделей. Поддерживает SGLang, vLLM, TensorRT-LLM и Triton
Официальный Model Studio CLI (Alibaba Cloud Bailian CLI), созданный для фреймворков ИИ-агентов и предоставляющий возможности работы с моделями, поиска, мультимодальности и рабочих процессов в виде структурированных вызовов инструментов.
Веб-/настольный интерфейс для Gemini CLI/Qwen Code. Управляйте проектами, переключайтесь между инструментами, ищите в прошлых разговорах и управляйте MCP-серверами — всё в одном многоязычном интерфейсе, локально или удалённо.
Полностью нецензурированная версия Qwen3.6-27B с расширенными возможностями, полученная методом abliteration. Спекулятивное декодирование NVFP4 + z-lab DFlash (n=12) в унифицированном контейнере ghcr.io/aeon-7/aeon-vllm-ultimate:latest, настроенное на высокую приемку черновиков при длинном контексте на DGX Spark. 6 вариантов HF (BF16/NVFP4/MTP/MTP-XS), docker-compose и QuickStart.
Запускайте локальные LLM, такие как Gemma, Qwen и LLaMA, на Android для приватного общения и ответов на вопросы в реальном времени без подключения к интернету с помощью LiteRT и ONNX Runtime.