#qwen 仓库
共 145 个仓库
在你实际拥有的 GPU 上快速部署大型 Qwen 模型。使用 vLLM 在单张 24 GB 显卡上运行 Qwen3.8-27B:单用户 127 token/秒(答案引用提示词时为 381 token/秒),64 路并发时约 1,035 token/秒,支持 150k–262k 上下文。vLLM 补丁、重新量化流程与基准测试。
在 Mac 上运行 Qwen 3.8 Flash Next、Qwen 3.8 27B 和 Ternary Bonsai 2 27B 的最快方式:在 M5 Max 上通过 OpenCode 达到 125 token/秒,并可在 16 GB Mac 上运行 27B 模型。在 Apple Silicon 上原生支持 MTP 推测解码,在任何温度下都能保持精确。兼容 OpenAI 和 Anthropic 的本地服务器。
AI 短剧 · 漫剧技能包精选:剧本、改编、分镜、Seedance / 可灵 / MiniMax 视频提示词,适用于千问、豆包、龙虾 OpenClaw、WorkBuddy、Claude Code、Codex 等智能体 | 精选智能体技能,适用于 AI 短剧、微短剧、竖屏剧和漫剧(AI 漫画剧):剧本创作、分镜,以及 Seedance / 可灵 / MiniMax 视频提示词
将MCP带到ChatGPT、DeepSeek、Perplexity、Grok、Gemini、Google AI Studio、OpenRouter、DeepSeek、T3 Chat等平台...
适用于开源大语言模型的 OpenAI 风格 API,使用 LLM 就像使用 ChatGPT 一样!支持 LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 等。开源大模型的统一后端接口
面向智能体的本地 AI 应用程序和推理引擎。在您的计算机上本地运行开源权重 LLM — 私密、100% 离线。加入我们的 Discord:https://discord.com/invite/8wGSsvmg4V
一份精选的 LLM 和 AI 代理技能、资源及工具列表,用于自定义 AI 代理工作流——兼容 Claude Code、Codex、Gemini CLI 和您自定义的 AI 代理。
云原生、超高性能 AI&API网关,LLM API 管理、分发系统、开放平台,支持所有AI API,不限于OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 请求和返回,API申请与审批,调用统计、负载均衡、多模型灾备。一键部署,开箱即用。
【ICML 2025 Spotlight】 论文‘’HealthGPT : A Medical Large Vision-Language Model for Unifying Comprehension and Generation via Heterogeneous Knowledge Adaptation‘’ 的官方仓库
本地推理,体验媲美前沿 API:在 AMD Strix Halo 上运行 Qwen3.8-Flash-Next 和小型 NPU 模型,通过同一端口提供 OpenAI 和 Anthropic API。
在自己的 PC 上运行大型 AI 模型:使用 Strata 引擎运行 Qwen3.8-Flash-Next,使用专为 PolyStrata 打造的第二款引擎运行 GLM 5.3 Flash、DeepSeek V4 Flash、LFM2.5、Qwen3.6、Ornith 1.5、Gemma 4、Tiel Coder 和 MiniCPM-V。支持 Windows 和 Linux 一键安装,并在 localhost 上提供 OpenAI/Anthropic API。
74 家免费 LLM API 提供商和 450 多个免费模型(含使用限制及无需信用卡的选项)+ Free-LLM Router:通过一个兼容 OpenAI/Anthropic 的端点接入所有这些服务,并支持即时故障切换。使用免费模型运行 Claude Code、Codex、Cursor、Aider。涵盖 Gemini、Groq、Mistral、DeepSeek、Qwen 等。每日同步。
运行比内存容量更大的 MoE 模型。在手机、笔记本电脑或边缘设备上运行前沿级 MoE。无损,基于原版 llama.cpp。自适应流式优化器。支持任何硬件、任何操作系统、任何模型、任何量化方式,并通过本地兼容 OpenAI 的服务器提供服务。
《赋范大模型技术社区》是针对各阶大模型学习者量身打造的基于各类大模型,包括环境设置、本地部署、高效微调、开发实战等技能在内的全流程指导!
🎬 通过 3D 交互控制从任意相机视角生成图像。在 3D 空间中拖动相机,或使用滑块设置方位角/仰角/距离,然后生成图像。基于 Three.js + Gradio 构建,支持中英文双语界面。