#routing 仓库
78
仓库总数
382,715
总星标数
4,906
平均每个仓库星标数
共 78 个仓库
53
smg-project/smg
基于 Rust 构建的引擎无关型 LLM 网关。全面兼容 OpenAI 和 Anthropic API,支持 vLLM、TRT-LLM、TokenSpeed、SGLang、OpenAI、Gemini 等更多平台。业界首创的 gRPC 流水线、感知 KV 缓存的路由、聊天历史记录、分词缓存、Responses API、嵌入、WASM 插件、MCP 以及多租户身份认证。
⭐ 540
👤 ipverse Organization
🕐 已更新 2026-11-21
📅 创建时间 2021-12-01