#vllm 仓库
探索 133 个标记为 #vllm 的活跃开源 GitHub 仓库,它们累计获得 554,542 个 Star(平均每个项目 4,169 个)。该主题的领先项目是 earendil-works/pi,拥有 123,140 个 Star。
共 134 个仓库
欢迎来到 Llama Cookbook! 这是您使用 Llama 进行构建的必备指南:入门推断、微调、RAG。我们还向您展示如何使用 Llama 模型系列解决端到端问题,并在各种提供商服务上使用它们。
一个全面的开源AI研究和工程技能库,适用于任何AI模型。将这些技能打包,您的claude code/codex/gemini代理将成为一个全功能AI研究代理。由Orchestra Research维护。
一个易用、可扩展、高性能的基于Ray的Agentic RL框架(PPO & DAPO & REINFORCE++ & VLM & TIS & vLLM & Ray & Async RL)
面向语言、视觉、嵌入、重排序、图像、音频和视频模型的开源推理平台。支持通过多个推理引擎部署在异构硬件上,覆盖从笔记本电脑到分布式集群的各种环境。通过兼容 OpenAI 的 API 提供模型服务。
📚精选的超棒 LLM/VLM 推理论文及代码列表:Flash-Attention、Paged-Attention、WINT8/4、并行化等。🎉
[NeurIPS'24] HippoRAG 是一个受人类长期记忆启发的全新 RAG 框架,它使 LLM 能够跨外部文档持续集成知识。RAG + 知识图谱 + 个性化 PageRank。
在你实际拥有的 GPU 上快速部署大型 Qwen 模型。使用 vLLM 在单张 24 GB 显卡上运行 Qwen3.8-27B:单用户 127 token/秒(答案引用提示词时为 381 token/秒),64 路并发时约 1,035 token/秒,支持 150k–262k 上下文。vLLM 补丁、重新量化流程与基准测试。
常见问题解答
GitHub 上最受欢迎的 #vllm 仓库是什么?
GitHub 上排名第一的开源 #vllm 项目是 earendil-works/pi,拥有 123,140 个 Star。AI 智能体工具包:统一 LLM API、智能体循环、TUI、编程智能体 CLI
#vllm 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #vllm 项目中,最常见的编程语言是 Python, Jupyter Notebook, Go, TypeScript。
#vllm 仓库的排名是如何计算的?
我们跟踪了 133 个标记为 #vllm 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 554,542 个 Star,平均每个仓库拥有 4,169 个 Star。排名每日根据 GitHub API 更新。