#llmops 仓库
探索 111 个标记为 #llmops 的活跃开源 GitHub 仓库,它们累计获得 716,901 个 Star(平均每个项目 6,458 个)。该主题的领先项目是 BerriAI/litellm,拥有 63,649 个 Star。
共 111 个仓库
最快、最轻的AI网关。采用Rust核心与Python SDK。以OpenAI(或原生)格式调用100多个LLM API,支持成本追踪、防护栏、负载均衡和日志记录 [Bedrock、Azure、OpenAI、Anthropic、OpenAI、VertexAI、vLLM、Nvidia NIM]
🪢 开源 AI 工程平台:基于 OpenTelemetry 构建,提供 AI 网关、智能体可观测性、评估以及提示词/技能管理。一个开放平台,覆盖每一次 AI 调用和每一个智能体。可自行托管,也可使用 Langfuse Cloud。
开源AI工程平台,适用于代理、大语言模型(LLMs)和机器学习模型。MLflow使各种规模的团队能够调试、评估、监控和优化生产级AI应用,同时控制成本并管理对模型和数据的访问。
测试您的提示词、智能体和 RAG。针对人工智能的红队测试/渗透测试/漏洞扫描。比较 GPT、Claude、Gemini、DeepSeek 等模型的性能。支持命令行和 CI/CD 集成的简单声明式配置。已被 OpenAI 和 Anthropic 使用。
RocketRide 是一个开源 AI 元框架,拥有唯一基于 C++ 构建的企业级运行时。构建、测试并发布可在生产环境中规模化运行的持久化智能体。
Agent AI 可观测性、监控和评估框架的 Python SDK。包括代理、llm 和工具跟踪、多代理系统调试、自托管仪表板以及具有时间线和执行图视图的高级分析等功能。
BISHENG 是一个开源企业级 Agent 平台,用于构建、部署和管理 AI 应用。它将 AI Agent、工作流、RAG 与知识管理、桌面 Agent 集成以及 vibecoding 应用托管,与统一的模型管理、评估、可观测性、访问控制和企业管理功能相结合。
Evidently 是一个开源的 ML 和 LLM 可观测性框架。评估、测试和监控任何 AI 驱动的系统或数据管道。从表格数据到生成式 AI。100+ 指标。
在数分钟而非数月内,将 AI 代理部署到 Google Cloud。生产就绪的模板,内置 CI/CD、评估和可观测性。
cube studio开源云原生一站式机器学习/深度学习/大模型AI平台,mlops算法链路全流程,算力租赁平台,notebook在线开发,拖拉拽任务流pipeline编排,多机多卡分布式训练,超参搜索,推理服务VGPU虚拟化,边缘计算,标注平台自动化标注,deepseek等大模型sft微调/奖励模型/强化学习训练,vllm/ollama/mindie大模型多机推理,私有知识库,AI模型市场,支持国产cpu/gpu/npu 昇腾生态,支持RDMA,支持pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano等分布式
🤖 免费 𝗔𝗽𝗽𝗿𝗲𝗻𝗲𝘇 如何使用 𝗟𝗟𝗠𝗢𝗽𝘀 最佳实践构建端到端的生产就绪 𝗟𝗟𝗠 和 𝗥𝗔𝗚 系统:~ 𝘴𝘰𝘶𝘳𝘤𝘦 𝘤𝘰𝘥𝘦 + 12 व्यावहारिक 𝐥𝐞ç𝐨𝐧𝐬
AGiXT是一个动态的人工智能代理自动化平台,可跨不同的AI提供商无缝协调指令管理和复杂任务执行。AGiXT结合了自适应记忆、智能功能和多功能插件系统,可提供高效且全面的AI解决方案。
学习如何使用 LLM、代理、RAG、微调、LLMOps 和 AI 系统技术构建您的 Second Brain AI 助手。
常见问题解答
GitHub 上最受欢迎的 #llmops 仓库是什么?
GitHub 上排名第一的开源 #llmops 项目是 BerriAI/litellm,拥有 63,649 个 Star。最快、最轻的AI网关。采用Rust核心与Python SDK。以OpenAI(或原生)格式调用100多个LLM API,支持成本追踪、防护栏、负载均衡和日志记录 [Bedrock、Azure、OpenAI、Anthropic、OpenAI、VertexAI、vLLM、Nvidia NIM]
#llmops 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #llmops 项目中,最常见的编程语言是 Python, TypeScript, Jupyter Notebook, Rust。
#llmops 仓库的排名是如何计算的?
我们跟踪了 111 个标记为 #llmops 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 716,901 个 Star,平均每个仓库拥有 6,458 个 Star。排名每日根据 GitHub API 更新。