Git Stars Git Stars

#llmops 仓库

111
仓库总数
716,901
总星标数
6,458
平均每个仓库星标数

共 111 个仓库

51
ianarawjo/ChainForge

一个用于 LLM 提示实战测试的开源可视化编程环境。

ianarawjo
⭐ 3,044 TypeScript 👤 ianarawjo User 🕐 已更新 2026-10-29 📅 创建时间 2023-03-26
52
OpenPipe/OpenPipe

将昂贵的提示词转化为廉价的微调模型

OpenPipe
⭐ 2,763 TypeScript 👤 OpenPipe Organization 🕐 已更新 2024-05-25 📅 创建时间 2023-06-20
53
apache/hamilton

Apache Hamilton 帮助数据科学家和工程师定义可测试、模块化、自文档化的数据流,这些数据流编码血缘/跟踪和元数据。可在 Python 运行的所有地方运行和扩展。

apache
⭐ 2,631 Jupyter Notebook 👤 apache Organization 🕐 已更新 2026-11-16 📅 创建时间 2023-02-23
54
data-infra/cube-studio

cubestudio开源云原生一站式机器学习/深度学习/大模型AI平台/MaaS/mlops/人工智能平台/训推平台,算法全链路流程,多租户,算力租赁平台,token中转,拖拉拽任务流pipeline编排,多机多卡分布式训练,超参搜索,推理服务,VGPU虚拟化,云边端协同,边缘计算,自动化标注平台,deepseek等大模型sft微调/奖励模型/强化学习训练,vllm/ollama/mindie大模型多机推理,私有知识库llmops智能体,AI模型市场,支持国产异构算力调度,昇腾/寒武纪/海光/摩尔/沐曦等,支持ib/roce/RDMA,信创支持

data-infra
⭐ 2,615 Python 👤 data-infra User 🕐 已更新 2026-10-12 📅 创建时间 2024-07-02
55
apache/burr

构建能够做出决策的应用程序(聊天机器人、代理、模拟等)。在自己的基础设施上进行监控、跟踪、持久化和执行。

apache
⭐ 2,608 Python 👤 apache Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-01-29
56
bionic-gpt/bionic-gpt

Bionic 是面向企业的主权型智能代理 AI——可在本地部署,并能安全地处理您的敏感数据和系统。

bionic-gpt
⭐ 2,411 Rust 👤 bionic-gpt Organization 🕐 已更新 2026-11-17 📅 创建时间 2023-07-07
57
dot-agent/nextpy

🤖来自未来的自修改框架 🔮 全球首个AMS

dot-agent
⭐ 2,338 Python 👤 dot-agent Organization 🕐 已更新 2024-05-01 📅 创建时间 2023-08-07
58
uptrain-ai/uptrain

UpTrain 是一个开源的统一平台,用于评估和改进生成式 AI 应用程序。我们为 20 多个预配置的检查(涵盖语言、代码、嵌入式用例)提供评分,对失败案例进行根本原因分析,并提供有关如何解决这些问题的见解。

uptrain-ai
⭐ 2,337 Python 👤 uptrain-ai Organization 🕐 已更新 2024-08-18 📅 创建时间 2022-11-07
59
future-agi/future-agi

开源端到端平台,用于评估、观察和改进 LLM 和 AI 代理应用。Tracing · Evals · Simulations · Datasets · Gateway · Guardrails。自托管。Apache 2.0。

future-agi
⭐ 2,284 Python 👤 future-agi Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-04-23
60
tensorchord/envd

🏕️ 供人类和代理使用的可复现开发环境

tensorchord
⭐ 2,249 Go 👤 tensorchord Organization 🕐 已更新 2026-11-19 📅 创建时间 2022-04-11
61
trypromptly/LLMStack

用于使用您的数据构建 LLM Agents、工作流和应用程序的无代码多代理框架

trypromptly
⭐ 2,245 Python 👤 trypromptly Organization 🕐 已更新 2024-12-11 📅 创建时间 2023-08-06
62
ShenSeanChen/waku-agent

Waku Agent 是一个由你掌控的开源 AI 智能体框架:包含循环、记忆、评测,以及一个始终运行的层(事件收件箱、定时器、审批、发件箱),代码始终保持易读。

ShenSeanChen
⭐ 2,206 Python 👤 ShenSeanChen User 🕐 已更新 2026-11-21 📅 创建时间 2026-07-10
63
mcp-router/mcp-router

统一的 MCP 服务器管理应用程序 (MCP Manager)。

mcp-router
⭐ 2,149 TypeScript 👤 mcp-router Organization 🕐 已更新 2026-08-03 📅 创建时间 2025-03-22
64
microsoft/aici

AICI: 将提示作为(Wasm)程序

microsoft
⭐ 2,077 Rust 👤 microsoft Organization 🕐 已更新 2025-01-22 📅 创建时间 2023-09-26
65
supervc-stack/VectorChord

Postgres 中可扩展、快速且对磁盘友好的向量搜索,pgvecto.rs 的继任者。

supervc-stack
⭐ 1,842 Rust 👤 supervc-stack User 🕐 已更新 2026-08-06 📅 创建时间 2024-09-03
66
intentee/paddler

开源 LLM/VLM 负载均衡器和 serving 平台,用于大规模自托管 LLM(和 VLM)🏓🦙 llm-d、Docker Model Runner 等项目的替代品,但移动部件更少,并围绕 ggml 生态系统构建简单部署。在 CPU 和 GPU 上运行。

intentee
⭐ 1,694 Rust 👤 intentee Organization 🕐 已更新 2026-11-11 📅 创建时间 2024-04-27
67
AgentEra/Agently

[GenAI 应用开发框架] 🚀 快速轻松地构建 GenAI 应用 💬 使用结构化数据和链式调用语法在代码中轻松与 GenAI 代理交互 🧩 使用事件驱动流程 *TriggerFlow* 管理复杂的 GenAI 工作逻辑 🔀 无需重写应用程序代码即可切换到任何模型

AgentEra
⭐ 1,673 Python 👤 AgentEra Organization 🕐 已更新 2026-11-12 📅 创建时间 2023-06-30
68
langwatch/better-agents

构建代理的标准,更好

langwatch
⭐ 1,562 TypeScript 👤 langwatch Organization 🕐 已更新 2026-06-03 📅 创建时间 2025-04-19
69
alibaba/rtp-llm

RTP-LLM:阿里巴巴用于多样化应用的高性能LLM推理引擎。

alibaba
⭐ 1,402 Python 👤 alibaba Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-12-27
70
Arize-ai/openinference

用于 AI 可观测性的 OpenTelemetry 插桩

Arize-ai
⭐ 1,333 Python 👤 Arize-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-12-26
71
KusionStack/kusion

用于内部开发者平台 (IDP) 的声明式意图驱动平台编排器。

KusionStack
⭐ 1,322 Go 👤 KusionStack Organization 🕐 已更新 2026-10-30 📅 创建时间 2022-05-05
72
SmythOS/sre

SmythOS 运行时环境 (SRE) 是一个面向代理型人工智能的开源、云原生运行时。它安全、模块化且生产就绪,使开发人员能够在本地、云端和边缘环境中构建、运行和管理智能代理。

SmythOS
⭐ 1,305 TypeScript 👤 SmythOS Organization 🕐 已更新 2026-04-03 📅 创建时间 2025-06-07
73
plurai-ai/intellagent

使用模拟的、真实的合成交互进行代理的全面诊断和优化的框架

plurai-ai
⭐ 1,266 Python 👤 plurai-ai Organization 🕐 已更新 2026-09-14 📅 创建时间 2024-10-28
74
e2b-dev/awesome-ai-sdks

用于创建、监控、调试和部署自主 AI 代理的 SDK、框架、库和工具数据库

e2b-dev
⭐ 1,241 👤 e2b-dev Organization 🕐 已更新 2026-07-09 📅 创建时间 2023-08-05
75
Scale3-Labs/langtrace

Langtrace 🔍 是一款基于 Open Telemetry 的开源端到端可观测性工具,适用于 LLM 应用程序,为流行的 LLM、LLM 框架、向量数据库等提供实时追踪、评估和指标。支持通过 Typescript、Python 进行集成。🚀💻📊

Scale3-Labs
⭐ 1,236 TypeScript 👤 Scale3-Labs Organization 🕐 已更新 2025-11-17 📅 创建时间 2024-03-30
76
Ricky-7-Yan/intelligent-audit-system

AuditPilot:可审计的企业级AI代理,用于基于证据的工作流程、受管控的工具、评估框架、人工审核以及补救措施交付。

Ricky-7-Yan
⭐ 1,182 Python 👤 Ricky-7-Yan User 🕐 已更新 2026-11-05 📅 创建时间 2025-10-28
77
Jwuthri/Tracely-ai

面向 AI 代理的原生追踪 CI/CD——将生产环境故障转化为阻止 PR 合并的回归测试。自动检测、聚类,并固化为隔离测试用例,在 CI 中以零成本重放。

Jwuthri
⭐ 1,122 Python 👤 Jwuthri User 🕐 已更新 2026-11-21 📅 创建时间 2026-06-03
78
datadreamer-dev/DataDreamer

DataDreamer:提示。生成合成数据。训练和对齐模型。   🤖💤

datadreamer-dev
⭐ 1,112 Python 👤 datadreamer-dev Organization 🕐 已更新 2025-02-02 📅 创建时间 2023-06-02
79
prometheus-eval/prometheus-eval

使用 Prometheus 和 GPT4 评估您的 LLM 回复 💯

prometheus-eval
⭐ 1,087 Python 👤 prometheus-eval Organization 🕐 已更新 2025-04-25 📅 创建时间 2024-04-18
80
dynamiq-ai/dynamiq

Dynamiq 是一个用于 agentic AI 和 LLM 应用的编排框架

dynamiq-ai
⭐ 1,072 Python 👤 dynamiq-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2024-09-26
81
ajndkr/lanarky

用于构建LLM微服务的Web框架 [已弃用]

ajndkr
⭐ 996 Python 👤 ajndkr User 🕐 已更新 2024-07-06 📅 创建时间 2023-04-07
82
respanai/respan-gateway

用 Rust 构建的开源 LLM 网关。一个端点即可接入 OpenAI、Anthropic、Gemini 及其他所有供应商。支持任意 SDK、任意模型、任意工具。

respanai
⭐ 975 Rust 👤 respanai Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-09-25
83
mozilla-ai/otari

可自行部署的开源 AI 网关。一个端点接入 40 多家服务提供商,并支持虚拟密钥、预算管理和用量跟踪。

mozilla-ai
⭐ 959 Python 👤 mozilla-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-04-02
84
msoedov/langcorn

⛓️ 使用 FastApi 自动服务 LangChain LLM 应用和代理。LLMops

msoedov
⭐ 936 Python 👤 msoedov User 🕐 已更新 2024-07-15 📅 创建时间 2023-04-14
85
onlyphantom/llm-python

大型语言模型 (LLMs) 教程和示例脚本,包含 langchain、openai、llamaindex、gpt、chromadb 和 pinecone

onlyphantom
⭐ 932 Jupyter Notebook 👤 onlyphantom User 🕐 已更新 2026-11-13 📅 创建时间 2023-04-06
86
getmetal/motorhead

🧠 Motorhead 是一个用于 LLM 的记忆和信息检索服务器。

getmetal
⭐ 915 Rust 👤 getmetal Organization 🕐 已更新 2026-11-16 📅 创建时间 2023-03-29
87
callmesora/llmops-python-package

使用灵活、健壮且高效的 Python 包启动您的 LLMOps 项目。

callmesora
⭐ 897 Python 👤 callmesora User 🕐 已更新 2025-02-13 📅 创建时间 2024-12-10
88
santifer/cv-santiago

带有AI聊天集成的互动简历。使用React 19、TypeScript、Claude API构建。与我的AI头像聊天,了解我的经验。

santifer
⭐ 871 HTML 👤 santifer User 🕐 已更新 2026-11-12 📅 创建时间 2026-01-23
89
NeumTry/NeumAI

Neum AI 是一个一流的框架,用于管理大规模矢量嵌入的创建和同步。

NeumTry
⭐ 864 Python 👤 NeumTry Organization 🕐 已更新 2024-01-15 📅 创建时间 2023-09-14
90
jwuthri-cloud/Tracely-ai

面向 AI 智能体的原生 Trace CI/CD:评估生产环境中的 Trace,对故障进行聚类,将其固化为可回放的回归测试,并阻止引入回归的 PR。支持自托管。

jwuthri-cloud
⭐ 850 Python 👤 jwuthri-cloud User 🕐 已更新 2026-11-16 📅 创建时间 2026-10-11
91
bosun-ai/swiftide

Rust 中快速、流式索引、查询和代理 LLM 应用

bosun-ai
⭐ 805 Rust 👤 bosun-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-06-09
92
Abilityai/trinity

面向 AI 原生公司的自托管 AI 智能体平台。支持 Claude Code、Codex、Gemini 和 OpenCode 智能体。Apache 2.0 许可证。

Abilityai
⭐ 792 Python 👤 Abilityai Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-12-10
94
overmind-core/overmind

持续改进 AI 智能体的平台。

overmind-core
⭐ 771 Python 👤 overmind-core Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-03-27
95
Azure-Samples/contoso-chat

此示例包含了使用 Prompty 和 Azure AI Foundry 创建 RAG 应用程序的完整端到端流程。它包括 GPT-4 LLM 应用程序代码、评估、使用 AZD CLI 进行部署自动化、用于评估和部署的 GitHub Actions 以及用于多个 LLM 任务映射的意图映射。

Azure-Samples
⭐ 762 Bicep 👤 Azure-Samples Organization 🕐 已更新 2025-10-03 📅 创建时间 2023-11-29
96
morsoli/llm-books

利用LLM构建应用实践笔记

morsoli
⭐ 761 Python 👤 morsoli User 🕐 已更新 2024-11-29 📅 创建时间 2023-06-12
97
mikehasa/agentacct

查看您的编码代理做了什么以及花费了多少。将每个任务分解为工作步骤——使用的工具、更改的文件、运行的测试、花费的时间和令牌。本地优先的仪表板,适用于Claude Code、Codex、OpenCode等。无需登录,无需遥测。

mikehasa
⭐ 757 Python 👤 mikehasa User 🕐 已更新 2026-10-03 📅 创建时间 2026-07-24
98
calmrocks/ai-engineer-notebooks

面向 AI 工程师 / 前线部署工程师 (FDE) 技能栈的实战型、无框架 Colab 笔记本 —— 涵盖模型 API、结构化输出、工具调用、RAG、以评估为核心、智能体(从零构建循环、工具设计、护栏机制、MCP、技能)、微调 vs LoRA、提示词注入与安全、LLMOps 以及客户服务技艺。基于免费的 Groq API 运行。

calmrocks
⭐ 756 Jupyter Notebook 👤 calmrocks User 🕐 已更新 2026-11-07 📅 创建时间 2026-08-11
99
Haohao-end/openagent

如果OpenAI Deep Research和Dify是一个平台会怎样?OpenAgent — 利用架构快速构建垂直AI代理,具备深度推理循环、可视化工作流、RAG和A2A委托功能。

Haohao-end
⭐ 756 Python 👤 Haohao-end User 🕐 已更新 2026-11-21 📅 创建时间 2025-06-20
100
liguodongiot/llm-resource

LLM全栈优质资源汇总

liguodongiot
⭐ 723 Shell 👤 liguodongiot User 🕐 已更新 2025-07-15 📅 创建时间 2023-08-27