Git Stars Git Stars

#llmops Репозитории

Откройте для себя 111 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llmops, с общим числом 716,901 звёзд (в среднем 6,458 на проект). Лидером этой темы является BerriAI/litellm, набравший 63,649 звёзд.

111
Всего репозиториев
716,901
Всего звезд
6,458
Среднее количество звезд на репозиторий

Всего репозиториев: 111

1
BerriAI/litellm

Самый быстрый и легкий AI-шлюз. Ядро на Rust с Python SDK. Вызов более 100 LLM API в формате OpenAI (или нативном) с отслеживанием затрат, защитными механизмами, балансировкой нагрузки и ведением журнала [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

BerriAI
⭐ 63,649 Python 👤 BerriAI Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-07-27
2
GokuMohandas/Made-With-ML

Узнайте, как разрабатывать, развертывать и итерировать производственные приложения ML.

GokuMohandas
⭐ 50,112 Jupyter Notebook 👤 GokuMohandas User 🕐 Обновлено 2026-03-04 📅 Создано 2018-11-05
3
langfuse/langfuse

🪢 Открытая платформа для разработки ИИ: AI Gateway, наблюдаемость агентов, оценка и управление промптами и навыками на базе OpenTelemetry. Единая открытая платформа для каждого вызова ИИ и каждого агента. Разверните её самостоятельно или используйте Langfuse Cloud.

langfuse
⭐ 37,696 TypeScript 👤 langfuse Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-05-18
4
ComposioHQ/composio

Composio поддерживает более 1000 наборов инструментов, поиск инструментов, управление контекстом, аутентификацию и изолированную рабочую среду, чтобы помочь вам строить ИИ-агентов, которые превращают намерение в действие.

ComposioHQ
⭐ 31,218 TypeScript 👤 ComposioHQ Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-02-23
5
mlflow/mlflow

Открытая платформа для инженерной разработки ИИ для агентов, LLM и моделей ML. MLflow позволяет командам любого размера отлаживать, оценивать, мониторить и оптимизировать приложения ИИ производственного качества, контролируя затраты и управляя доступом к моделям и данным.

mlflow
⭐ 28,920 Python 👤 mlflow Organization 🕐 Обновлено 2026-11-21 📅 Создано 2018-06-05
6
promptfoo/promptfoo

Тестируйте свои промпты, агенты и RAG. Red teaming/пентестинг/сканирование уязвимостей для ИИ. Сравнивайте производительность GPT, Claude, Gemini, DeepSeek и других моделей. Простые декларативные конфигурации с поддержкой командной строки и интеграцией CI/CD. Используется компаниями OpenAI и Anthropic.

promptfoo
⭐ 27,516 TypeScript 👤 promptfoo Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-04-28
7
liguodongiot/llm-action

Этот проект направлен на обмен техническими принципами и практическим опытом, связанным с большими моделями (инженерия больших моделей, практическое применение больших моделей).

liguodongiot
⭐ 25,297 HTML 👤 liguodongiot User 🕐 Обновлено 2026-10-14 📅 Создано 2023-05-23
8
comet-ml/opik

Отлаживайте, оценивайте и отслеживайте ваши LLM-приложения, RAG-системы и агентские рабочие процессы с помощью комплексного отслеживания, автоматизированных оценок и готовых к производству панелей мониторинга.

comet-ml
⭐ 23,479 Java 👤 comet-ml Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-05-10
9
dipakkr/awesome-ai-engineering

🚀 Подборка ресурсов, дорожных карт, инструментов и проектов в области ИИ-инжиниринга, охватывающая LLM, RAG, ИИ-агентов, MCP, дообучение, оценку и промышленные системы ИИ.

dipakkr
⭐ 22,611 👤 dipakkr User 🕐 Обновлено 2026-10-21 📅 Создано 2018-09-17
10
jina-ai/serve

☁️ Создавайте мультимодальные ИИ-приложения с использованием облачного стека

jina-ai
⭐ 21,864 Python 👤 jina-ai Organization 🕐 Обновлено 2025-03-24 📅 Создано 2020-02-13
11
rocketride-org/rocketride-server

RocketRide — это метахарнесс с открытым исходным кодом для ИИ, оснащённый единственным рантаймом корпоративного уровня, созданным на C++. Создавайте, тестируйте и публикуйте долговечных агентов, способных масштабироваться в рабочей среде.

rocketride-org
⭐ 20,003 Python 👤 rocketride-org Organization 🕐 Обновлено 2026-11-21 📅 Создано 2026-02-11
12
TransformerOptimus/SuperAGI

<⚡️> SuperAGI - Open-source framework автономных ИИ-агентов, ориентированный на разработчиков. Позволяет разработчикам быстро и надежно создавать, управлять и запускать полезные автономные агенты.

TransformerOptimus
⭐ 17,556 Python 👤 TransformerOptimus Organization 🕐 Обновлено 2025-01-22 📅 Создано 2023-05-13
13
vibrantlabsai/ragas

Ускорьте оценку ваших LLM-приложений 🚀

vibrantlabsai
⭐ 16,395 Python 👤 vibrantlabsai Organization 🕐 Обновлено 2026-11-14 📅 Создано 2023-05-08
14
raga-ai-hub/RagaAI-Catalyst

Python SDK для фреймворка наблюдения, мониторинга и оценки Agent AI. Включает такие функции, как трассировка агентов, LLM и инструментов, отладка мультиагентной системы, самохостируемая панель управления и расширенная аналитика с просмотром временной шкалы и графа выполнения.

raga-ai-hub
⭐ 16,193 Python 👤 raga-ai-hub Organization 🕐 Обновлено 2026-02-11 📅 Создано 2024-08-26
15
Portkey-AI/gateway

Сверхбыстрый AI-шлюз с интегрированными защитными барьерами. Маршрутизация к 1600+ LLM, 50+ AI-защитным барьерам с 1 быстрым и дружелюбным API.

Portkey-AI
⭐ 13,424 TypeScript 👤 Portkey-AI Organization 🕐 Обновлено 2026-11-20 📅 Создано 2023-08-23
16
bentoml/OpenLLM

Запускайте любые LLM с открытым исходным кодом, такие как DeepSeek и Llama, в качестве совместимой с OpenAI конечной точки API в облаке.

bentoml
⭐ 12,610 Python 👤 bentoml Organization 🕐 Обновлено 2026-11-16 📅 Создано 2023-04-19
17
dataelement/bisheng

BISHENG — это корпоративная платформа Agent с открытым исходным кодом для создания, развертывания и управления ИИ-приложениями. Она объединяет ИИ-агентов, рабочие процессы, RAG и управление знаниями, интеграцию с настольными агентами и хостинг приложений, созданных с помощью vibecoding, а также унифицированное управление моделями, оценку, наблюдаемость, контроль доступа и корпоративное администрирование.

dataelement
⭐ 12,391 Python 👤 dataelement Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-08-28
18
Arize-ai/phoenix

Наблюдаемость и оценка ИИ

Arize-ai
⭐ 12,368 Python 👤 Arize-ai Organization 🕐 Обновлено 2026-11-21 📅 Создано 2022-11-09
19
tensorzero/tensorzero

TensorZero — это открытая платформа LLMOps, которая объединяет шлюз LLM, наблюдаемость, оценку, оптимизацию и эксперименты.

tensorzero
⭐ 11,456 Rust 👤 tensorzero Organization 🕐 Обновлено 2026-06-11 📅 Создано 2024-07-16
20
MakazhanAlpamys/Soup

Тонкая настройка LLM из одного YAML. Потоковая передача слоев обучает модель 8B на 4 ГБ ноутбучном GPU.

MakazhanAlpamys
⭐ 10,703 Python 👤 MakazhanAlpamys User 🕐 Обновлено 2026-11-21 📅 Создано 2026-02-20
21
Netflix/metaflow

Создавать, управлять и развертывать системы ИИ/МЛ

Netflix
⭐ 10,355 Python 👤 Netflix Organization 🕐 Обновлено 2026-11-19 📅 Создано 2019-09-17
22
0xPlaygrounds/rig

⚙️🦀 Создавайте модульные и масштабируемые LLM-приложения на Rust

0xPlaygrounds
⭐ 9,209 Rust 👤 0xPlaygrounds Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-06-05
23
bentoml/BentoML

Самый простой способ обслуживания AI-приложений и моделей - Создавайте API вывода моделей, очереди заданий, приложения LLM, конвейеры с несколькими моделями и многое другое!

bentoml
⭐ 8,944 Python 👤 bentoml Organization 🕐 Обновлено 2026-11-17 📅 Создано 2019-04-02
24
evidentlyai/evidently

Evidently — это фреймворк с открытым исходным кодом для обеспечения наблюдаемости ML и LLM. Оценивайте, тестируйте и отслеживайте любую систему на базе ИИ или конвейер данных. От табличных данных до Gen AI. Более 100 метрик.

evidentlyai
⭐ 8,073 Jupyter Notebook 👤 evidentlyai Organization 🕐 Обновлено 2026-09-29 📅 Создано 2020-11-25
25
traceloop/openllmetry

OpenTelemetry-ориентированная платформа наблюдаемости с открытым исходным кодом для вашего GenAI или LLM приложения

traceloop
⭐ 7,546 Python 👤 traceloop Organization 🕐 Обновлено 2026-11-19 📅 Создано 2023-09-02
26
katanemo/plano

Plano — это прокси-сервер и плоскость данных, созданные на основе ИИ для агентных приложений. Умная маршрутизация LLM, наблюдаемость, оркестрация агентов и защитные механизмы, чтобы вы могли сосредоточиться на основной логике ваших агентов.

katanemo
⭐ 7,118 Rust 👤 katanemo Organization 🕐 Обновлено 2026-10-24 📅 Создано 2024-07-09
27
clearml/clearml

ClearML - Автоматически волшебный CI/CD для упрощения вашей AI-нагрузки. Управление экспериментами, Управление данными, Pipeline, Оркестрация, Планирование и Обслуживание в одном решении MLOps/LLMOps

clearml
⭐ 6,943 Python 👤 clearml Organization 🕐 Обновлено 2026-11-03 📅 Создано 2019-06-10
28
GoogleCloudPlatform/agent-starter-pack

Развертывайте агенты ИИ в Google Cloud за минуты, а не за месяцы. Готовые к эксплуатации шаблоны со встроенными CI/CD, оценкой и наблюдаемостью.

GoogleCloudPlatform
⭐ 6,575 Python 👤 GoogleCloudPlatform Organization 🕐 Обновлено 2026-07-21 📅 Создано 2025-01-31
29
Helicone/helicone

🧊 Платформа наблюдаемости LLM с открытым исходным кодом. Одна строка кода для мониторинга, оценки и экспериментов. YC W23 🍓

Helicone
⭐ 6,292 TypeScript 👤 Helicone Organization 🕐 Обновлено 2026-11-17 📅 Создано 2023-01-31
30
tensorchord/Awesome-LLMOps

Потрясающий и тщательно подобранный список лучших инструментов LLMOps для разработчиков

tensorchord
⭐ 5,979 Shell 👤 tensorchord Organization 🕐 Обновлено 2026-11-16 📅 Создано 2022-04-15
31
Giskard-AI/giskard-oss

🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов

Giskard-AI
⭐ 5,965 Python 👤 Giskard-AI Organization 🕐 Обновлено 2026-11-20 📅 Создано 2022-03-06
32
coze-dev/coze-loop

Платформа оптимизации ИИ-агентов нового поколения: Cozeloop решает проблемы разработки ИИ-агентов, предоставляя возможности управления полным жизненным циклом от разработки, отладки и оценки до мониторинга.

coze-dev
⭐ 5,799 Go 👤 coze-dev Organization 🕐 Обновлено 2026-11-17 📅 Создано 2025-06-24
33
zenml-io/zenml

ZenML 🙏: Единая AI-платформа, от конвейеров до агентов. https://zenml.io.

zenml-io
⭐ 5,636 Python 👤 zenml-io Organization 🕐 Обновлено 2026-11-20 📅 Создано 2020-11-19
34
PacktPublishing/LLM-Engineers-Handbook

Практическое руководство по LLM: от основ до развертывания расширенных приложений LLM и RAG на AWS с использованием лучших практик LLMOps

PacktPublishing
⭐ 5,438 Python 👤 PacktPublishing Organization 🕐 Обновлено 2026-04-22 📅 Создано 2024-04-09
35
superduper-io/superduper

Superduper: комплексная платформа для создания пользовательских ИИ-приложений и агентов.

superduper-io
⭐ 5,317 Python 👤 superduper-io Organization 🕐 Обновлено 2025-09-01 📅 Создано 2022-08-30
36
landing-ai/vision-agent

Этот инструмент устарел. Вместо него используйте Agentic Document Extraction.

landing-ai
⭐ 5,297 Python 👤 landing-ai Organization 🕐 Обновлено 2026-01-29 📅 Создано 2024-02-13
37
tencentmusic/cube-studio

cube studio Open-Source Cloud-Native Универсальная AI-платформа для машинного обучения/глубокого обучения/больших моделей, полный процесс алгоритмической цепочки MLOps, платформа аренды вычислительных мощностей, онлайн-разработка в Notebook, оркестровка конвейера задач методом перетаскивания, распределенное обучение на нескольких машинах с несколькими GPU, поиск гиперпараметров, виртуализация VGPU для сервиса инференса, граничные вычисления, автоматизированная разметка на платформе разметки, дообучение SFT больших моделей (deepseek и др.)/модель вознаграждения/обучение с подкреплением, многомашинный инференс больших моделей (vllm/ollama/mindie и др.), частная база знаний, маркетплейс AI-моделей, поддержка отечественных CPU/GPU/NPU экосистемы Ascend, поддержка RDMA, поддержка распределенных фреймворков (pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano и др.)

tencentmusic
⭐ 5,085 👤 tencentmusic Organization 🕐 Обновлено 2026-10-09 📅 Создано 2021-08-17
38
langwatch/langwatch

Наблюдаемость и оценка агентов с открытым исходным кодом для команд AI-платформ. Отслеживайте, тестируйте, маршрутизируйте и управляйте каждым агентом и помощником в написании кода в компании.

langwatch
⭐ 5,050 TypeScript 👤 langwatch Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-09-09
39
itsdecodingai/llm-twin-course

🤖 𝗔𝗽𝗽𝗿𝗲𝗻𝗲𝘇 бесплатно, как создать сквозную систему 𝗟𝗟𝗠 и 𝗥𝗔𝗚 , готовую к производству, используя лучшие практики 𝗟𝗟𝗠𝗢𝗽𝘀: ~ 𝘤𝘰𝘥𝘪𝘨𝘰 𝘴𝘰𝘶𝘳𝘤𝘦 + 12 практических 𝘭𝘦çᴏ𝘯𝘴

itsdecodingai
⭐ 4,413 Python 👤 itsdecodingai Organization 🕐 Обновлено 2026-04-20 📅 Создано 2024-03-08
40
truefoundry/cognita

RAG (Retrieval Augmented Generation) Framework для создания модульных, открытых приложений для продакшена от TrueFoundry

truefoundry
⭐ 4,329 Python 👤 truefoundry Organization 🕐 Обновлено 2026-02-23 📅 Создано 2023-07-26
41
predibase/lorax

Сервер вывода Multi-LoRA, масштабируемый до тысяч дообученных LLM

predibase
⭐ 3,836 Python 👤 predibase Organization 🕐 Обновлено 2026-05-28 📅 Создано 2023-10-20
42
memodb-io/Acontext

Навыки агента как слой памяти

memodb-io
⭐ 3,697 JavaScript 👤 memodb-io Organization 🕐 Обновлено 2026-07-14 📅 Создано 2025-07-16
43
truera/trulens

Оценка и отслеживание экспериментов LLM и ИИ-агентов

truera
⭐ 3,665 Python 👤 truera Organization 🕐 Обновлено 2026-11-20 📅 Создано 2020-11-02
44
lmnr-ai/lmnr

Laminar — платформа с открытым исходным кодом для обеспечения наблюдаемости, специально созданная для ИИ-агентов. YC S24.

lmnr-ai
⭐ 3,516 TypeScript 👤 lmnr-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2024-08-29
45
pezzolabs/pezzo

🕹️ Платформа LLMOps с открытым исходным кодом, ориентированная на разработчиков, предназначенная для оптимизации проектирования подсказок, управления версиями, мгновенной доставки, совместной работы, устранения неполадок, наблюдаемости и многого другого.

pezzolabs
⭐ 3,287 TypeScript 👤 pezzolabs Organization 🕐 Обновлено 2026-11-08 📅 Создано 2023-04-22
46
Josh-XT/AGiXT

AGiXT — это динамичная платформа автоматизации ИИ-агентов, которая обеспечивает бесшовную оркестрацию управления инструкциями и выполнения сложных задач на различных поставках ИИ. Объединяя адаптивную память, интеллектуальные функции и универсальную систему плагинов, AGiXT предлагает эффективные и комплексные решения в области ИИ.

Josh-XT
⭐ 3,214 Python 👤 Josh-XT User 🕐 Обновлено 2026-07-28 📅 Создано 2023-04-17
47
protectai/llm-guard

Набор инструментов безопасности для LLM-взаимодействий

protectai
⭐ 3,156 Python 👤 protectai Organization 🕐 Обновлено 2025-12-15 📅 Создано 2023-07-27
48
itsdecodingai/second-brain-ai-assistant-course

Научитесь создавать своего ИИ-ассистента «Второй мозг» с помощью LLM, агентов, RAG, дообучения, LLMOps и методов ИИ-систем.

itsdecodingai
⭐ 3,138 Jupyter Notebook 👤 itsdecodingai Organization 🕐 Обновлено 2026-04-06 📅 Создано 2024-12-30
49
vllm-project/vllm-ascend

Аппаратный плагин для vLLM на Huawei Ascend, поддерживаемый сообществом

vllm-project
⭐ 3,128 Python 👤 vllm-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-01-29
50
openlit/openlit

Тот же агент — меньше расходы. Инструменты и инфраструктура, чтобы ваша ИИ-система выполняла больше задач. Меньше токенов. Меньше вычислений. Ниже затраты.

openlit
⭐ 3,094 TypeScript 👤 openlit Organization 🕐 Обновлено 2026-11-19 📅 Создано 2024-01-23

Часто задаваемые вопросы

1

Какой репозиторий по теме #llmops наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #llmops на GitHub — BerriAI/litellm, набравший 63,649 звёзд. Самый быстрый и легкий AI-шлюз. Ядро на Rust с Python SDK. Вызов более 100 LLM API в формате OpenAI (или нативном) с отслеживанием затрат, защитными механизмами, балансировкой нагрузки и ведением журнала [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]

2

Какие языки программирования чаще всего используются в репозиториях по теме #llmops?

Среди наиболее высоко оценённых проектов по теме #llmops на GitHub чаще всего используются языки программирования Python, TypeScript, Jupyter Notebook, Rust.

3

Как рассчитывается рейтинг репозиториев по теме #llmops?

Мы отслеживаем 111 активных репозиториев с открытым исходным кодом, отмеченных тегом #llmops (500 и более звёзд), с общим числом 716,901 звёзд и в среднем 6,458 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.