Git Stars Git Stars

#serving Репозитории

Откройте для себя 17 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #serving, с общим числом 90,023 звёзд (в среднем 5,295 на проект). Лидером этой темы является ray-project/ray, набравший 44,352 звёзд.

17
Всего репозиториев
90,023
Всего звезд
5,295
Среднее количество звезд на репозиторий
Языки программирования: Python C++ Go Jupyter Notebook Java JavaScript

Всего репозиториев: 17

1
ray-project/ray

Ray — это движок вычислений ИИ. Ray состоит из основной распределённой среды выполнения и набора библиотек ИИ для ускорения нагрузок ML.

ray-project
⭐ 44,352 Python 👤 ray-project Organization 🕐 Обновлено 2026-11-21 📅 Создано 2016-10-25
2
tensorflow/serving

Гибкая высокопроизводительная система обслуживания для моделей машинного обучения

tensorflow
⭐ 6,364 C++ 👤 tensorflow Organization 🕐 Обновлено 2026-11-19 📅 Создано 2016-01-26
3
volcano-sh/volcano

Облачная нативная система пакетной обработки (Проект под CNCF)

volcano-sh
⭐ 6,106 Go 👤 volcano-sh Organization 🕐 Обновлено 2026-11-19 📅 Создано 2019-03-14
4
skyzh/tiny-llm

Изучите системы инференса LLM на Apple Silicon для системных инженеров: создайте небольшой vLLM + Qwen

skyzh
⭐ 5,801 Python 👤 skyzh User 🕐 Обновлено 2026-11-16 📅 Создано 2025-04-19
5
SeldonIO/seldon-core

Фреймворк MLOps для упаковки, развертывания, мониторинга и управления тысячами производственных моделей машинного обучения

SeldonIO
⭐ 4,781 Go 👤 SeldonIO Organization 🕐 Обновлено 2026-03-23 📅 Создано 2017-12-20
6
ahkarami/Deep-Learning-in-Production

В этом репозитории я поделюсь полезными заметками и ссылками о развертывании моделей на основе глубокого обучения в продакшене.

ahkarami
⭐ 4,380 👤 ahkarami User 🕐 Обновлено 2024-11-09 📅 Создано 2018-05-03
7
Lightning-AI/LitServe

Минималистичный фреймворк на Python для создания пользовательских серверов вывода ИИ с полным контролем над логикой, пакетированием и масштабированием.

Lightning-AI
⭐ 4,015 Python 👤 Lightning-AI Organization 🕐 Обновлено 2026-11-01 📅 Создано 2023-12-12
8
PaddlePaddle/FastDeploy

Высокопроизводительный набор инструментов для инференса и развертывания LLM и VLM на базе PaddlePaddle

PaddlePaddle
⭐ 3,722 Python 👤 PaddlePaddle Organization 🕐 Обновлено 2026-09-24 📅 Создано 2022-06-27
9
ray-project/llm-applications

Комплексное руководство по созданию LLM-приложений на основе RAG для производственной среды.

ray-project
⭐ 1,865 Jupyter Notebook 👤 ray-project Organization 🕐 Обновлено 2026-08-15 📅 Создано 2023-08-16
10
dingodb/dingo

Мультимодальная векторная база данных, поддерживающая вставки (upserts) и векторные запросы с использованием унифицированного SQL (совместимого с MySQL) для структурированных и неструктурированных данных, отвечающая требованиям высокой параллельности и сверхнизкой задержки.

dingodb
⭐ 1,706 Java 👤 dingodb Organization 🕐 Обновлено 2026-10-30 📅 Создано 2021-10-14
11
pixeltable/pixeltable

Бэкенд-агенты создаются с мультимодальной базой данных, оркестрацией и обслуживанием в одном файле

pixeltable
⭐ 1,664 Python 👤 pixeltable Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-05-10
12
Delta-ML/delta

DELTA — это платформа обработки естественного языка и речи на основе глубокого обучения. LF AI & DATA Projects: https://lfaidata.foundation/projects/delta/

Delta-ML
⭐ 1,602 Python 👤 Delta-ML Organization 🕐 Обновлено 2025-04-16 📅 Создано 2019-05-29
13
openvinotoolkit/model_server

Масштабируемый сервер вывода для моделей, оптимизированных с помощью OpenVINO™

openvinotoolkit
⭐ 961 C++ 👤 openvinotoolkit Organization 🕐 Обновлено 2026-11-21 📅 Создано 2018-09-26
14
PaddlePaddle/Serving

Гибкий высокопроизводительный носитель для моделей машинного обучения(『飞桨』 Фреймворк сервисной развертки)

PaddlePaddle
⭐ 926 C++ 👤 PaddlePaddle Organization 🕐 Обновлено 2026-02-20 📅 Создано 2019-03-31
15
tobegit3hub/simple_tensorflow_serving

Общий и удобный в использовании сервис обслуживания для моделей машинного обучения

tobegit3hub
⭐ 758 JavaScript 👤 tobegit3hub User 🕐 Обновлено 2025-03-20 📅 Создано 2018-01-23
16
meta-soul/MetaSpore

Единая комплексная платформа машинного интеллекта

meta-soul
⭐ 540 Python 👤 meta-soul Organization 🕐 Обновлено 2024-09-02 📅 Создано 2022-03-24
17
vectorch-ai/ScaleLLM

Высокопроизводительная система вывода для больших языковых моделей, предназначенная для производственных сред.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Обновлено 2025-12-19 📅 Создано 2023-07-24

Часто задаваемые вопросы

1

Какой репозиторий по теме #serving наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #serving на GitHub — ray-project/ray, набравший 44,352 звёзд. Ray — это движок вычислений ИИ. Ray состоит из основной распределённой среды выполнения и набора библиотек ИИ для ускорения нагрузок ML.

2

Какие языки программирования чаще всего используются в репозиториях по теме #serving?

Среди наиболее высоко оценённых проектов по теме #serving на GitHub чаще всего используются языки программирования Python, C++, Go, Jupyter Notebook.

3

Как рассчитывается рейтинг репозиториев по теме #serving?

Мы отслеживаем 17 активных репозиториев с открытым исходным кодом, отмеченных тегом #serving (500 и более звёзд), с общим числом 90,023 звёзд и в среднем 5,295 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.