Git Stars Git Stars

#serving Repositories

Entdecke 17 aktive Open-Source-GitHub-Repositories, die mit #serving getaggt sind und insgesamt 90,023 Sterne gesammelt haben (durchschnittlich 5,295 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist ray-project/ray mit 44,352 Sternen.

17
Gesamtzahl der Repositories
90,023
Gesamtanzahl der Sterne
5,295
Durchschnittliche Sterne/Repo

Insgesamt 17 Repositories

1
ray-project/ray

Ray ist ein AI-Compute-Engine. Ray besteht aus einem zentralen verteilten Runtime und einem Satz von AI-Bibliotheken zur Beschleunigung von ML-Workloads.

ray-project
⭐ 44,352 Python 👤 ray-project Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2016-10-25
2
tensorflow/serving

Ein flexibles, hochperformantes Serving-System für Machine-Learning-Modelle

tensorflow
⭐ 6,364 C++ 👤 tensorflow Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2016-01-26
3
volcano-sh/volcano

Ein Cloud Native Batch-System (Projekt unter CNCF)

volcano-sh
⭐ 6,106 Go 👤 volcano-sh Organization 🕐 Aktualisiert 2026-11-19 📅 Erstellt 2019-03-14
4
skyzh/tiny-llm

LLM-Inferenzsysteme auf Apple Silicon für Systemingenieure kennenlernen: ein kleines vLLM + Qwen erstellen

skyzh
⭐ 5,801 Python 👤 skyzh User 🕐 Aktualisiert 2026-11-16 📅 Erstellt 2025-04-19
5
SeldonIO/seldon-core

Ein MLOps-Framework zum Verpacken, Bereitstellen, Überwachen und Verwalten von Tausenden von Produktions-Machine-Learning-Modellen

SeldonIO
⭐ 4,781 Go 👤 SeldonIO Organization 🕐 Aktualisiert 2026-03-23 📅 Erstellt 2017-12-20
6
ahkarami/Deep-Learning-in-Production

In diesem Repository teile ich nützliche Notizen und Referenzen zum Bereitstellen von Deep-Learning-basierten Modellen in der Produktion.

ahkarami
⭐ 4,380 👤 ahkarami User 🕐 Aktualisiert 2024-11-09 📅 Erstellt 2018-05-03
7
Lightning-AI/LitServe

Ein minimalistisches Python-Framework zum Erstellen benutzerdefinierter KI-Inferenzserver mit vollständiger Kontrolle über Logik, Batching und Skalierung.

Lightning-AI
⭐ 4,015 Python 👤 Lightning-AI Organization 🕐 Aktualisiert 2026-11-01 📅 Erstellt 2023-12-12
8
PaddlePaddle/FastDeploy

Leistungsstarkes Inference- und Deployment-Toolkit für LLMs und VLMs auf Basis von PaddlePaddle

PaddlePaddle
⭐ 3,722 Python 👤 PaddlePaddle Organization 🕐 Aktualisiert 2026-09-24 📅 Erstellt 2022-06-27
9
ray-project/llm-applications

Ein umfassender Leitfaden zum Erstellen von RAG-basierten LLM-Anwendungen für die Produktion.

ray-project
⭐ 1,865 Jupyter Notebook 👤 ray-project Organization 🕐 Aktualisiert 2026-08-15 📅 Erstellt 2023-08-16
10
dingodb/dingo

Eine multimodale Vektordatenbank, die Upserts und Vektorabfragen mit vereinheitlichtem SQL (MySQL-kompatibel) auf strukturierten und unstrukturierten Daten unterstützt und gleichzeitig die Anforderungen an hohe Nebenläufigkeit und extrem niedrige Latenz erfüllt.

dingodb
⭐ 1,706 Java 👤 dingodb Organization 🕐 Aktualisiert 2026-10-30 📅 Erstellt 2021-10-14
11
pixeltable/pixeltable

Die Backend-Agenten werden erstellt mit: multimodaler Datenbank, Orchestrierung und Bereitstellung in einer Datei

pixeltable
⭐ 1,664 Python 👤 pixeltable Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-05-10
12
Delta-ML/delta

DELTA ist eine auf Deep Learning basierende Plattform zur Verarbeitung natürlicher Sprache und Sprache. LF AI & DATA Projects: https://lfaidata.foundation/projects/delta/

Delta-ML
⭐ 1,602 Python 👤 Delta-ML Organization 🕐 Aktualisiert 2025-04-16 📅 Erstellt 2019-05-29
13
openvinotoolkit/model_server

Ein skalierbarer Inferenz-Server für mit OpenVINO™ optimierte Modelle

openvinotoolkit
⭐ 961 C++ 👤 openvinotoolkit Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2018-09-26
14
PaddlePaddle/Serving

Ein flexibler, hochleistungsfähiger Träger für Machine-Learning-Modelle(『飞桨』 Service-Deployment-Framework)

PaddlePaddle
⭐ 926 C++ 👤 PaddlePaddle Organization 🕐 Aktualisiert 2026-02-20 📅 Erstellt 2019-03-31
15
tobegit3hub/simple_tensorflow_serving

Generischer und benutzerfreundlicher Serving-Service für Machine-Learning-Modelle

tobegit3hub
⭐ 758 JavaScript 👤 tobegit3hub User 🕐 Aktualisiert 2025-03-20 📅 Erstellt 2018-01-23
16
meta-soul/MetaSpore

Eine einheitliche End-to-End-Maschinenintelligenz-Plattform

meta-soul
⭐ 540 Python 👤 meta-soul Organization 🕐 Aktualisiert 2024-09-02 📅 Erstellt 2022-03-24
17
vectorch-ai/ScaleLLM

Ein High-Performance-Inferenzsystem für große Sprachmodelle, das für Produktionsumgebungen entwickelt wurde.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Aktualisiert 2025-12-19 📅 Erstellt 2023-07-24

Häufig gestellte Fragen

1

Welches ist das beliebteste #serving-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#serving-Projekt auf GitHub ist ray-project/ray mit 44,352 Sternen. Ray ist ein AI-Compute-Engine. Ray besteht aus einem zentralen verteilten Runtime und einem Satz von AI-Bibliotheken zur Beschleunigung von ML-Workloads.

2

Welche Programmiersprachen werden in #serving-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #serving-Projekten auf GitHub sind Python, C++, Go, Jupyter Notebook die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #serving-Repositories berechnet?

Wir verfolgen 17 aktive Open-Source-Repositories, die mit #serving getaggt sind (500+ Sterne), mit insgesamt 90,023 Sternen und durchschnittlich 5,295 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.