#serving Repositories
Entdecke 17 aktive Open-Source-GitHub-Repositories, die mit #serving getaggt sind und insgesamt 90,023 Sterne gesammelt haben (durchschnittlich 5,295 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist ray-project/ray mit 44,352 Sternen.
Insgesamt 17 Repositories
Ray ist ein AI-Compute-Engine. Ray besteht aus einem zentralen verteilten Runtime und einem Satz von AI-Bibliotheken zur Beschleunigung von ML-Workloads.
LLM-Inferenzsysteme auf Apple Silicon für Systemingenieure kennenlernen: ein kleines vLLM + Qwen erstellen
Ein MLOps-Framework zum Verpacken, Bereitstellen, Überwachen und Verwalten von Tausenden von Produktions-Machine-Learning-Modellen
In diesem Repository teile ich nützliche Notizen und Referenzen zum Bereitstellen von Deep-Learning-basierten Modellen in der Produktion.
Ein minimalistisches Python-Framework zum Erstellen benutzerdefinierter KI-Inferenzserver mit vollständiger Kontrolle über Logik, Batching und Skalierung.
Leistungsstarkes Inference- und Deployment-Toolkit für LLMs und VLMs auf Basis von PaddlePaddle
Ein umfassender Leitfaden zum Erstellen von RAG-basierten LLM-Anwendungen für die Produktion.
Eine multimodale Vektordatenbank, die Upserts und Vektorabfragen mit vereinheitlichtem SQL (MySQL-kompatibel) auf strukturierten und unstrukturierten Daten unterstützt und gleichzeitig die Anforderungen an hohe Nebenläufigkeit und extrem niedrige Latenz erfüllt.
Die Backend-Agenten werden erstellt mit: multimodaler Datenbank, Orchestrierung und Bereitstellung in einer Datei
DELTA ist eine auf Deep Learning basierende Plattform zur Verarbeitung natürlicher Sprache und Sprache. LF AI & DATA Projects: https://lfaidata.foundation/projects/delta/
Ein skalierbarer Inferenz-Server für mit OpenVINO™ optimierte Modelle
Ein flexibler, hochleistungsfähiger Träger für Machine-Learning-Modelle(『飞桨』 Service-Deployment-Framework)
Generischer und benutzerfreundlicher Serving-Service für Machine-Learning-Modelle
Ein High-Performance-Inferenzsystem für große Sprachmodelle, das für Produktionsumgebungen entwickelt wurde.
Häufig gestellte Fragen
Welches ist das beliebteste #serving-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#serving-Projekt auf GitHub ist ray-project/ray mit 44,352 Sternen. Ray ist ein AI-Compute-Engine. Ray besteht aus einem zentralen verteilten Runtime und einem Satz von AI-Bibliotheken zur Beschleunigung von ML-Workloads.
Welche Programmiersprachen werden in #serving-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #serving-Projekten auf GitHub sind Python, C++, Go, Jupyter Notebook die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #serving-Repositories berechnet?
Wir verfolgen 17 aktive Open-Source-Repositories, die mit #serving getaggt sind (500+ Sterne), mit insgesamt 90,023 Sternen und durchschnittlich 5,295 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.