Git Stars Git Stars

#ai-inference-acceleration Repositories

Entdecke 3 aktive Open-Source-GitHub-Repositories, die mit #ai-inference-acceleration getaggt sind und insgesamt 8,097 Sterne gesammelt haben (durchschnittlich 2,699 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist NVIDIA/Model-Optimizer mit 5,646 Sternen.

3
Gesamtzahl der Repositories
8,097
Gesamtanzahl der Sterne
2,699
Durchschnittliche Sterne/Repo
Programmiersprachen: Python C++

Insgesamt 3 Repositories

1
NVIDIA/Model-Optimizer

Eine einheitliche Bibliothek für SOTA-Modelloptimierungstechniken wie Quantisierung, Destillation, Pruning, neuronale Architektursuche, spekulative Dekodierung usw. Sie komprimiert Deep-Learning-Modelle für nachgelagerte Bereitstellungs-Frameworks wie TensorRT-LLM, TensorRT, vLLM usw., um die Inferenzgeschwindigkeit zu optimieren.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2024-04-23
2
ai-dynamo/nixl

NVIDIA Inference Xfer Library (NIXL)

ai-dynamo
⭐ 1,373 C++ 👤 ai-dynamo Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2025-03-05

Häufig gestellte Fragen

1

Welches ist das beliebteste #ai-inference-acceleration-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#ai-inference-acceleration-Projekt auf GitHub ist NVIDIA/Model-Optimizer mit 5,646 Sternen. Eine einheitliche Bibliothek für SOTA-Modelloptimierungstechniken wie Quantisierung, Destillation, Pruning, neuronale Architektursuche, spekulative Dekodierung usw. Sie komprimiert Deep-Learning-Modelle für nachgelagerte Bereitstellungs-Frameworks wie TensorRT-LLM, TensorRT, vLLM usw., um die Inferenzgeschwindigkeit zu optimieren.

2

Welche Programmiersprachen werden in #ai-inference-acceleration-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #ai-inference-acceleration-Projekten auf GitHub sind Python, C++ die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #ai-inference-acceleration-Repositories berechnet?

Wir verfolgen 3 aktive Open-Source-Repositories, die mit #ai-inference-acceleration getaggt sind (500+ Sterne), mit insgesamt 8,097 Sternen und durchschnittlich 2,699 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.