Git Stars Git Stars

#ai-inference-acceleration Репозитории

Откройте для себя 3 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #ai-inference-acceleration, с общим числом 8,097 звёзд (в среднем 2,699 на проект). Лидером этой темы является NVIDIA/Model-Optimizer, набравший 5,646 звёзд.

3
Всего репозиториев
8,097
Всего звезд
2,699
Среднее количество звезд на репозиторий
Языки программирования: Python C++

Всего репозиториев: 3

1
NVIDIA/Model-Optimizer

Единая библиотека методов оптимизации моделей SOTA, таких как квантование, дистилляция, прунинг, поиск нейронных архитектур, спекулятивное декодирование и т. д. Она сжимает модели глубокого обучения для последующих фреймворков развертывания, таких как TensorRT-LLM, TensorRT, vLLM и других, для оптимизации скорости вывода.

NVIDIA
⭐ 5,646 Python 👤 NVIDIA Organization 🕐 Обновлено 2026-11-21 📅 Создано 2024-04-23
2
ai-dynamo/nixl

NVIDIA Inference Xfer Library (NIXL)

ai-dynamo
⭐ 1,373 C++ 👤 ai-dynamo Organization 🕐 Обновлено 2026-11-21 📅 Создано 2025-03-05

Часто задаваемые вопросы

1

Какой репозиторий по теме #ai-inference-acceleration наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #ai-inference-acceleration на GitHub — NVIDIA/Model-Optimizer, набравший 5,646 звёзд. Единая библиотека методов оптимизации моделей SOTA, таких как квантование, дистилляция, прунинг, поиск нейронных архитектур, спекулятивное декодирование и т. д. Она сжимает модели глубокого обучения для последующих фреймворков развертывания, таких как TensorRT-LLM, TensorRT, vLLM и других, для оптимизации скорости вывода.

2

Какие языки программирования чаще всего используются в репозиториях по теме #ai-inference-acceleration?

Среди наиболее высоко оценённых проектов по теме #ai-inference-acceleration на GitHub чаще всего используются языки программирования Python, C++.

3

Как рассчитывается рейтинг репозиториев по теме #ai-inference-acceleration?

Мы отслеживаем 3 активных репозиториев с открытым исходным кодом, отмеченных тегом #ai-inference-acceleration (500 и более звёзд), с общим числом 8,097 звёзд и в среднем 2,699 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.