#ai-inference-acceleration Репозитории
Откройте для себя 3 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #ai-inference-acceleration, с общим числом 8,097 звёзд (в среднем 2,699 на проект). Лидером этой темы является NVIDIA/Model-Optimizer, набравший 5,646 звёзд.
Всего репозиториев: 3
Единая библиотека методов оптимизации моделей SOTA, таких как квантование, дистилляция, прунинг, поиск нейронных архитектур, спекулятивное декодирование и т. д. Она сжимает модели глубокого обучения для последующих фреймворков развертывания, таких как TensorRT-LLM, TensorRT, vLLM и других, для оптимизации скорости вывода.
Часто задаваемые вопросы
Какой репозиторий по теме #ai-inference-acceleration наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #ai-inference-acceleration на GitHub — NVIDIA/Model-Optimizer, набравший 5,646 звёзд. Единая библиотека методов оптимизации моделей SOTA, таких как квантование, дистилляция, прунинг, поиск нейронных архитектур, спекулятивное декодирование и т. д. Она сжимает модели глубокого обучения для последующих фреймворков развертывания, таких как TensorRT-LLM, TensorRT, vLLM и других, для оптимизации скорости вывода.
Какие языки программирования чаще всего используются в репозиториях по теме #ai-inference-acceleration?
Среди наиболее высоко оценённых проектов по теме #ai-inference-acceleration на GitHub чаще всего используются языки программирования Python, C++.
Как рассчитывается рейтинг репозиториев по теме #ai-inference-acceleration?
Мы отслеживаем 3 активных репозиториев с открытым исходным кодом, отмеченных тегом #ai-inference-acceleration (500 и более звёзд), с общим числом 8,097 звёзд и в среднем 2,699 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.