#llm-inference-acceleration Репозитории
Откройте для себя 6 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-inference-acceleration, с общим числом 6,745 звёзд (в среднем 1,124 на проект). Лидером этой темы является ByteDance-Seed/Triton-distributed, набравший 1,587 звёзд.
Всего репозиториев: 6
[ICML 2024] Преодоление последовательной зависимости при выводе LLM с использованием упреждающего декодирования
Официальный репозиторий Pytorch для экстремального сжатия больших языковых моделей с помощью аддитивной квантизации https://arxiv.org/pdf/2401.06118.pdf и PV-Tuning: за пределами прямого оценивания для экстремального сжатия LLM https://arxiv.org/abs/2405.14852
Часто задаваемые вопросы
Какой репозиторий по теме #llm-inference-acceleration наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llm-inference-acceleration на GitHub — ByteDance-Seed/Triton-distributed, набравший 1,587 звёзд. Распределённый компилятор и оптимизированные параллельные ядра
Какие языки программирования чаще всего используются в репозиториях по теме #llm-inference-acceleration?
Среди наиболее высоко оценённых проектов по теме #llm-inference-acceleration на GitHub чаще всего используются языки программирования Python, Jupyter Notebook.
Как рассчитывается рейтинг репозиториев по теме #llm-inference-acceleration?
Мы отслеживаем 6 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-inference-acceleration (500 и более звёзд), с общим числом 6,745 звёзд и в среднем 1,124 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.