Git Stars Git Stars

#llm-inference-acceleration Репозитории

Откройте для себя 6 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-inference-acceleration, с общим числом 6,745 звёзд (в среднем 1,124 на проект). Лидером этой темы является ByteDance-Seed/Triton-distributed, набравший 1,587 звёзд.

6
Всего репозиториев
6,745
Всего звезд
1,124
Среднее количество звезд на репозиторий
Языки программирования: Python Jupyter Notebook

Всего репозиториев: 6

1
ByteDance-Seed/Triton-distributed

Распределённый компилятор и оптимизированные параллельные ядра

ByteDance-Seed
⭐ 1,587 Python 👤 ByteDance-Seed Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-04-02
2
hao-ai-lab/LookaheadDecoding

[ICML 2024] Преодоление последовательной зависимости при выводе LLM с использованием упреждающего декодирования

hao-ai-lab
⭐ 1,337 Python 👤 hao-ai-lab Organization 🕐 Обновлено 2025-03-06 📅 Создано 2023-11-21
3
Vahe1994/AQLM

Официальный репозиторий Pytorch для экстремального сжатия больших языковых моделей с помощью аддитивной квантизации https://arxiv.org/pdf/2401.06118.pdf и PV-Tuning: за пределами прямого оценивания для экстремального сжатия LLM https://arxiv.org/abs/2405.14852

Vahe1994
⭐ 1,330 Python 👤 Vahe1994 User 🕐 Обновлено 2026-02-26 📅 Создано 2024-01-12
5
skapadia3214/groq-moa

Смесь агентов с использованием Groq

skapadia3214
⭐ 940 Python 👤 skapadia3214 User 🕐 Обновлено 2024-08-09 📅 Создано 2024-06-17

Часто задаваемые вопросы

1

Какой репозиторий по теме #llm-inference-acceleration наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #llm-inference-acceleration на GitHub — ByteDance-Seed/Triton-distributed, набравший 1,587 звёзд. Распределённый компилятор и оптимизированные параллельные ядра

2

Какие языки программирования чаще всего используются в репозиториях по теме #llm-inference-acceleration?

Среди наиболее высоко оценённых проектов по теме #llm-inference-acceleration на GitHub чаще всего используются языки программирования Python, Jupyter Notebook.

3

Как рассчитывается рейтинг репозиториев по теме #llm-inference-acceleration?

Мы отслеживаем 6 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-inference-acceleration (500 и более звёзд), с общим числом 6,745 звёзд и в среднем 1,124 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.