Git Stars Git Stars

#low-latency-inference Репозитории

Откройте для себя 14 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #low-latency-inference, с общим числом 56,906 звёзд (в среднем 4,064 на проект). Лидером этой темы является alievk/avatarify-python, набравший 16,551 звёзд.

14
Всего репозиториев
56,906
Всего звезд
4,064
Среднее количество звезд на репозиторий
Языки программирования: Python C++ Cuda

Всего репозиториев: 14

1
alievk/avatarify-python

Аватары для Zoom, Skype и других приложений для видеоконференций.

alievk
⭐ 16,551 Python 👤 alievk User 🕐 Обновлено 2024-08-30 📅 Создано 2020-04-06
2
kyutai-labs/moshi

Moshi — это базовая модель преобразования речи в текст и полнодуплексная система речевого диалога. Она использует Mimi, передовой потоковый нейронный аудиокодек.

kyutai-labs
⭐ 11,573 Python 👤 kyutai-labs Organization 🕐 Обновлено 2026-09-09 📅 Создано 2024-08-07
3
deepseek-ai/DeepEP

DeepEP: эффективная библиотека экспертно-параллельных вычислений

deepseek-ai
⭐ 10,462 Cuda 👤 deepseek-ai Organization 🕐 Обновлено 2026-11-20 📅 Создано 2025-02-17
4
MoonshotAI/Kimi-Audio

Kimi-Audio, основа фундаментальной модели аудио с открытым исходным кодом, превосходная в понимании, генерации и диалоге аудио

MoonshotAI
⭐ 4,654 Python 👤 MoonshotAI Organization 🕐 Обновлено 2025-06-21 📅 Создано 2025-04-25
5
turboderp-org/exllamav2

Быстрая библиотека вывода для локального запуска LLM на современных потребительских GPU

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 Обновлено 2026-03-04 📅 Создано 2023-08-30
6
microsoft/BlingFire

Молниеносно быстрая библиотека для работы с конечными автоматами и регулярными выражениями.

microsoft
⭐ 1,877 C++ 👤 microsoft Organization 🕐 Обновлено 2024-12-08 📅 Создано 2019-03-13
7
ModelTC/LightX2V-Qwen-Image-Lightning

Qwen-Image-Lightning: Ускорение модели Qwen-Image с помощью дистилляции

ModelTC
⭐ 1,368 Python 👤 ModelTC Organization 🕐 Обновлено 2026-08-31 📅 Создано 2025-08-09
8
Ksuriuri/index-tts-vllm

Добавлена поддержка vLLM в IndexTTS для ускорения вывода.

Ksuriuri
⭐ 1,244 Python 👤 Ksuriuri User 🕐 Обновлено 2026-04-13 📅 Создано 2025-05-03
9
dmlc/treelite

Универсальный формат обмена и сериализации моделей для лесов деревьев решений

dmlc
⭐ 833 C++ 👤 dmlc Organization 🕐 Обновлено 2026-11-17 📅 Создано 2017-06-28
10
Passer1072/RookieAI_yolov8

Проект ИИ-самоприцеливания на основе yolov8

Passer1072
⭐ 831 Python 👤 Passer1072 User 🕐 Обновлено 2026-02-04 📅 Создано 2024-03-03
11
wenet-e2e/wekws

Готовый к производству сквозной набор инструментов для распознавания ключевых слов

wenet-e2e
⭐ 776 Python 👤 wenet-e2e Organization 🕐 Обновлено 2026-07-23 📅 Создано 2021-11-06
13
MDK8888/GPTFast

Ускорьте ваши Hugging Face Transformers в 7,6-9 раз. Нативно для Hugging Face и PyTorch.

MDK8888
⭐ 687 Python 👤 MDK8888 User 🕐 Обновлено 2024-08-22 📅 Создано 2024-02-18
14
VITA-MLLM/VITA-Audio

✨✨[NeurIPS 2025] VITA-Audio: Быстрая перемежающаяся кросс-модальная генерация токенов для эффективной крупной речеязыковой модели

VITA-MLLM
⭐ 679 Python 👤 VITA-MLLM Organization 🕐 Обновлено 2025-05-24 📅 Создано 2025-04-23

Часто задаваемые вопросы

1

Какой репозиторий по теме #low-latency-inference наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #low-latency-inference на GitHub — alievk/avatarify-python, набравший 16,551 звёзд. Аватары для Zoom, Skype и других приложений для видеоконференций.

2

Какие языки программирования чаще всего используются в репозиториях по теме #low-latency-inference?

Среди наиболее высоко оценённых проектов по теме #low-latency-inference на GitHub чаще всего используются языки программирования Python, C++, Cuda.

3

Как рассчитывается рейтинг репозиториев по теме #low-latency-inference?

Мы отслеживаем 14 активных репозиториев с открытым исходным кодом, отмеченных тегом #low-latency-inference (500 и более звёзд), с общим числом 56,906 звёзд и в среднем 4,064 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.