Git Stars Git Stars

#low-latency-inference 仓库

探索 14 个标记为 #low-latency-inference 的活跃开源 GitHub 仓库,它们累计获得 56,906 个 Star(平均每个项目 4,064 个)。该主题的领先项目是 alievk/avatarify-python,拥有 16,551 个 Star。

14
仓库总数
56,906
总星标数
4,064
平均每个仓库星标数
1
alievk/avatarify-python

Zoom、Skype及其他视频会议应用的头像。

alievk
⭐ 16,551 Python 👤 alievk User 🕐 已更新 2024-08-30 📅 创建时间 2020-04-06
2
kyutai-labs/moshi

Moshi 是一个语音-文本基础模型和全双工语音对话框架。它使用了 Mimi,一个最先进的流式神经网络音频编解码器。

kyutai-labs
⭐ 11,573 Python 👤 kyutai-labs Organization 🕐 已更新 2026-09-09 📅 创建时间 2024-08-07
3
deepseek-ai/DeepEP

DeepEP:一个高效的专家并行通信库

deepseek-ai
⭐ 10,462 Cuda 👤 deepseek-ai Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-02-17
4
MoonshotAI/Kimi-Audio

Kimi-Audio,一个在音频理解、生成和对话方面表现出色的开源音频基础模型

MoonshotAI
⭐ 4,654 Python 👤 MoonshotAI Organization 🕐 已更新 2025-06-21 📅 创建时间 2025-04-25
5
turboderp-org/exllamav2

在现代消费级GPU上本地运行LLM的快速推理库

turboderp-org
⭐ 4,653 Python 👤 turboderp-org Organization 🕐 已更新 2026-03-04 📅 创建时间 2023-08-30
6
microsoft/BlingFire

一个闪电般快速的有限状态机和正则表达式操作库。

microsoft
⭐ 1,877 C++ 👤 microsoft Organization 🕐 已更新 2024-12-08 📅 创建时间 2019-03-13
7
ModelTC/LightX2V-Qwen-Image-Lightning

Qwen-Image-Lightning:通过蒸馏加速 Qwen-Image 模型

ModelTC
⭐ 1,368 Python 👤 ModelTC Organization 🕐 已更新 2026-08-31 📅 创建时间 2025-08-09
8
Ksuriuri/index-tts-vllm

为 IndexTTS 添加了 vLLM 支持,以加快推理速度。

Ksuriuri
⭐ 1,244 Python 👤 Ksuriuri User 🕐 已更新 2026-04-13 📅 创建时间 2025-05-03
9
dmlc/treelite

决策树森林的通用模型交换和序列化格式

dmlc
⭐ 833 C++ 👤 dmlc Organization 🕐 已更新 2026-11-17 📅 创建时间 2017-06-28
10
Passer1072/RookieAI_yolov8

基于yolov8实现的AI自瞄项目

Passer1072
⭐ 831 Python 👤 Passer1072 User 🕐 已更新 2026-02-04 📅 创建时间 2024-03-03
11
wenet-e2e/wekws

生产就绪的端到端关键词识别工具包

wenet-e2e
⭐ 776 Python 👤 wenet-e2e Organization 🕐 已更新 2026-07-23 📅 创建时间 2021-11-06
13
MDK8888/GPTFast

将您的 Hugging Face Transformers 加速 7.6-9 倍。原生支持 Hugging Face 和 PyTorch。

MDK8888
⭐ 687 Python 👤 MDK8888 User 🕐 已更新 2024-08-22 📅 创建时间 2024-02-18
14
VITA-MLLM/VITA-Audio

✨✨[NeurIPS 2025] VITA-Audio: 面向高效大型语音语言模型的快速交错跨模态词元生成

VITA-MLLM
⭐ 679 Python 👤 VITA-MLLM Organization 🕐 已更新 2025-05-24 📅 创建时间 2025-04-23

常见问题解答

1

GitHub 上最受欢迎的 #low-latency-inference 仓库是什么?

GitHub 上排名第一的开源 #low-latency-inference 项目是 alievk/avatarify-python,拥有 16,551 个 Star。Zoom、Skype及其他视频会议应用的头像。

2

#low-latency-inference 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #low-latency-inference 项目中,最常见的编程语言是 Python, C++, Cuda。

3

#low-latency-inference 仓库的排名是如何计算的?

我们跟踪了 14 个标记为 #low-latency-inference 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 56,906 个 Star,平均每个仓库拥有 4,064 个 Star。排名每日根据 GitHub API 更新。