Git Stars Git Stars

#distributed-inference 仓库

探索 11 个标记为 #distributed-inference 的活跃开源 GitHub 仓库,它们累计获得 76,339 个 Star(平均每个项目 6,939 个)。该主题的领先项目是 exo-explore/exo,拥有 48,516 个 Star。

11
仓库总数
76,339
总星标数
6,939
平均每个仓库星标数
1
exo-explore/exo

在本地运行 Frontier AI。

exo-explore
⭐ 48,516 Python 👤 exo-explore Organization 🕐 已更新 2026-11-06 📅 创建时间 2024-06-24
2
flashinfer-ai/flashinfer

FlashInfer: LLM推理服务内核库

flashinfer-ai
⭐ 6,982 Cuda 👤 flashinfer-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-07-22
3
gpustack/gpustack

一个用于高性能 AI 模型服务(vLLM, SGLang)和按需 SSH 访问 GPU 实例的 GPU 集群管理器。

gpustack
⭐ 6,097 Python 👤 gpustack Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-05-11
4
llm-d/llm-d

在 Kubernetes 上借助现代加速器实现最先进的推理性能

llm-d
⭐ 5,325 Python 👤 llm-d Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-04-29
5
evilsocket/cake

适用于移动、桌面和服务器的分布式推理。

evilsocket
⭐ 3,141 Rust 👤 evilsocket User 🕐 已更新 2026-04-24 📅 创建时间 2024-07-07
6
Robbyant/lingbot-va

[RSS 2026] 用于通用机器人控制的因果视频动作世界模型

Robbyant
⭐ 1,989 Python 👤 Robbyant Organization 🕐 已更新 2026-07-09 📅 创建时间 2026-01-29
7
sgl-project/sglang-omni

面向交互式超级智能系统的高性能服务运行时

sgl-project
⭐ 1,882 Python 👤 sgl-project Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-01-07
8
Nehanth/pooled

在浏览器中进行点对点 LLM 推理:汇聚你的设备,运行大型开源模型,用于聊天和编程代理。

Nehanth
⭐ 658 JavaScript 👤 Nehanth User 🕐 已更新 2026-11-03 📅 创建时间 2026-09-01
9
MCG-NJU/SteadyDancer

SteadyDancer: 结合首帧保留的和谐连贯人体图像动画

MCG-NJU
⭐ 652 Python 👤 MCG-NJU Organization 🕐 已更新 2025-12-23 📅 创建时间 2025-11-21
10
nihalsid/mesh-gpt

MeshGPT: 使用仅解码器Transformer生成三角形网格

nihalsid
⭐ 632 👤 nihalsid User 🕐 已更新 2024-10-31 📅 创建时间 2023-11-26
11
xingchensong/S3Tokenizer

CosyVoice中提出的监督式语义语音分词器(S3Tokenizer)的逆向工程

xingchensong
⭐ 536 Python 👤 xingchensong User 🕐 已更新 2026-11-01 📅 创建时间 2024-09-09

常见问题解答

1

GitHub 上最受欢迎的 #distributed-inference 仓库是什么?

GitHub 上排名第一的开源 #distributed-inference 项目是 exo-explore/exo,拥有 48,516 个 Star。在本地运行 Frontier AI。

2

#distributed-inference 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #distributed-inference 项目中,最常见的编程语言是 Python, Cuda, Rust, JavaScript。

3

#distributed-inference 仓库的排名是如何计算的?

我们跟踪了 11 个标记为 #distributed-inference 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 76,339 个 Star,平均每个仓库拥有 6,939 个 Star。排名每日根据 GitHub API 更新。