Git Stars Git Stars

#tensor-parallelism 仓库

探索 14 个标记为 #tensor-parallelism 的活跃开源 GitHub 仓库,它们累计获得 45,528 个 Star(平均每个项目 3,252 个)。该主题的领先项目是 bigscience-workshop/petals,拥有 9,864 个 Star。

14
仓库总数
45,528
总星标数
3,252
平均每个仓库星标数
编程语言: Python C++
1
bigscience-workshop/petals

在本地运行LLMs,BitTorrent风格。微调和推理速度比卸载快10倍

bigscience-workshop
⭐ 9,864 Python 👤 bigscience-workshop Organization 🕐 已更新 2024-09-07 📅 创建时间 2022-06-12
2
google/gemma.cpp

Google Gemma 模型轻量级独立 C++ 推理引擎。

google
⭐ 7,089 C++ 👤 google Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-02-13
3
meta-pytorch/gpt-fast

python < 1000 LOC 内实现简单高效的 Pytorch 原生 Transformer 文本生成。

meta-pytorch
⭐ 6,244 Python 👤 meta-pytorch Organization 🕐 已更新 2025-08-22 📅 创建时间 2023-10-17
4
pytorch/torchtitan

用于训练生成式AI模型的PyTorch原生平台

pytorch
⭐ 5,936 Python 👤 pytorch Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-12-13
5
sgl-project/mini-sglang

SGLang 的一个紧凑实现,旨在揭开现代 LLM 服务系统复杂性的神秘面纱。

sgl-project
⭐ 5,623 Python 👤 sgl-project Organization 🕐 已更新 2026-05-17 📅 创建时间 2025-09-01
6
turboderp-org/exllamav3

一款优化的量化和推理库,用于在现代消费级 GPU 上本地运行 LLM

turboderp-org
⭐ 1,853 Python 👤 turboderp-org Organization 🕐 已更新 2026-11-19 📅 创建时间 2025-04-06
7
ByteDance-Seed/Triton-distributed

分布式编译器与优化的并行内核

ByteDance-Seed
⭐ 1,587 Python 👤 ByteDance-Seed Organization 🕐 已更新 2026-11-20 📅 创建时间 2025-04-02
8
bigscience-workshop/Megatron-DeepSpeed

持续研究大规模训练 Transformer 语言模型,包括:BERT 和 GPT-2

bigscience-workshop
⭐ 1,426 Python 👤 bigscience-workshop Organization 🕐 已更新 2024-03-20 📅 创建时间 2021-07-02
9
NVIDIA-NeMo/labs-molt

一个可扩展、以智能体为先且原生支持 HuggingFace 的研究型强化学习框架(9000 行代码)。

NVIDIA-NeMo
⭐ 1,395 Python 👤 NVIDIA-NeMo Organization 🕐 已更新 2026-11-21 📅 创建时间 2026-06-23
10
tanishqkumar/beyond-nanogpt

现代深度学习研究的关键思想的最小化和带注释的实现。

tanishqkumar
⭐ 1,361 Python 👤 tanishqkumar User 🕐 已更新 2026-01-29 📅 创建时间 2025-04-16
12
MDK8888/GPTFast

将您的 Hugging Face Transformers 加速 7.6-9 倍。原生支持 Hugging Face 和 PyTorch。

MDK8888
⭐ 687 Python 👤 MDK8888 User 🕐 已更新 2024-08-22 📅 创建时间 2024-02-18

常见问题解答

1

GitHub 上最受欢迎的 #tensor-parallelism 仓库是什么?

GitHub 上排名第一的开源 #tensor-parallelism 项目是 bigscience-workshop/petals,拥有 9,864 个 Star。在本地运行LLMs,BitTorrent风格。微调和推理速度比卸载快10倍

2

#tensor-parallelism 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #tensor-parallelism 项目中,最常见的编程语言是 Python, C++。

3

#tensor-parallelism 仓库的排名是如何计算的?

我们跟踪了 14 个标记为 #tensor-parallelism 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 45,528 个 Star,平均每个仓库拥有 3,252 个 Star。排名每日根据 GitHub API 更新。