Git Stars Git Stars

#llm-inference-optimization 仓库

探索 18 个标记为 #llm-inference-optimization 的活跃开源 GitHub 仓库,它们累计获得 44,885 个 Star(平均每个项目 2,493 个)。该主题的领先项目是 guidance-ai/guidance,拥有 21,828 个 Star。

18
仓库总数
44,885
总星标数
2,493
平均每个仓库星标数
1
guidance-ai/guidance

一种用于控制大型语言模型的指导语言。

guidance-ai
⭐ 21,828 Jupyter Notebook 👤 guidance-ai Organization 🕐 已更新 2026-05-21 📅 创建时间 2022-11-10
2
Sumanth077/ai-engineering-toolkit

为构建 LLM 的 AI 工程师精选的 100 多个库和框架列表

Sumanth077
⭐ 3,402 👤 Sumanth077 User 🕐 已更新 2026-05-11 📅 创建时间 2025-08-06
3
km1994/LLMs_interview_notes

该仓库主要记录 大模型(LLMs) 算法工程师相关的面试题

km1994
⭐ 2,670 👤 km1994 User 🕐 已更新 2026-10-11 📅 创建时间 2023-09-16
4
maitrix-org/llm-reasoners

用于高级大型语言模型推理的库

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 已更新 2025-06-10 📅 创建时间 2023-06-01
5
IPADS-SAI/MobiAgent

移动电话的智能图形用户界面代理

IPADS-SAI
⭐ 1,936 Python 👤 IPADS-SAI Organization 🕐 已更新 2026-07-17 📅 创建时间 2025-08-29
7
HazyResearch/minions

大语言模型与小语言模型协同工作

HazyResearch
⭐ 1,394 Python 👤 HazyResearch Organization 🕐 已更新 2026-03-12 📅 创建时间 2025-02-03
9
VILA-Lab/Awesome-DLMs

综述论文“A Survey on Diffusion Language Models”的官方GitHub仓库。

VILA-Lab
⭐ 1,252 👤 VILA-Lab Organization 🕐 已更新 2026-10-02 📅 创建时间 2025-07-14
10
kebijuelun/Awesome-LLM-Learning

学习大型语言模型 (LLM) (大型语言模型学习)

kebijuelun
⭐ 984 TypeScript 👤 kebijuelun User 🕐 已更新 2026-01-05 📅 创建时间 2023-08-06
12
feifeibear/LLMSpeculativeSampling

通过推测性解码从大型语言模型进行快速推理

feifeibear
⭐ 875 Python 👤 feifeibear User 🕐 已更新 2024-08-22 📅 创建时间 2023-08-16
13
Nebius-Academy/LLM-Engineering-Essentials

LLM 工程基础课程材料

Nebius-Academy
⭐ 844 Jupyter Notebook 👤 Nebius-Academy Organization 🕐 已更新 2026-03-30 📅 创建时间 2025-02-17
14
LLMServe/DistServe

大型语言模型(LLM)的分散式服务系统。

LLMServe
⭐ 817 Jupyter Notebook 👤 LLMServe Organization 🕐 已更新 2025-04-06 📅 创建时间 2024-01-16
15
Tencent-Hunyuan/Hunyuan-A13B

Hunyuan-A13B”,一个建立在细粒度MoE架构上的创新型开源大模型。

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 已更新 2025-07-08 📅 创建时间 2025-06-27
16
castorini/rank_llm

RankLLM 是一个用于可复现信息检索研究的 Python 工具包,使用重新排序器,重点关注列表式重新排序。

castorini
⭐ 715 Python 👤 castorini Organization 🕐 已更新 2026-11-21 📅 创建时间 2023-08-07
17
thu-coai/Glyph

“Glyph:通过视觉文本压缩扩展上下文窗口”的官方存储库

thu-coai
⭐ 612 Python 👤 thu-coai Organization 🕐 已更新 2025-11-04 📅 创建时间 2025-10-20
18
hahnyuan/LLM-Viewer

分析大型语言模型(LLM)的推理。 在用户友好的界面中分析计算、存储、传输和硬件性能瓶颈模型等方面的因素。

hahnyuan
⭐ 600 Python 👤 hahnyuan User 🕐 已更新 2024-09-11 📅 创建时间 2024-01-07

常见问题解答

1

GitHub 上最受欢迎的 #llm-inference-optimization 仓库是什么?

GitHub 上排名第一的开源 #llm-inference-optimization 项目是 guidance-ai/guidance,拥有 21,828 个 Star。一种用于控制大型语言模型的指导语言。

2

#llm-inference-optimization 仓库中最常使用的编程语言有哪些?

在 GitHub 上排名靠前的 #llm-inference-optimization 项目中,最常见的编程语言是 Python, Jupyter Notebook, TypeScript。

3

#llm-inference-optimization 仓库的排名是如何计算的?

我们跟踪了 18 个标记为 #llm-inference-optimization 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 44,885 个 Star,平均每个仓库拥有 2,493 个 Star。排名每日根据 GitHub API 更新。