Git Stars Git Stars

#llm-inference-optimization Репозитории

Откройте для себя 18 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-inference-optimization, с общим числом 44,885 звёзд (в среднем 2,493 на проект). Лидером этой темы является guidance-ai/guidance, набравший 21,828 звёзд.

18
Всего репозиториев
44,885
Всего звезд
2,493
Среднее количество звезд на репозиторий
Языки программирования: Python Jupyter Notebook TypeScript

Всего репозиториев: 18

1
guidance-ai/guidance

Язык руководства для управления большими языковыми моделями.

guidance-ai
⭐ 21,828 Jupyter Notebook 👤 guidance-ai Organization 🕐 Обновлено 2026-05-21 📅 Создано 2022-11-10
2
Sumanth077/ai-engineering-toolkit

Курируемый список из более чем 100 библиотек и фреймворков для инженеров по искусственному интеллекту, создающих с помощью LLM

Sumanth077
⭐ 3,402 👤 Sumanth077 User 🕐 Обновлено 2026-05-11 📅 Создано 2025-08-06
3
km1994/LLMs_interview_notes

Этот репозиторий в основном записывает вопросы собеседования, связанные с инженерами алгоритмов больших языковых моделей (LLM).

km1994
⭐ 2,670 👤 km1994 User 🕐 Обновлено 2026-10-11 📅 Создано 2023-09-16
4
maitrix-org/llm-reasoners

Библиотека для продвинутых рассуждений больших языковых моделей

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 Обновлено 2025-06-10 📅 Создано 2023-06-01
5
IPADS-SAI/MobiAgent

Интеллектуальный агент графического интерфейса пользователя для мобильных телефонов

IPADS-SAI
⭐ 1,936 Python 👤 IPADS-SAI Organization 🕐 Обновлено 2026-07-17 📅 Создано 2025-08-29
7
HazyResearch/minions

Большие и малые LLM работают вместе

HazyResearch
⭐ 1,394 Python 👤 HazyResearch Organization 🕐 Обновлено 2026-03-12 📅 Создано 2025-02-03
9
VILA-Lab/Awesome-DLMs

Официальный репозиторий GitHub для обзорной статьи «A Survey on Diffusion Language Models».

VILA-Lab
⭐ 1,252 👤 VILA-Lab Organization 🕐 Обновлено 2026-10-02 📅 Создано 2025-07-14
10
kebijuelun/Awesome-LLM-Learning

Изучение больших языковых моделей (LLM) (Изучение больших языковых моделей)

kebijuelun
⭐ 984 TypeScript 👤 kebijuelun User 🕐 Обновлено 2026-01-05 📅 Создано 2023-08-06
11
sgl-project/sgl-learning-materials

Материалы для изучения SGLang

sgl-project
⭐ 906 👤 sgl-project Organization 🕐 Обновлено 2026-01-05 📅 Создано 2024-09-10
12
feifeibear/LLMSpeculativeSampling

Быстрый вывод больших языковых моделей с помощью спекулятивного декодирования

feifeibear
⭐ 875 Python 👤 feifeibear User 🕐 Обновлено 2024-08-22 📅 Создано 2023-08-16
13
Nebius-Academy/LLM-Engineering-Essentials

Материалы для курса "Основы инженерной подготовки LLM"

Nebius-Academy
⭐ 844 Jupyter Notebook 👤 Nebius-Academy Organization 🕐 Обновлено 2026-03-30 📅 Создано 2025-02-17
14
LLMServe/DistServe

Дезагрегированная система обслуживания для больших языковых моделей (LLM).

LLMServe
⭐ 817 Jupyter Notebook 👤 LLMServe Organization 🕐 Обновлено 2025-04-06 📅 Создано 2024-01-16
15
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (сокращенно Hunyuan-A13B) — инновационная и открытая LLM, построенная на основе детальной архитектуры MoE.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Обновлено 2025-07-08 📅 Создано 2025-06-27
16
castorini/rank_llm

RankLLM — это набор инструментов Python для воспроизводимых исследований в области поиска информации с использованием реранкеров, с акцентом на реранкинг по спискам.

castorini
⭐ 715 Python 👤 castorini Organization 🕐 Обновлено 2026-11-21 📅 Создано 2023-08-07
17
thu-coai/Glyph

Официальный репозиторий для «Glyph: масштабирование контекстных окон с помощью визуально-текстовой компрессии»

thu-coai
⭐ 612 Python 👤 thu-coai Organization 🕐 Обновлено 2025-11-04 📅 Создано 2025-10-20
18
hahnyuan/LLM-Viewer

Анализируйте вывод больших языковых моделей (LLM). Анализируйте такие аспекты, как вычисления, хранение данных, передача и модель аппаратных «потолков» (roofline model) в удобном пользовательском интерфейсе.

hahnyuan
⭐ 600 Python 👤 hahnyuan User 🕐 Обновлено 2024-09-11 📅 Создано 2024-01-07

Часто задаваемые вопросы

1

Какой репозиторий по теме #llm-inference-optimization наиболее популярен на GitHub?

Самый высоко оценённый проект с открытым исходным кодом по теме #llm-inference-optimization на GitHub — guidance-ai/guidance, набравший 21,828 звёзд. Язык руководства для управления большими языковыми моделями.

2

Какие языки программирования чаще всего используются в репозиториях по теме #llm-inference-optimization?

Среди наиболее высоко оценённых проектов по теме #llm-inference-optimization на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, TypeScript.

3

Как рассчитывается рейтинг репозиториев по теме #llm-inference-optimization?

Мы отслеживаем 18 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-inference-optimization (500 и более звёзд), с общим числом 44,885 звёзд и в среднем 2,493 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.