Git Stars Git Stars

#llm-inference-optimization Repositories

Entdecke 18 aktive Open-Source-GitHub-Repositories, die mit #llm-inference-optimization getaggt sind und insgesamt 44,885 Sterne gesammelt haben (durchschnittlich 2,493 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist guidance-ai/guidance mit 21,828 Sternen.

18
Gesamtzahl der Repositories
44,885
Gesamtanzahl der Sterne
2,493
Durchschnittliche Sterne/Repo

Insgesamt 18 Repositories

1
guidance-ai/guidance

Eine Anleitungsprache zur Steuerung großer Sprachmodelle.

guidance-ai
⭐ 21,828 Jupyter Notebook 👤 guidance-ai Organization 🕐 Aktualisiert 2026-05-21 📅 Erstellt 2022-11-10
2
Sumanth077/ai-engineering-toolkit

Eine kuratierte Liste von über 100 Bibliotheken und Frameworks für KI-Ingenieure, die mit LLMs aufbauen

Sumanth077
⭐ 3,402 👤 Sumanth077 User 🕐 Aktualisiert 2026-05-11 📅 Erstellt 2025-08-06
3
km1994/LLMs_interview_notes

Dieses Repository zeichnet hauptsächlich Interviewfragen für Algorithmusingenieure für große Modelle (LLMs) auf.

km1994
⭐ 2,670 👤 km1994 User 🕐 Aktualisiert 2026-10-11 📅 Erstellt 2023-09-16
4
maitrix-org/llm-reasoners

Eine Bibliothek für fortgeschrittene Schlussfolgerungen großer Sprachmodelle

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 Aktualisiert 2025-06-10 📅 Erstellt 2023-06-01
5
IPADS-SAI/MobiAgent

Der intelligente GUI-Agent für Mobiltelefone

IPADS-SAI
⭐ 1,936 Python 👤 IPADS-SAI Organization 🕐 Aktualisiert 2026-07-17 📅 Erstellt 2025-08-29
7
HazyResearch/minions

Große und kleine LLMs arbeiten zusammen

HazyResearch
⭐ 1,394 Python 👤 HazyResearch Organization 🕐 Aktualisiert 2026-03-12 📅 Erstellt 2025-02-03
9
VILA-Lab/Awesome-DLMs

Das offizielle GitHub-Repository für den Übersichtsartikel „A Survey on Diffusion Language Models“.

VILA-Lab
⭐ 1,252 👤 VILA-Lab Organization 🕐 Aktualisiert 2026-10-02 📅 Erstellt 2025-07-14
10
kebijuelun/Awesome-LLM-Learning

Lernen großer Sprachmodelle (LLM) (Große Sprachmodelle lernen)

kebijuelun
⭐ 984 TypeScript 👤 kebijuelun User 🕐 Aktualisiert 2026-01-05 📅 Erstellt 2023-08-06
11
sgl-project/sgl-learning-materials

Materialien zum Erlernen von SGLang

sgl-project
⭐ 906 👤 sgl-project Organization 🕐 Aktualisiert 2026-01-05 📅 Erstellt 2024-09-10
12
feifeibear/LLMSpeculativeSampling

Schnelle Inferenz von großen Sprachmodellen durch spekulatives Dekodieren

feifeibear
⭐ 875 Python 👤 feifeibear User 🕐 Aktualisiert 2024-08-22 📅 Erstellt 2023-08-16
13
Nebius-Academy/LLM-Engineering-Essentials

Materialien für den Kurs "LLM Engineering Essentials"

Nebius-Academy
⭐ 844 Jupyter Notebook 👤 Nebius-Academy Organization 🕐 Aktualisiert 2026-03-30 📅 Erstellt 2025-02-17
14
LLMServe/DistServe

Disaggregiertes Serviersystem für große Sprachmodelle (LLMs).

LLMServe
⭐ 817 Jupyter Notebook 👤 LLMServe Organization 🕐 Aktualisiert 2025-04-06 📅 Erstellt 2024-01-16
15
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (kurz als Hunyuan-A13B), ein innovatives und quelloffenes LLM, das auf einer feingranularen MoE-Architektur basiert.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Aktualisiert 2025-07-08 📅 Erstellt 2025-06-27
16
castorini/rank_llm

RankLLM ist ein Python-Toolkit für reproduzierbare Information-Retrieval-Forschung unter Verwendung von Rerankern mit Schwerpunkt auf Listwise-Reranking.

castorini
⭐ 715 Python 👤 castorini Organization 🕐 Aktualisiert 2026-11-21 📅 Erstellt 2023-08-07
17
thu-coai/Glyph

Offizielles Repository für „Glyph: Skalierung von Kontextfenstern durch visuell-textuelle Komprimierung“

thu-coai
⭐ 612 Python 👤 thu-coai Organization 🕐 Aktualisiert 2025-11-04 📅 Erstellt 2025-10-20
18
hahnyuan/LLM-Viewer

Analysieren Sie die Inferenz von Large Language Models (LLMs). Analysieren Sie Aspekte wie Berechnung, Speicher, Übertragung und das Hardware-Roofline-Modell in einer benutzerfreundlichen Oberfläche.

hahnyuan
⭐ 600 Python 👤 hahnyuan User 🕐 Aktualisiert 2024-09-11 📅 Erstellt 2024-01-07

Häufig gestellte Fragen

1

Welches ist das beliebteste #llm-inference-optimization-Repository auf GitHub?

Das am höchsten eingestufte Open-Source-#llm-inference-optimization-Projekt auf GitHub ist guidance-ai/guidance mit 21,828 Sternen. Eine Anleitungsprache zur Steuerung großer Sprachmodelle.

2

Welche Programmiersprachen werden in #llm-inference-optimization-Repositories am häufigsten verwendet?

Unter den am höchsten eingestuften #llm-inference-optimization-Projekten auf GitHub sind Python, Jupyter Notebook, TypeScript die am häufigsten verwendeten Programmiersprachen.

3

Wie wird das Ranking der #llm-inference-optimization-Repositories berechnet?

Wir verfolgen 18 aktive Open-Source-Repositories, die mit #llm-inference-optimization getaggt sind (500+ Sterne), mit insgesamt 44,885 Sternen und durchschnittlich 2,493 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.