Git Stars Git Stars

#llm-inference-optimization Repository

Scopri 18 repository GitHub open source attivi contrassegnati con #llm-inference-optimization, che raccolgono un totale di 44,885 stelle (con una media di 2,493 stelle per progetto). Il progetto leader di questo argomento è guidance-ai/guidance, con 21,828 stelle.

18
Totale Repository
44,885
Totale stelle
2,493
Media Stelle/Repo
Linguaggi di programmazione: Python Jupyter Notebook TypeScript

18 repository in totale

1
guidance-ai/guidance

Un linguaggio di guida per il controllo di modelli linguistici di grandi dimensioni.

guidance-ai
⭐ 21,828 Jupyter Notebook 👤 guidance-ai Organization 🕐 Aggiornato 2026-05-21 📅 Creato 2022-11-10
2
Sumanth077/ai-engineering-toolkit

Un elenco curato di oltre 100 librerie e framework per ingegneri AI che costruiscono con LLM

Sumanth077
⭐ 3,402 👤 Sumanth077 User 🕐 Aggiornato 2026-05-11 📅 Creato 2025-08-06
3
km1994/LLMs_interview_notes

Questo repository registra principalmente domande di intervista relative agli ingegneri di algoritmi di modelli di grandi dimensioni (LLM).

km1994
⭐ 2,670 👤 km1994 User 🕐 Aggiornato 2026-10-11 📅 Creato 2023-09-16
4
maitrix-org/llm-reasoners

Una libreria per il ragionamento avanzato di modelli linguistici di grandi dimensioni

maitrix-org
⭐ 2,344 Python 👤 maitrix-org Organization 🕐 Aggiornato 2025-06-10 📅 Creato 2023-06-01
5
IPADS-SAI/MobiAgent

L'agente GUI intelligente per telefoni cellulari

IPADS-SAI
⭐ 1,936 Python 👤 IPADS-SAI Organization 🕐 Aggiornato 2026-07-17 📅 Creato 2025-08-29
7
HazyResearch/minions

LLM grandi e piccoli che lavorano insieme

HazyResearch
⭐ 1,394 Python 👤 HazyResearch Organization 🕐 Aggiornato 2026-03-12 📅 Creato 2025-02-03
9
VILA-Lab/Awesome-DLMs

Il repository GitHub ufficiale per l'articolo di rassegna "A Survey on Diffusion Language Models".

VILA-Lab
⭐ 1,252 👤 VILA-Lab Organization 🕐 Aggiornato 2026-10-02 📅 Creato 2025-07-14
10
kebijuelun/Awesome-LLM-Learning

Apprendimento di modelli linguistici di grandi dimensioni (LLM) (Apprendimento di modelli linguistici di grandi dimensioni)

kebijuelun
⭐ 984 TypeScript 👤 kebijuelun User 🕐 Aggiornato 2026-01-05 📅 Creato 2023-08-06
11
sgl-project/sgl-learning-materials

Materiali per l'apprendimento di SGLang

sgl-project
⭐ 906 👤 sgl-project Organization 🕐 Aggiornato 2026-01-05 📅 Creato 2024-09-10
12
feifeibear/LLMSpeculativeSampling

Inferenza veloce da modelli linguistici di grandi dimensioni tramite decodifica speculativa

feifeibear
⭐ 875 Python 👤 feifeibear User 🕐 Aggiornato 2024-08-22 📅 Creato 2023-08-16
13
Nebius-Academy/LLM-Engineering-Essentials

Materiali per il corso "LLM Engineering Essentials"

Nebius-Academy
⭐ 844 Jupyter Notebook 👤 Nebius-Academy Organization 🕐 Aggiornato 2026-03-30 📅 Creato 2025-02-17
14
LLMServe/DistServe

Sistema di serving disaggregato per modelli linguistici di grandi dimensioni (LLM).

LLMServe
⭐ 817 Jupyter Notebook 👤 LLMServe Organization 🕐 Aggiornato 2025-04-06 📅 Creato 2024-01-16
15
Tencent-Hunyuan/Hunyuan-A13B

Tencent Hunyuan A13B (in breve Hunyuan-A13B), un LLM innovativo e open-source costruito su un'architettura MoE a grana fine.

Tencent-Hunyuan
⭐ 815 Python 👤 Tencent-Hunyuan Organization 🕐 Aggiornato 2025-07-08 📅 Creato 2025-06-27
16
castorini/rank_llm

RankLLM è un toolkit Python per la ricerca riproducibile sul recupero delle informazioni utilizzando reranker, con particolare attenzione al reranking di tipo listwise.

castorini
⭐ 715 Python 👤 castorini Organization 🕐 Aggiornato 2026-11-21 📅 Creato 2023-08-07
17
thu-coai/Glyph

Repository ufficiale per "Glyph: Ridimensionamento delle finestre di contesto tramite compressione visuale-testuale"

thu-coai
⭐ 612 Python 👤 thu-coai Organization 🕐 Aggiornato 2025-11-04 📅 Creato 2025-10-20
18
hahnyuan/LLM-Viewer

Analizzare l'inferenza dei Large Language Models (LLM). Analizzare aspetti come il calcolo, lo storage, la trasmissione e il modello di efficienza hardware (roofline model) in un'interfaccia user-friendly.

hahnyuan
⭐ 600 Python 👤 hahnyuan User 🕐 Aggiornato 2024-09-11 📅 Creato 2024-01-07

Domande frequenti

1

Qual è il repository #llm-inference-optimization più popolare su GitHub?

Il progetto open source #llm-inference-optimization più alto in classifica su GitHub è guidance-ai/guidance, con 21,828 stelle. Un linguaggio di guida per il controllo di modelli linguistici di grandi dimensioni.

2

Quali linguaggi di programmazione sono più utilizzati nei repository #llm-inference-optimization?

Tra i progetti #llm-inference-optimization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, TypeScript.

3

Come viene calcolata la classifica dei repository #llm-inference-optimization?

Monitoriamo 18 repository open source attivi contrassegnati con #llm-inference-optimization (500+ stelle), per un totale di 44,885 stelle e una media di 2,493 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.