#llm-inference-optimization Repository
Scopri 18 repository GitHub open source attivi contrassegnati con #llm-inference-optimization, che raccolgono un totale di 44,885 stelle (con una media di 2,493 stelle per progetto). Il progetto leader di questo argomento è guidance-ai/guidance, con 21,828 stelle.
18 repository in totale
Un linguaggio di guida per il controllo di modelli linguistici di grandi dimensioni.
Un elenco curato di oltre 100 librerie e framework per ingegneri AI che costruiscono con LLM
Questo repository registra principalmente domande di intervista relative agli ingegneri di algoritmi di modelli di grandi dimensioni (LLM).
Una libreria per il ragionamento avanzato di modelli linguistici di grandi dimensioni
Il repository GitHub ufficiale per l'articolo di rassegna "A Survey on Diffusion Language Models".
Apprendimento di modelli linguistici di grandi dimensioni (LLM) (Apprendimento di modelli linguistici di grandi dimensioni)
Inferenza veloce da modelli linguistici di grandi dimensioni tramite decodifica speculativa
Sistema di serving disaggregato per modelli linguistici di grandi dimensioni (LLM).
Tencent Hunyuan A13B (in breve Hunyuan-A13B), un LLM innovativo e open-source costruito su un'architettura MoE a grana fine.
RankLLM è un toolkit Python per la ricerca riproducibile sul recupero delle informazioni utilizzando reranker, con particolare attenzione al reranking di tipo listwise.
Repository ufficiale per "Glyph: Ridimensionamento delle finestre di contesto tramite compressione visuale-testuale"
Analizzare l'inferenza dei Large Language Models (LLM). Analizzare aspetti come il calcolo, lo storage, la trasmissione e il modello di efficienza hardware (roofline model) in un'interfaccia user-friendly.
Domande frequenti
Qual è il repository #llm-inference-optimization più popolare su GitHub?
Il progetto open source #llm-inference-optimization più alto in classifica su GitHub è guidance-ai/guidance, con 21,828 stelle. Un linguaggio di guida per il controllo di modelli linguistici di grandi dimensioni.
Quali linguaggi di programmazione sono più utilizzati nei repository #llm-inference-optimization?
Tra i progetti #llm-inference-optimization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, TypeScript.
Come viene calcolata la classifica dei repository #llm-inference-optimization?
Monitoriamo 18 repository open source attivi contrassegnati con #llm-inference-optimization (500+ stelle), per un totale di 44,885 stelle e una media di 2,493 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.