#llm-inference-optimization Repositories
Entdecke 18 aktive Open-Source-GitHub-Repositories, die mit #llm-inference-optimization getaggt sind und insgesamt 44,885 Sterne gesammelt haben (durchschnittlich 2,493 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist guidance-ai/guidance mit 21,828 Sternen.
Insgesamt 18 Repositories
Eine kuratierte Liste von über 100 Bibliotheken und Frameworks für KI-Ingenieure, die mit LLMs aufbauen
Dieses Repository zeichnet hauptsächlich Interviewfragen für Algorithmusingenieure für große Modelle (LLMs) auf.
Eine Bibliothek für fortgeschrittene Schlussfolgerungen großer Sprachmodelle
Das offizielle GitHub-Repository für den Übersichtsartikel „A Survey on Diffusion Language Models“.
Schnelle Inferenz von großen Sprachmodellen durch spekulatives Dekodieren
Tencent Hunyuan A13B (kurz als Hunyuan-A13B), ein innovatives und quelloffenes LLM, das auf einer feingranularen MoE-Architektur basiert.
RankLLM ist ein Python-Toolkit für reproduzierbare Information-Retrieval-Forschung unter Verwendung von Rerankern mit Schwerpunkt auf Listwise-Reranking.
Offizielles Repository für „Glyph: Skalierung von Kontextfenstern durch visuell-textuelle Komprimierung“
Analysieren Sie die Inferenz von Large Language Models (LLMs). Analysieren Sie Aspekte wie Berechnung, Speicher, Übertragung und das Hardware-Roofline-Modell in einer benutzerfreundlichen Oberfläche.
Häufig gestellte Fragen
Welches ist das beliebteste #llm-inference-optimization-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#llm-inference-optimization-Projekt auf GitHub ist guidance-ai/guidance mit 21,828 Sternen. Eine Anleitungsprache zur Steuerung großer Sprachmodelle.
Welche Programmiersprachen werden in #llm-inference-optimization-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #llm-inference-optimization-Projekten auf GitHub sind Python, Jupyter Notebook, TypeScript die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #llm-inference-optimization-Repositories berechnet?
Wir verfolgen 18 aktive Open-Source-Repositories, die mit #llm-inference-optimization getaggt sind (500+ Sterne), mit insgesamt 44,885 Sternen und durchschnittlich 2,493 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.