#llm-optimization Repository
Scopri 18 repository GitHub open source attivi contrassegnati con #llm-optimization, che raccolgono un totale di 56,346 stelle (con una media di 3,130 stelle per progetto). Il progetto leader di questo argomento è OpenBMB/MiniCPM, con 11,898 stelle.
18 repository in totale
Una libreria unificata di tecniche di ottimizzazione dei modelli SOTA come quantizzazione, distillazione, pruning, ricerca di architetture neurali, decodifica speculativa, ecc. Comprime i modelli di deep learning per framework di distribuzione a valle come TensorRT-LLM, TensorRT, vLLM, ecc., per ottimizzare la velocità di inferenza.
Cheat sheet VIP per Stanford CME 295 Transformers e Large Language Models
Framework di ottimizzazione dei prompt guidato da agenti e consapevole del compito
chattare con modelli linguistici di grandi dimensioni privati e locali
Una raccolta di oltre 500 casi di studio di progettazione di sistemi ML e LLM del mondo reale da oltre 100 aziende. Scopri come le migliori aziende tecnologiche implementano GenAI in produzione.
🐳 Implementazioni Triton efficienti per "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"
Codice per l'articolo ICML 2023 "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot".
Una cache per agenti AI per apprendere e riprodurre comportamenti complessi.
Domande frequenti
Qual è il repository #llm-optimization più popolare su GitHub?
Il progetto open source #llm-optimization più alto in classifica su GitHub è OpenBMB/MiniCPM, con 11,898 stelle. MiniCPM5: LLM all'avanguardia sul dispositivo, piccoli ma potenti.
Quali linguaggi di programmazione sono più utilizzati nei repository #llm-optimization?
Tra i progetti #llm-optimization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, TypeScript, Swift.
Come viene calcolata la classifica dei repository #llm-optimization?
Monitoriamo 18 repository open source attivi contrassegnati con #llm-optimization (500+ stelle), per un totale di 56,346 stelle e una media di 3,130 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.