#model-quantization Repository
Scopri 59 repository GitHub open source attivi contrassegnati con #model-quantization, che raccolgono un totale di 217,873 stelle (con una media di 3,692 stelle per progetto). Il progetto leader di questo argomento è zai-org/ChatGLM-6B, con 41,224 stelle.
59 repository in totale
ChatGLM-6B: Un modello linguistico di dialogo bilingue open source | Modello linguistico di dialogo bilingue open source
Serie ChatGLM3: LLM di conversazione bilingue aperti | LLM di conversazione bilingue aperti
[ICLR 2024] Fine-tuning di LLaMA per seguire le istruzioni entro 1 ora e 1,2 M di parametri
Una libreria unificata di tecniche di ottimizzazione dei modelli SOTA come quantizzazione, distillazione, pruning, ricerca di architetture neurali, decodifica speculativa, ecc. Comprime i modelli di deep learning per framework di distribuzione a valle come TensorRT-LLM, TensorRT, vLLM, ecc., per ottimizzare la velocità di inferenza.
Questa è una guida passo passo per iniziare con i modelli AI/LLM di grandi dimensioni, che include tutorial e codice dimostrativo. Ti porterà dalle API all'implementazione e al fine-tuning locali di grandi modelli. I file di codice saranno forniti in versioni online per Kaggle o Colab, permettendoti di imparare anche senza una GPU. Il progetto include anche un piccolo "playground" di codice 🎡, dove puoi sperimentare script AI interessanti. Inoltre, include una versione cinese speculare completa dei compiti del corso "Introduzione all'intelligenza artificiale generativa 2024" di Hung-Yi Lee.
Questo repository registra principalmente domande di intervista relative agli ingegneri di algoritmi di modelli di grandi dimensioni (LLM).
Una raccolta curata di articoli, benchmark, rassegne e strumenti sulla quantizzazione dei modelli, che comprende reti a pochi bit, LLM, modelli multimodali e generativi, quantizzazione vettoriale e reticolare, nonché il deployment efficiente.
Un elenco curato per efficienti modelli linguistici di grandi dimensioni
Ricette per rimpicciolire, ottimizzare e personalizzare modelli di visione all'avanguardia. 💜
Scarti di ricerca e strumenti eccezionali per la compressione di LLM.
GPU NVIDIA multiple o Apple Silicon per l'inferenza di Large Language Model?
Vitis AI è lo stack di sviluppo di Xilinx per l'inferenza AI su piattaforme hardware Xilinx, inclusi sia dispositivi edge che schede Alveo.
[SIGGRAPH Asia 2025] DreamO: Un framework unificato per la personalizzazione delle immagini
Una serie di modelli linguistici di grandi dimensioni per il codice sviluppati da PKU-KCL
[ICML 2023] SmoothQuant: Quantizzazione Post-Training Accurata ed Efficiente per Grandi Modelli Linguistici
Modelli di grandi dimensioni ispirati al cervello a spiking, che integrano un'attenzione ibrida efficiente, moduli MoE e codifica a spike nella loro architettura
Repository ufficiale Pytorch per la compressione estrema di Large Language Models tramite quantizzazione additiva https://arxiv.org/pdf/2401.06118.pdf e PV-Tuning: Oltre la stima diretta per la compressione estrema di LLM https://arxiv.org/abs/2405.14852
I modelli Cosmos-Reason1 comprendono il senso comune fisico e generano appropriate decisioni incarnate in linguaggio naturale attraverso lunghi processi di ragionamento a catena di pensiero.
BlueLM (Modello Linguistico di Grandi Dimensioni Blue Heart): Modelli linguistici di grandi dimensioni aperti sviluppati dal vivo AI Lab
Implementazione da zero di un modello linguistico cinese di grandi dimensioni con pochi parametri.
Un elenco curato di progetti open-source relativi a DeepSeek Coder
Un'implementazione estremamente veloce di Whisper ottimizzata per Apple Silicon utilizzando MLX.
Tencent Hunyuan A13B (in breve Hunyuan-A13B), un LLM innovativo e open-source costruito su un'architettura MoE a grana fine.
Toolbox per la Compressione di Modelli per Grandi Modelli Linguistici e Modelli di Diffusione
Piattaforma efficiente per l'inferenza e il servizio di LLM locali, incluso un server API compatibile con OpenAI.
Domande frequenti
Qual è il repository #model-quantization più popolare su GitHub?
Il progetto open source #model-quantization più alto in classifica su GitHub è zai-org/ChatGLM-6B, con 41,224 stelle. ChatGLM-6B: Un modello linguistico di dialogo bilingue open source | Modello linguistico di dialogo bilingue open source
Quali linguaggi di programmazione sono più utilizzati nei repository #model-quantization?
Tra i progetti #model-quantization più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, Jupyter Notebook, C, Makefile.
Come viene calcolata la classifica dei repository #model-quantization?
Monitoriamo 59 repository open source attivi contrassegnati con #model-quantization (500+ stelle), per un totale di 217,873 stelle e una media di 3,692 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.