#model-quantization Repositorios
Descubre 59 repositorios activos de código abierto de GitHub etiquetados con #model-quantization, que acumulan 217,873 estrellas en total (una media de 3,692 estrellas por proyecto). El líder de este tema es zai-org/ChatGLM-6B, con 41,224 estrellas.
59 repositorios en total
ChatGLM-6B: Un modelo de lenguaje de diálogo bilingüe de código abierto | Modelo de lenguaje de diálogo bilingüe de código abierto
Serie ChatGLM3: LLMs de chat bilingües abiertos | LLMs de chat bilingües abiertos
[ICLR 2024] Ajuste fino de LLaMA para seguir instrucciones en 1 hora y 1,2 millones de parámetros
Una biblioteca unificada de técnicas de optimización de modelos SOTA como cuantización, destilación, poda, búsqueda de arquitectura neuronal, decodificación especulativa, etc. Comprime modelos de aprendizaje profundo para marcos de despliegue posteriores como TensorRT-LLM, TensorRT, vLLM, etc., para optimizar la velocidad de inferencia.
Esta es una guía paso a paso para principiantes en grandes modelos de IA/LLM, que incluye tutoriales y código de demostración. Te llevará desde las API hasta el despliegue y ajuste fino de grandes modelos locales. Los archivos de código se proporcionarán en versiones en línea para Kaggle o Colab, lo que te permitirá aprender incluso sin una tarjeta gráfica. El proyecto también incluye un pequeño "parque de juegos" de código 🎡, donde puedes experimentar con scripts de IA interesantes. Al mismo tiempo, incluye una versión espejo completa en chino de las tareas del curso "Introducción a la IA generativa 2024" de Hung-Yi Lee.
Este repositorio registra principalmente preguntas de entrevista relacionadas con ingenieros de algoritmos de modelos grandes (LLM).
Una colección seleccionada de artículos, benchmarks, revisiones y herramientas sobre la cuantización de modelos, que abarca redes de pocos bits, LLM, modelos multimodales y generativos, cuantización vectorial y de retícula, y despliegue eficiente.
Recetas para reducir, optimizar y personalizar modelos de visión de vanguardia. 💜
Excelentes artículos de investigación y herramientas de compresión de LLMs.
¿Múltiples GPU NVIDIA o Apple Silicon para la inferencia de modelos de lenguaje grandes?
Vitis AI es la pila de desarrollo de Xilinx para inferencia de IA en plataformas de hardware de Xilinx, incluyendo tanto dispositivos de borde como tarjetas Alveo.
[SIGGRAPH Asia 2025] DreamO: Un marco unificado para la personalización de imágenes
Una serie de grandes modelos de lenguaje de código desarrollados por PKU-KCL
[ICML 2023] SmoothQuant: Cuantización post-entrenamiento precisa y eficiente para modelos de lenguaje grandes
Grandes Modelos de Spiking inspirados en el Cerebro, que integran atención híbrida eficiente, módulos MoE y codificación de espigas en su arquitectura
Repositorio oficial de Pytorch para la Compresión Extrema de Modelos de Lenguaje Grandes mediante Cuantización Aditiva https://arxiv.org/pdf/2401.06118.pdf y PV-Tuning: Más allá de la Estimación Directa para la Compresión Extrema de LLMs https://arxiv.org/abs/2405.14852
Los modelos Cosmos-Reason1 comprenden el sentido común físico y generan decisiones corporizadas apropiadas en lenguaje natural a través de largos procesos de razonamiento en cadena de pensamiento.
BlueLM (Gran Modelo de Lenguaje Blue Heart): Grandes modelos de lenguaje abiertos desarrollados por vivo AI Lab
Implementación desde cero de un modelo de lenguaje grande en chino con una pequeña cantidad de parámetros.
Una lista curada de proyectos de código abierto relacionados con DeepSeek Coder
Una implementación extremadamente rápida de Whisper optimizada para Apple Silicon utilizando MLX.
Tencent Hunyuan A13B (en adelante Hunyuan-A13B), un LLM innovador y de código abierto construido sobre una arquitectura MoE de grano fino.
Caja de herramientas de compresión de modelos para modelos de lenguaje grandes y modelos de difusión
Plataforma eficiente para inferencia y servicio de LLM locales, incluido un servidor API compatible con OpenAI.
Preguntas frecuentes
¿Cuál es el repositorio de #model-quantization más popular en GitHub?
El proyecto de código abierto de #model-quantization mejor posicionado en GitHub es zai-org/ChatGLM-6B, con 41,224 estrellas. ChatGLM-6B: Un modelo de lenguaje de diálogo bilingüe de código abierto | Modelo de lenguaje de diálogo bilingüe de código abierto
¿Qué lenguajes de programación se utilizan más en los repositorios de #model-quantization?
Entre los proyectos de #model-quantization mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, C, Makefile.
¿Cómo se calcula la clasificación de los repositorios de #model-quantization?
Seguimos 59 repositorios activos de código abierto etiquetados con #model-quantization (500+ estrellas), que suman un total de 217,873 estrellas, con una media de 3,692 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.