#llm-optimization Repositorios
Descubre 18 repositorios activos de código abierto de GitHub etiquetados con #llm-optimization, que acumulan 56,346 estrellas en total (una media de 3,130 estrellas por proyecto). El líder de este tema es OpenBMB/MiniCPM, con 11,898 estrellas.
18 repositorios en total
Una biblioteca unificada de técnicas de optimización de modelos SOTA como cuantización, destilación, poda, búsqueda de arquitectura neuronal, decodificación especulativa, etc. Comprime modelos de aprendizaje profundo para marcos de despliegue posteriores como TensorRT-LLM, TensorRT, vLLM, etc., para optimizar la velocidad de inferencia.
Hoja de trucos VIP para Transformers y modelos de lenguaje grandes CME 295 de Stanford
Marco de optimización de indicaciones impulsado por agentes y consciente de las tareas
Una colección de más de 500 estudios de caso de diseño de sistemas ML y LLM del mundo real de más de 100 empresas. Aprenda cómo las principales empresas tecnológicas implementan GenAI en producción.
🐳 Implementaciones eficientes de Triton para "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"
Código para el artículo de ICML 2023 "SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot".
Una caché para que los agentes de IA aprendan y reproduzcan comportamientos complejos.
Preguntas frecuentes
¿Cuál es el repositorio de #llm-optimization más popular en GitHub?
El proyecto de código abierto de #llm-optimization mejor posicionado en GitHub es OpenBMB/MiniCPM, con 11,898 estrellas. MiniCPM5: LLMs de vanguardia en el dispositivo, pequeños pero potentes.
¿Qué lenguajes de programación se utilizan más en los repositorios de #llm-optimization?
Entre los proyectos de #llm-optimization mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, TypeScript, Swift.
¿Cómo se calcula la clasificación de los repositorios de #llm-optimization?
Seguimos 18 repositorios activos de código abierto etiquetados con #llm-optimization (500+ estrellas), que suman un total de 56,346 estrellas, con una media de 3,130 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.