#deepspeed Repositorios
Descubre 25 repositorios activos de código abierto de GitHub etiquetados con #deepspeed, que acumulan 68,253 estrellas en total (una media de 2,730 estrellas por proyecto). El líder de este tema es deepseek-ai/DeepSeek-Coder, con 24,365 estrellas.
25 repositorios en total
FlagAI (Fast LArge-scale General AI models) es un toolkit rápido, fácil de usar y extensible para modelos a gran escala.
Un script de entrenamiento paralelo por pipeline para modelos de difusión.
DeepSeekMoE: Hacia la especialización definitiva de expertos en modelos de lenguaje Mixture-of-Experts
Una implementación GRPO muy simple para reproducir el pensamiento de LLM similar a r1.
RLHF Seguro: Alineación de Valores Restringida mediante Aprendizaje por Refuerzo Seguro a partir de Retroalimentación Humana
La investigación en curso entrena modelos de lenguaje Transformer a gran escala, entre ellos: BERT y GPT-2
Un framework de código abierto de modelos de lenguaje grandes basado en el conocimiento.
ChatLLaMA 📢 Implementación de código abierto para ChatGPT basado en LLaMA ejecutable en una sola GPU. Proceso de entrenamiento 15 veces más rápido que ChatGPT
Marco ligero de post-entrenamiento para LLM, soporta SFT, RLVR, On-Policy KD, Guide KD y entrenamiento mixto; implementa destilación Guide de una/multiple ronda, destilación multi-maestro, entrenamiento mixto de Reward y flujo de datos automatizado👩🎓👨🎓
Implementación desde cero de un modelo de lenguaje grande en chino con una pequeña cantidad de parámetros.
Optimización de la memoria y recetas de entrenamiento para extrapolar la longitud del contexto de los modelos de lenguaje a 1 millón de tokens, con un hardware mínimo.
Proyecto Personal: MPP-Qwen14B & MPP-Qwen-Next (Pipeline Paralelo Multimodal basado en Qwen-LM). Soporta [video/imagen/multi-imagen] {sft/conversations}. ¡No dejes que la pobreza limite tu imaginación! Entrena tu propio MLLM 8B/14B similar a LLaVA-training en RTX3090/4090 24GB.
Mejores prácticas y guías sobre cómo escribir código de entrenamiento de PyTorch distribuido
Preguntas frecuentes
¿Cuál es el repositorio de #deepspeed más popular en GitHub?
El proyecto de código abierto de #deepspeed mejor posicionado en GitHub es deepseek-ai/DeepSeek-Coder, con 24,365 estrellas. DeepSeek Coder: Deja que el código se escriba solo
¿Qué lenguajes de programación se utilizan más en los repositorios de #deepspeed?
Entre los proyectos de #deepspeed mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Jupyter Notebook, Ruby.
¿Cómo se calcula la clasificación de los repositorios de #deepspeed?
Seguimos 25 repositorios activos de código abierto etiquetados con #deepspeed (500+ estrellas), que suman un total de 68,253 estrellas, con una media de 2,730 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.