#moe Repositorios
Descubre 34 repositorios activos de código abierto de GitHub etiquetados con #moe, que acumulan 317,125 estrellas en total (una media de 9,327 estrellas por proyecto). El líder de este tema es vllm-project/vllm, con 97,302 estrellas.
34 repositorios en total
Un motor de inferencia y servicio para LLM de alto rendimiento y eficiente en memoria
SGLang es un marco de servicio de alto rendimiento para modelos de lenguaje grandes y modelos multimodales.
FreeToken lleva el servicio de modelos a escala de centro de datos a tu escritorio. Ejecuta modelos masivos localmente, de forma rápida y eficiente.
Utiliza PEFT o entrenamiento con todos los parámetros para aplicar CPT/SFT/DPO/GRPO a más de 600 LLM (Qwen3.8, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) y más de 300 MLLM (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM5.3, Gemma4, LLaVA, Phi4, ...) (AAAI 2025).
TensorRT LLM proporciona a los usuarios una API de Python fácil de usar para definir Modelos de Lenguaje Grandes (LLM) y admite optimizaciones de vanguardia para realizar inferencias de manera eficiente en GPUs NVIDIA. TensorRT LLM también contiene componentes para crear tiempos de ejecución de Python y C++ que orquestan la ejecución de la inferencia de manera performante.
Un modelo Kimi K3 de 2,78 billones de parámetros ejecutando inferencia en una sola CPU con 8,24 GB de RAM. C99 portátil: sin BLAS, sin framework, sin GPU.
:electron: Un cliente de app no oficial con UI first para https://bgm.tv para Android e iOS, construido con React Native. Una app sin anuncios, impulsada por el hobby, sin fines de lucro, especializada en ACG, similar a Douban para el seguimiento de animes, cliente de terceros para bgm.tv. Rediseñada para dispositivos móviles, incorpora numerosas funciones mejoradas difíciles de implementar en la versión web, y ofrece bastantes opciones de personalización. Actualmente adaptada para iOS / Android.
Ejecuta GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) y Hy4-Flash (220B) en tus propias GPU: desde 8 GB de VRAM, compatibles con NVIDIA y AMD, un solo panel de control y una API compatible con OpenAI y Anthropic.
UCCL es una biblioteca de comunicación eficiente para GPUs, que cubre colectivas, P2P (por ejemplo, transferencia de caché KV, transferencia de pesos RL) y EP (por ejemplo, impulsado por GPU).
Ejecuta modelos que superan la capacidad de tu RAM o VRAM transmitiendo expertos MoE desde un SSD. Basado en llama.cpp.
Reimplementación en PyTorch de "The Sparsely-Gated Mixture-of-Experts Layer" por Noam Shazeer et al. https://arxiv.org/abs/1701.06538
Ejecuta modelos MoE más grandes que tu RAM. MoE de última generación en un teléfono, portátil o dispositivo edge. Sin pérdidas, con llama.cpp sin modificar. Un optimizador de streaming adaptativo. Cualquier hardware, sistema operativo, modelo y cuantización, a través de un servidor local compatible con OpenAI.
Tutel MoE: Biblioteca optimizada de mezcla de expertos, compatible con GLM/Kimi/GPT/DeepSeek/Qwen mediante FP8/NVFP4/MXFP4
Ejecute Kimi K3 localmente en la CPU con ~55 GB de RAM de tiempo de ejecución medida. Un servidor de inferencia de Linux de un solo archivo impulsado por cPilot Runtime.
cuDNN Frontend es el punto de entrada moderno y de código abierto de NVIDIA a la biblioteca cuDNN y a una creciente colección de kernels de código abierto de alto rendimiento.
⛷️ LLaMA-MoE: Construyendo Mixture-of-Experts a partir de LLaMA con pre-entrenamiento continuo (EMNLP 2024)
Halo es un marco de código abierto desarrollado por White Circle para entrenar modelos de lenguaje de gran tamaño y modelos multimodales
Adan: Algoritmo Adaptativo de Momentum de Nesterov para una Optimización más Rápida de Modelos Profundos
Una solución de código abierto para el ajuste fino de parámetros completos de DeepSeek-V3/R1 671B, que incluye código completo y scripts desde el entrenamiento hasta la inferencia, así como algunas experiencias y conclusiones prácticas.
⚡ Servidor de inferencia LLM MLX Swift nativo para Apple Silicon. API compatible con OpenAI, streaming SSD para modelos MoE 100B+, compresión TurboQuant KV cache, app MACOS + iOS iPhone.
[CVPR2026]🚀🚀🚀Código oficial del artículo "YOLO-Master: MOE-Accelerated con Transformadores especializados para una detección en tiempo real mejorada." *(YOLO = You Only Look Once)* 🔥🔥🔥
Implementación de arquitecturas de LLM desde cero en PyTorch
Motor de inferencia LLM puro Rust + CUDA — sin PyTorch, compatible con OpenAI, sirve desde Qwen3 hasta Kimi-K2
37 tok/s con Qwen3-Next-80B (48 GB) en un portátil de 32 GB; 24 sin borradores, frente a 2,8 con llama.cpp; lectura a 62 frente a 16 tok/s. Más rápido que llama.cpp en los 13 modelos comparados en Q4_K_M. LLM más grandes que tu RAM, en C puro, para CPU o GPU.
Ejecuta un modelo de IA de 105 GB en un Mac que no puede almacenarlo. Qwen3.8-Flash-Next de 4 bits, transmitido desde un SSD en Macs con Apple Silicon y 16–64 GB de memoria. Totalmente nativo en Swift, MLX y Metal. Sin conexión y sin Python. CLI, biblioteca Swift y API de Ollama/OpenAI/Anthropic. Compatible con Claude Code y Codex.
Hojas de consulta bilingües (chino + inglés) para entrevistas de ML / LLM / difusión / agentes en la campaña de contratación otoñal de IA — generadas por ARIS /interview-cheatsheet y convertidas mediante /render-html en HTML de un solo archivo, legible en cualquier lugar — además de un generador de páginas académicas verificado mediante CV→DBLP y blogs extensos escritos personalmente 🌱
Gran modelo de lenguaje Mixtral Mixture-of-Experts chino (Chinese Mixtral MoE LLMs)
Modelos MoE de vanguardia en RTX PRO 6000 / RTX 5090 (sm_120): DeepSeek-V4.1-Flash en 4 RTX PRO 6000, como híbrido GPU+CPU en 4 RTX 5090 y expertos de 2 bits en vLLM v0.24.0
Xolotl: ejecuta DeepSeek-V4.1-Flash, con sus 552B parámetros completos, como agente de programación local en un solo PC gaming (RTX 4090 + 110 GB de RAM): ~33 tok/s como agente, ~41 en modo rápido y contexto de 512K. Además, Inkling-2-Mini (Thinking Machines, motor propio + generador de borradores MTP), GLM-5.3-Flash, Qwen3.8 y LFM3-Omni. Expertos MoE distribuidos por niveles entre la VRAM, la RAM y NVMe (Xolotl Direct). API de OpenAI + Anthropic.
Preguntas frecuentes
¿Cuál es el repositorio de #moe más popular en GitHub?
El proyecto de código abierto de #moe mejor posicionado en GitHub es vllm-project/vllm, con 97,302 estrellas. Un motor de inferencia y servicio para LLM de alto rendimiento y eficiente en memoria
¿Qué lenguajes de programación se utilizan más en los repositorios de #moe?
Entre los proyectos de #moe mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, C++, C, Cuda.
¿Cómo se calcula la clasificación de los repositorios de #moe?
Seguimos 34 repositorios activos de código abierto etiquetados con #moe (500+ estrellas), que suman un total de 317,125 estrellas, con una media de 9,327 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.