#moe Repositórios
Descubra 34 repositórios ativos de código aberto no GitHub marcados com #moe, acumulando um total de 317,125 estrelas (uma média de 9,327 por projeto). O líder deste tópico é vllm-project/vllm, com 97,302 estrelas.
34 repositórios no total
Um motor de inferência e serviço para LLMs de alto rendimento e eficiente em memória
SGLang é uma estrutura de serviço de alto desempenho para grandes modelos de linguagem e modelos multimodais.
O FreeToken traz a disponibilização de modelos em escala de data center para o seu desktop. Execute modelos massivos localmente, de forma rápida e eficiente.
Use PEFT ou treinamento com todos os parâmetros para realizar CPT/SFT/DPO/GRPO em mais de 600 LLMs (Qwen3.8, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) e mais de 300 MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM5.3, Gemma4, LLaVA, Phi4, ...) (AAAI 2025).
O TensorRT LLM fornece aos usuários uma API Python fácil de usar para definir Modelos de Linguagem Grandes (LLMs) e suporta otimizações de ponta para executar inferências de forma eficiente em GPUs NVIDIA. O TensorRT LLM também contém componentes para criar runtimes Python e C++ que orquestram a execução da inferência de maneira performática.
Um modelo Kimi K3 de 2,78 trilhões de parâmetros executando inferência em uma única CPU com 8,24 GB de RAM. C99 portátil: sem BLAS, sem framework, sem GPU.
:electron: Um cliente de aplicativo não oficial para Android e iOS, focado na interface do usuário do https://bgm.tv, construído com React Native. Um cliente bgm.tv de terceiros, sem anúncios, movido a paixão, sem fins lucrativos, especializado em ACG, similar ao Douban para registro de acompanhamento de animes. Redesenhado para dispositivos móveis, com muitos recursos aprimorados integrados que são difíceis de implementar na versão web, e oferece consideráveis opções de personalização. Atualmente compatível com iOS / Android.
Execute GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) e Hy4-Flash (220B) nas suas próprias GPUs — a partir de 8 GB de VRAM, com suporte para NVIDIA e AMD, um único painel e uma API compatível com OpenAI e Anthropic.
【TMM 2025🔥】 Mistura de Especialistas para Grandes Modelos de Visão-Linguagem
UCCL é uma biblioteca de comunicação eficiente para GPUs, cobrindo coletivas, P2P (por exemplo, transferência de cache KV, transferência de peso RL) e EP (por exemplo, orientada por GPU).
Execute modelos maiores do que a capacidade da sua RAM ou VRAM transmitindo especialistas MoE a partir de um SSD. Baseado no llama.cpp.
Reimplementação em PyTorch de "The Sparsely-Gated Mixture-of-Experts Layer" de Noam Shazeer et al. https://arxiv.org/abs/1701.06538
Execute modelos MoE maiores que a sua RAM. MoE de ponta em um celular, laptop ou dispositivo de borda. Sem perdas, com o llama.cpp padrão. Um otimizador adaptativo de streaming. Qualquer hardware, sistema operacional, modelo e quantização, por meio de um servidor local compatível com a OpenAI.
Tutel MoE: Biblioteca otimizada de Mixture-of-Experts, com suporte a GLM/Kimi/GPT/DeepSeek/Qwen usando FP8/NVFP4/MXFP4
Execute o Kimi K3 localmente na CPU com cerca de 55 GB de RAM de tempo de execução medida. Um servidor de inferência Linux de arquivo único alimentado pelo cPilot Runtime.
O cuDNN Frontend é o ponto de entrada moderno e de código aberto da NVIDIA para a biblioteca cuDNN e uma coleção crescente de kernels de código aberto de alto desempenho.
⛷️ LLaMA-MoE: Construindo Mixture-of-Experts a partir do LLaMA com Pré-treinamento Contínuo (EMNLP 2024)
Halo é um framework de código aberto desenvolvido pela White Circle para treinar modelos de linguagem de grande escala e modelos multimodais
Adan: Algoritmo de Momento Nesterov Adaptativo para Otimizar Modelos Profundos Mais Rapidamente
Uma solução de código aberto para o ajuste fino de parâmetros completos do DeepSeek-V3/R1 671B, incluindo código e scripts completos, desde o treinamento até a inferência, bem como algumas experiências e conclusões práticas. (DeepSeek-V3/R1 满血版 671B 全参数微调的开源解决方案,包含从训练到推理的完整代码和脚本,以及实践中积累一些经验和结论。)
⚡ Servidor de inferência LLM MLX Swift nativo para Apple Silicon. API compatível com OpenAI, streaming SSD para modelos MoE 100B+, compressão TurboQuant KV cache, app MACOS + iOS iPhone.
[CVPR2026]🚀🚀🚀Código oficial do artigo "YOLO-Master: MOE-Accelerated com Transformers especializados para detecção em tempo real aprimorada." *(YOLO = You Only Look Once)* 🔥🔥🔥
Implementação de arquiteturas de LLM do zero com PyTorch
Motor de inferência LLM puro Rust + CUDA — sem PyTorch, compatível com OpenAI, atende de Qwen3 a Kimi-K2
37 tok/s com Qwen3-Next-80B (48 GB) num portátil com 32 GB; 24 sem rascunhos, contra 2,8 com llama.cpp; leitura a 62 contra 16 tok/s. Mais rápido que llama.cpp em todos os 13 modelos comparados em Q4_K_M. LLMs maiores do que a sua RAM, em C puro, para CPU ou GPU.
Execute um modelo de IA de 105 GB em um Mac que não tem espaço para armazená-lo. Qwen3.8-Flash-Next de 4 bits, transmitido por streaming a partir de um SSD em Macs com Apple Silicon e 16–64 GB de memória. Totalmente nativo em Swift, MLX e Metal. Funciona offline, sem Python. CLI, biblioteca Swift e APIs Ollama/OpenAI/Anthropic. Compatível com Claude Code e Codex.
Guias bilíngues (chinês + inglês) de preparação para entrevistas de ML / LLM / diffusion / agentes para o recrutamento de outono em IA — gerados pelo ARIS /interview-cheatsheet e renderizados pelo /render-html em HTML de arquivo único, legível em qualquer lugar — além de um gerador de páginas acadêmicas com verificação de fatos por CV→DBLP e blogs longos escritos pelo próprio autor 🌱
Grande Modelo de Linguagem Mixtral Chinês de Mistura de Especialistas (Chinese Mixtral MoE LLMs)
Modelos MoE de ponta em RTX PRO 6000 / RTX 5090 (sm_120): DeepSeek-V4.1-Flash em 4 RTX PRO 6000, como híbrido GPU+CPU em 4 RTX 5090 e especialistas de 2 bits no vLLM v0.24.0
Xolotl: execute o DeepSeek-V4.1-Flash, com todos os 552B parâmetros, como um agente local de programação em um único PC gamer (RTX 4090 + 110 GB de RAM): ~33 tok/s no modo agente, ~41 no modo rápido e contexto de 512K. Além disso, Inkling-2-Mini (Thinking Machines, mecanismo próprio + gerador de rascunhos MTP), GLM-5.3-Flash, Qwen3.8 e LFM3-Omni. Especialistas MoE distribuídos em camadas entre VRAM, RAM e NVMe (Xolotl Direct). API da OpenAI + Anthropic.
Perguntas Frequentes
Qual é o repositório de #moe mais popular no GitHub?
O projeto de código aberto de #moe mais bem classificado no GitHub é vllm-project/vllm, com 97,302 estrelas. Um motor de inferência e serviço para LLMs de alto rendimento e eficiente em memória
Quais linguagens de programação são mais usadas nos repositórios de #moe?
Entre os projetos de #moe mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C++, C, Cuda.
Como é calculada a classificação dos repositórios de #moe?
Acompanhamos 34 repositórios ativos de código aberto marcados com #moe (com mais de 500 estrelas), totalizando 317,125 estrelas e uma média de 9,327 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.