#moe 저장소
#moe 태그가 지정된 GitHub의 활성 오픈 소스 저장소 34개를 확인해 보세요. 총 317,125개의 스타를 획득했으며 프로젝트당 평균 9,327개입니다. 이 주제를 이끄는 저장소는 97,302개의 스타를 받은 vllm-project/vllm입니다.
저장소 총 34개
600개 이상의 LLM(Qwen3.8, DeepSeek-V4, GLM-5.1, InternLM3, Llama4 등)과 300개 이상의 MLLM(Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM5.3, Gemma4, LLaVA, Phi4 등)에 PEFT 또는 전체 파라미터 학습을 사용하여 CPT/SFT/DPO/GRPO를 수행합니다(AAAI 2025).
TensorRT LLM은 사용자가 대규모 언어 모델(LLM)을 정의할 수 있는 사용하기 쉬운 Python API를 제공하며, NVIDIA GPU에서 효율적으로 추론을 수행하기 위한 최첨단 최적화를 지원합니다. TensorRT LLM은 또한 추론 실행을 성능이 뛰어난 방식으로 조율하는 Python 및 C++ 런타임을 생성하는 구성 요소를 포함하고 있습니다.
2.78조 개의 파라미터를 가진 Kimi K3 모델이 8.24GB RAM의 단일 CPU에서 추론을 실행함. 포터블 C99: BLAS 없음, 프레임워크 없음, GPU 없음.
:electron: React Native로 구축된 Android 및 iOS용 비공식 https://bgm.tv UI 우선 앱 클라이언트. 광고 없음, 취미로 주도되며 수익을 목적으로 하지 않고, ACG에 특화된 도우반과 유사한 추방 기록을 위한 bgm.tv 서드파티 클라이언트. 모바일 단말기를 위해 재설계되었으며, 웹 버전에서 구현하기 어려운 많은 강화 기능을 내장하고 상당한 사용자 정의 옵션을 제공합니다. 현재 iOS / Android에 적응되었습니다.
GLM-5.3(744B), DeepSeek-V4.1-Flash(748B), MiniMax-M3.1-Flash(428B), GLM-5.3-Flash(321B), Hy4-Flash(220B)를 자체 GPU에서 실행하세요. 8GB VRAM부터 지원하며, NVIDIA와 AMD를 모두 사용할 수 있고, 하나의 대시보드와 OpenAI 및 Anthropic 호환 API를 제공합니다.
UCCL은 GPU를 위한 효율적인 통신 라이브러리로, 콜렉티브, P2P(예: KV 캐시 전송, RL 가중치 전송), EP(예: GPU 기반)를 지원합니다.
"The Sparsely-Gated Mixture-of-Experts Layer" (Noam Shazeer 외)의 PyTorch 재구현 https://arxiv.org/abs/1701.06538
RAM 용량보다 큰 MoE 모델을 실행하세요. 스마트폰, 노트북, 엣지 기기에서 최첨단 규모의 MoE를 만나보세요. 손실 없이, 기본 llama.cpp에서 실행됩니다. 적응형 스트리밍 최적화기. 모든 하드웨어, OS, 모델, 양자화를 지원하며 로컬 OpenAI 호환 서버를 통해 제공합니다.
Tutel MoE: FP8/NVFP4/MXFP4를 사용하는 GLM/Kimi/GPT/DeepSeek/Qwen을 지원하는 최적화된 Mixture-of-Experts 라이브러리
CPU에서 Kimi K3를 로컬로 실행하십시오(측정된 런타임 RAM 약 55GB). cPilot Runtime으로 구동되는 단일 파일 Linux 추론 서버입니다.
cuDNN Frontend는 cuDNN 라이브러리에 대한 NVIDIA의 현대적인 오픈 소스 진입점이자 고성능 오픈 소스 커널의 증가하는 컬렉션입니다.
DeepSeek-V3/R1 671B의 전체 파라미터 파인튜닝을 위한 오픈 소스 솔루션으로, 훈련부터 추론까지의 전체 코드 및 스크립트, 그리고 실질적인 경험과 결론을 포함합니다.
⚡ Apple Silicon용 네이티브 MLX Swift LLM 추론 서버. OpenAI 호환 API, 100B+ MoE 모델용 SSD 스트리밍, TurboQuant KV 캐시 압축, MACOS + iOS iPhone 앱.
[CVPR2026]🚀🚀🚀논문에 대한 공식 코드 "YOLO-Master: MOE-Accelerated와 특수화된 트랜스포머를 활용한 향상된 실시간 탐지." *(YOLO = You Only Look Once)* 🔥🔥🔥
순수 Rust + CUDA LLM 추론 엔진 — PyTorch 불필요, OpenAI 호환, Qwen3에서 Kimi-K2까지 지원
32GB 노트북에서 Qwen3-Next-80B(48GB)를 37 tok/s로 실행합니다. 드래프트 없이도 24 tok/s로, llama.cpp의 2.8 tok/s보다 빠릅니다. 읽기 속도는 62 tok/s 대 16 tok/s입니다. Q4_K_M으로 비교한 13개 모델 모두에서 llama.cpp보다 빠릅니다. RAM보다 큰 LLM도 순수 C로 CPU 또는 GPU에서 실행하세요.
105GB 모델을 저장할 수 없는 Mac에서도 AI 모델을 실행하세요. 4비트 Qwen3.8-Flash-Next를 SSD에서 스트리밍해 메모리 16~64GB의 Apple Silicon Mac에서 구동합니다. Swift, MLX, Metal 기반의 완전 네이티브 구현입니다. 오프라인으로 작동하며 Python이 필요 없습니다. CLI, Swift 라이브러리, Ollama/OpenAI/Anthropic API를 제공합니다. Claude Code 및 Codex와 호환됩니다.
AI 가을 채용을 위한 중·영 이중 언어 ML / LLM / diffusion / agent 면접 치트시트 — ARIS /interview-cheatsheet로 생성하고 /render-html로 어디서나 읽을 수 있는 단일 파일 HTML로 렌더링 — CV→DBLP 대조로 사실 확인한 학술 홈페이지 생성기와 직접 작성한 장문 블로그도 제공 🌱
RTX PRO 6000 / RTX 5090(sm_120)의 최첨단 MoE 모델: RTX PRO 6000 4개에서 실행하는 DeepSeek-V4.1-Flash, RTX 5090 4개에서의 GPU+CPU 하이브리드 구성, vLLM v0.24.0의 2비트 전문가 모델
Xolotl: DeepSeek-V4.1-Flash의 552B 파라미터 전체를 단 한 대의 게이밍 PC(RTX 4090 + RAM 110GB)에서 로컬 코딩 에이전트로 실행합니다. 에이전트 모드에서는 약 33 tok/s, 고속 모드에서는 약 41 tok/s이며, 512K 컨텍스트를 지원합니다. 또한 Inkling-2-Mini(Thinking Machines, 자체 엔진 + MTP 초안 작성기), GLM-5.3-Flash, Qwen3.8, LFM3-Omni도 지원합니다. MoE 전문가를 VRAM, RAM, NVMe에 계층적으로 배치합니다(Xolotl Direct). OpenAI + Anthropic API.
자주 묻는 질문
GitHub에서 가장 인기 있는 #moe 저장소는 무엇인가요?
GitHub에서 가장 높은 순위의 오픈 소스 #moe 프로젝트는 97,302개의 스타를 받은 vllm-project/vllm입니다. LLM을 위한 고성능, 메모리 효율적인 추론 및 서빙 엔진
#moe 저장소에서 가장 많이 사용되는 프로그래밍 언어는 무엇인가요?
GitHub에서 순위가 가장 높은 #moe 프로젝트 중 가장 일반적으로 사용되는 프로그래밍 언어는 Python, C++, C, Cuda입니다.
#moe 저장소 순위는 어떻게 계산되나요?
#moe 태그가 지정된 활성 오픈 소스 저장소(34개, 스타 500개 이상)를 추적하고 있습니다. 총 스타 수는 317,125개이며 저장소당 평균 9,327개입니다. 순위는 GitHub API를 통해 매일 업데이트됩니다.