#mlx 저장소
저장소 총 76개
Qwen 및 Nemotron에 최적화된 Apple Silicon용 초고속 추론 엔진입니다. OpenAI 및 Anthropic API와 호환됩니다. nace.ai 팀이 개발했습니다.
완벽하게 로컬에서 작동하며 개인정보를 보호하는 음성-텍스트 변환(Speech-To-Text) 앱으로, 다양한 모델 백엔드, 화자 분리 및 캘린더 모드를 제공합니다 - Windows, macOS, Linux에서 사용 가능
⚡ Apple Silicon용 네이티브 MLX Swift LLM 추론 서버. OpenAI 호환 API, 100B+ MoE 모델용 SSD 스트리밍, TurboQuant KV 캐시 압축, MACOS + iOS iPhone 앱.
MLX Omni Server는 Apple Silicon(M 시리즈) 칩을 위해 특별히 설계된 Apple의 MLX 프레임워크 기반 로컬 추론 서버입니다. OpenAI와 호환되는 API 엔드포인트를 구현하여 기존 OpenAI SDK 클라이언트와의 원활한 통합을 가능하게 하고 로컬 ML 추론의 강력한 성능을 활용합니다.
Apple Silicon에서 LLM 디코딩을 최대 4배 더 빠르게, 무손실. DeepSeek의 DSpark 및 z-lab의 DFlash 추측 디코딩을 네이티브 MLX로 포팅 — Gemma-4, Qwen3.8, Muse-Glimmer, Nemotron, LFM2.5, Ornith-1.0, 삼진 Bonsai-27B 지원.
Claude Code 및 모든 MCP 클라이언트에서 사용할 수 있는 로컬 AI 배경 음악과 효과음. Apple Silicon(MLX) 및 Windows NVIDIA GPU(PyTorch)에서 Stable Audio 3 실행. 클라우드와 API 키가 필요 없습니다.
105GB 모델을 저장할 수 없는 Mac에서도 AI 모델을 실행하세요. 4비트 Qwen3.8-Flash-Next를 SSD에서 스트리밍해 메모리 16~64GB의 Apple Silicon Mac에서 구동합니다. Swift, MLX, Metal 기반의 완전 네이티브 구현입니다. 오프라인으로 작동하며 Python이 필요 없습니다. CLI, Swift 라이브러리, Ollama/OpenAI/Anthropic API를 제공합니다. Claude Code 및 Codex와 호환됩니다.
Mac(M1/M2/M3/M4)에서 Qwen3-TTS 텍스트 음성 변환을 로컬로 실행하세요. 음성 복제, 음성 디자인, 사용자 지정 음성을 지원합니다. MLX를 사용하여 100% 오프라인으로 작동합니다.
iPhone, iPad 및 Mac용 로컬 AI 채팅. Ollama, LM Studio 또는 OpenAI 호환 서버에 연결하거나 기기에서 MLX 모델을 실행할 수 있습니다. 도구와 웹 검색 기능도 포함되어 있습니다.
사용자의 말투를 듣고 그에 맞는 말투로 말하는 오픈 풀 듀플렉스 음성 모델입니다. vLLM-Omni를 사용하면 GPU 1개로, MLX를 사용하면 Mac에서 완전히 오프라인으로 실행할 수 있습니다. 제로샷 음성 복제, OpenAI Realtime / GPT-Live 호환, 호스팅 API 무료 체험을 제공합니다. Apache-2.0.