#mlx リポジトリ
リポジトリ合計76件
Qwen と Nemotron に最適化された、Apple Silicon 向けの超高速推論エンジン。OpenAI と Anthropic の API に対応。nace.ai のチームが開発。
完全にローカルでプライベートな音声認識(Speech-To-Text)アプリ。複数のモデルバックエンド、話者分離、カレンダーモードを提供 - Windows、macOS、Linuxで利用可能
⚡ Apple Silicon向けネイティブMLX Swift LLM推論サーバー。OpenAI互換API、100B+ MoEモデル向けSSDストリーミング、TurboQuant KVキャッシュ圧縮、MACOS + iOS iPhoneアプリ。
MLX Omni Serverは、Apple Silicon(Mシリーズ)チップ専用に設計された、AppleのMLXフレームワークを搭載したローカル推論サーバーです。OpenAI互換のAPIエンドポイントを実装しており、既存のOpenAI SDKクライアントとのシームレスな統合を可能にし、ローカルML推論のパワーを活用します。
Apple Silicon上でLLMデコードを最大4倍高速化、ロスレス。DeepSeekのDSparkとz-labのDFlashによる投機的デコーディングのネイティブMLX移植版 — Gemma-4、Qwen3.8、Muse-Glimmer、Nemotron、LFM2.5、Ornith-1.0、三値のBonsai-27Bに対応。
Claude CodeやあらゆるMCPクライアントで使える、ローカルAIによるBGMと効果音。Apple Silicon(MLX)およびWindowsのNVIDIA GPU(PyTorch)でStable Audio 3を実行。クラウド不要、APIキー不要。
105 GBのAIモデルを、モデル全体を保存できないMacで実行。Qwen3.8-Flash-Nextの4ビット版をSSDからストリーミングし、メモリ16~64 GBのApple Silicon搭載Macで動作します。Swift、MLX、Metalによる完全ネイティブ実装。オフラインで動作し、Pythonは不要。CLI、Swiftライブラリ、Ollama/OpenAI/Anthropic APIに対応。Claude CodeおよびCodexでも利用できます。
Mac (M1/M2/M3/M4) 上で Qwen3-TTS テキスト読み上げをローカル実行。音声クローン、音声デザイン、カスタムボイスに対応。MLX を使用して 100% オフラインで動作。
iPhone、iPad、Mac向けのローカルAIチャット。Ollama、LM Studio、またはOpenAI互換サーバーに接続できるほか、MLXモデルをデバイス上で実行できます。ツールとWeb検索にも対応。
あなたの声のトーンを聞き取り、それに合ったトーンで話すオープンな全二重音声モデル。vLLM-Omniなら1基のGPUで、MLXならMac上で完全オフライン実行が可能。ゼロショット音声クローン、OpenAI Realtime / GPT-Live互換、ホスト型APIの無料トライアルを提供。Apache-2.0。