#inference-server リポジトリ
#inference-serverのタグが付いた、GitHub上の13件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は53,014個で、プロジェクトあたりの平均は4,078個です。このトピックをリードしているのは、23,831個のスターを獲得しているjundot/omlxです。
リポジトリ合計13件
⚡ 純 Rust 製 WebGPU 推論エンジン — OpenAI API 互換、GGUF ネイティブ対応、あらゆる GPU で動作。Python 不要。llama.cpp 不要。シングルバイナリ。
Rapid-MLX は、Apple Silicon 向けのオープンソース(Apache 2.0)LLM 推論サーバーです。MLX を基盤とし、OpenAI および Anthropic と互換性があり、コーディングエージェント向けの信頼性の高いツール呼び出しに重点を置いています。同じ重みを使用した場合、Apple の MLX(mlx-lm)より最大 4 倍高速です。
RamaLamaは、あらゆるソースからのAIモデルのローカル提供を簡素化し、コンテナという使い慣れた言語を通じて、本番環境での推論での使用を容易にするオープンソース開発ツールです。
Apple Silicon 向けの高性能な OpenAI および Anthropic 互換 LLM 推論サーバー。ネイティブ MLX、継続的バッチ処理、マルチモーダルモデル、MCP ツール呼び出し、Claude Code サポート。
オープンな意思決定モデル向けのJev互換APIサーバー。意思決定モデルのためのOllama:29種類のモデルファミリー(Laya、pplx-decider、Clef、Winnow、cobaなど)をローカルで取得・実行するか、/v1/systemoneの背後でセルフホストできます。TypeSafe SDKは変更せずに利用可能です。ベースURLを設定し、オープンモデルを選ぶだけ。CLI、デスクトップアプリ、Docker、MCPサーバー、公開ベンチマークを提供。
よくある質問
GitHubで最も人気のある#inference-serverリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#inference-serverプロジェクトは、23,831個のスターを獲得しているjundot/omlxです。Apple Silicon向け連続バッチング&SSDキャッシュ付きLLM推論サーバー — macOSメニュー-barから管理
#inference-serverリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#inference-serverプロジェクトでは、Python, Rust, C++が最も一般的なプログラミング言語です。
#inference-serverリポジトリのランキングはどのように算出されていますか?
#inference-serverのタグが付いた13件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は53,014個で、リポジトリあたりの平均は4,078個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。