#sglang リポジトリ
#sglangのタグが付いた、GitHub上の38件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は109,680個で、プロジェクトあたりの平均は2,886個です。このトピックをリードしているのは、9,667個のスターを獲得しているxorbitsai/inferenceです。
リポジトリ合計38件
言語、ビジョン、埋め込み、再ランキング、画像、音声、動画モデルに対応したオープンソースの推論プラットフォーム。複数のエンジンを使い、ノートPCから分散クラスターまで、異種ハードウェア環境にデプロイできます。OpenAI互換APIを通じてモデルを提供します。
AIインフラ知識とコード練習の共有:PyTorch、vLLM/SGLang、slime/vimeフレームワーク入門⚡️、パフォーマンス加速🚀、大規模モデルの基礎🧠、AIソフトウェアとハードウェア🔧など
LLM推論に関するSGLang x Datawhale公式コース:推論を理解し、ゼロからミニSGLangを構築し、実際のSGLangソースコードを読んで、初めてのPRを提出しましょう。英語版と中国語版を提供しています。
HF、vLLM、SGLangを介して、Nvidia CUDA、AMD ROCm、Intel XPU、Tenstorrent、Huawei Ascend NPU、およびIntel/AMD/Apple CPUのハードウェアアクセラレーションに対応する、LLMモデルの量子化(圧縮)ツールキット。
LLM推論のサービングと最適化のための、1日30分・10週間のロードマップ。vLLM、SGLang、量子化、推測デコーディング、ベンチマーク。
Rustで構築されたエンジン非依存のLLMゲートウェイ。vLLM、TRT-LLM、TokenSpeed、SGLang、OpenAI、GeminiなどでOpenAIおよびAnthropic APIに完全対応。業界初のgRPCパイプライン、KVキャッシュを考慮したルーティング、チャット履歴、トークン化キャッシュ、Responses API、埋め込み、WASMプラグイン、MCP、マルチテナント認証を提供します。
sparkrun — NVIDIA DGX Spark システム上で LLM 推論ワークロードを起動、管理、停止します。ライブサポート:https://discord.com/invite/GH5kRgv6ZD
Open Model Engine (OME) — LLM のサービング、GPU スケジューリング、モデルのライフサイクル管理を行う Kubernetes オペレーター。SGLang、vLLM、TensorRT-LLM、Triton に対応
よくある質問
GitHubで最も人気のある#sglangリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#sglangプロジェクトは、9,667個のスターを獲得しているxorbitsai/inferenceです。言語、ビジョン、埋め込み、再ランキング、画像、音声、動画モデルに対応したオープンソースの推論プラットフォーム。複数のエンジンを使い、ノートPCから分散クラスターまで、異種ハードウェア環境にデプロイできます。OpenAI互換APIを通じてモデルを提供します。
#sglangリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#sglangプロジェクトでは、Python, HTML, Rust, C++が最も一般的なプログラミング言語です。
#sglangリポジトリのランキングはどのように算出されていますか?
#sglangのタグが付いた38件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は109,680個で、リポジトリあたりの平均は2,886個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。