#vllm リポジトリ
#vllmのタグが付いた、GitHub上の133件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は554,542個で、プロジェクトあたりの平均は4,169個です。このトピックをリードしているのは、123,140個のスターを獲得しているearendil-works/piです。
リポジトリ合計134件
トレーニング、推論、ストリーミングASR、VAD、句読点、話者ダイアライゼーションパイプライン、OpenAI互換/MCPサービングのためのオープンソース音声認識ツールキット。
Llama Cookbookへようこそ!これは、Llamaを使用した構築のための決定版ガイドです。推論、ファインチューニング、RAGの開始方法について説明します。また、Llamaモデルファミリーを使用してエンドツーエンドの問題を解決し、さまざまなプロバイダーサービスでそれらを使用する方法も示します。
あらゆるAIモデルに対応する、AI研究およびエンジニアリングスキルの包括的なオープンソースライブラリ。これらのスキルをパッケージ化すれば、あなたのclaude code/codex/geminiエージェントはフルパワーのAI研究エージェントになります。Orchestra Researchがメンテナンスしています。
✍🏻 ソースコードの深掘り、システム設計、エンジニアリングブログ | Halfrost-Field 氷霜の地:ソースコード解析、システム設計、エンジニアリング実践ノート
使いやすく、スケーラブルで高性能なRayベースのAgentic RLフレームワーク (PPO & DAPO & REINFORCE++ & VLM & TIS & vLLM & Ray & Async RL)
言語、ビジョン、埋め込み、再ランキング、画像、音声、動画モデルに対応したオープンソースの推論プラットフォーム。複数のエンジンを使い、ノートPCから分散クラスターまで、異種ハードウェア環境にデプロイできます。OpenAI互換APIを通じてモデルを提供します。
📚Awesome LLM/VLM推論論文&コードの厳選リスト:Flash-Attention、Paged-Attention、WINT8/4、並列化など。🎉
AIインフラ知識とコード練習の共有:PyTorch、vLLM/SGLang、slime/vimeフレームワーク入門⚡️、パフォーマンス加速🚀、大規模モデルの基礎🧠、AIソフトウェアとハードウェア🔧など
[NeurIPS'24] HippoRAGは、人間の長期記憶に着想を得た新しいRAGフレームワークであり、LLMが外部ドキュメント全体にわたって知識を継続的に統合できるようにします。RAG +ナレッジグラフ+パーソナライズドPageRank。
RamaLamaは、あらゆるソースからのAIモデルのローカル提供を簡素化し、コンテナという使い慣れた言語を通じて、本番環境での推論での使用を容易にするオープンソース開発ツールです。
実際に所有しているGPUで、大規模なQwenモデルを高速にサーブします。vLLMを使い、24 GBのカード1枚でQwen3.8-27Bを実行:単一ユーザーで127 tok/s(回答がプロンプトを引用する場合は381 tok/s)、64並列で約1,035 tok/s、コンテキスト長は150k~262k。vLLMのパッチ、再量子化パイプライン、ベンチマーク。
CodeGeeX4-ALL-9Bは、コード補完、コードインタープリター、Web検索、関数呼び出し、リポジトレベルのQ&Aなど、あらゆるAIソフトウェア開発シナリオに対応する汎用性の高いモデルです。
O'Reilly AI Systems Performance Engineeringのためのコード、ラボ、リソース:GPU最適化、分散トレーニング、推論スケーリング、フルスタックチューニング。
よくある質問
GitHubで最も人気のある#vllmリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#vllmプロジェクトは、123,140個のスターを獲得しているearendil-works/piです。AIエージェントツールキット:統合LLM API、エージェントループ、TUI、コーディングエージェントCLI
#vllmリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#vllmプロジェクトでは、Python, Jupyter Notebook, Go, TypeScriptが最も一般的なプログラミング言語です。
#vllmリポジトリのランキングはどのように算出されていますか?
#vllmのタグが付いた133件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は554,542個で、リポジトリあたりの平均は4,169個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。