#tensorrt-llm リポジトリ
#tensorrt-llmのタグが付いた、GitHub上の24件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は65,708個で、プロジェクトあたりの平均は2,737個です。このトピックをリードしているのは、15,634個のスターを獲得しているSWivid/F5-TTSです。
リポジトリ合計24件
量子化、蒸留、プルーニング、ニューラルアーキテクチャ探索、推論的デコードなどのSOTAモデル最適化技術を統合したライブラリ。TensorRT-LLM、TensorRT、vLLMなどのダウンストリームデプロイメントフレームワーク向けにディープラーニングモデルを圧縮し、推論速度を最適化します。
📚Awesome LLM/VLM推論論文&コードの厳選リスト:Flash-Attention、Paged-Attention、WINT8/4、並列化など。🎉
TensorRT-LLM を使用して Windows 上でRetrieval Augmented Generation (RAG) チャットボットを作成するための開発者向けリファレンス プロジェクト
O'Reilly AI Systems Performance Engineeringのためのコード、ラボ、リソース:GPU最適化、分散トレーニング、推論スケーリング、フルスタックチューニング。
Tencent Hunyuan A13B(Hunyuan-A13Bと略称)は、きめ細かなMoEアーキテクチャ上に構築された革新的でオープンソースのLLMです。
よくある質問
GitHubで最も人気のある#tensorrt-llmリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#tensorrt-llmプロジェクトは、15,634個のスターを獲得しているSWivid/F5-TTSです。「F5-TTS:フローマッチングで流暢で忠実なスピーチを偽装するフェアリーテラー」の公式コード
#tensorrt-llmリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#tensorrt-llmプロジェクトでは、Python, Jupyter Notebook, Rust, C++が最も一般的なプログラミング言語です。
#tensorrt-llmリポジトリのランキングはどのように算出されていますか?
#tensorrt-llmのタグが付いた24件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は65,708個で、リポジトリあたりの平均は2,737個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。