#llm-optimization リポジトリ
#llm-optimizationのタグが付いた、GitHub上の18件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は56,346個で、プロジェクトあたりの平均は3,130個です。このトピックをリードしているのは、11,898個のスターを獲得しているOpenBMB/MiniCPMです。
リポジトリ合計18件
量子化、蒸留、プルーニング、ニューラルアーキテクチャ探索、推論的デコードなどのSOTAモデル最適化技術を統合したライブラリ。TensorRT-LLM、TensorRT、vLLMなどのダウンストリームデプロイメントフレームワーク向けにディープラーニングモデルを圧縮し、推論速度を最適化します。
スタンフォード大学 CME 295 Transformer および大規模言語モデル VIP チートシート
100社以上の企業からの500以上の実際のMLおよびLLMシステム設計ケーススタディのコレクション。トップテクノロジー企業が本番環境でGenAIをどのように実装しているかを学びます。
🐳 「Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention」のための効率的なTriton実装
ICML 2023の論文「SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot」のコード。
よくある質問
GitHubで最も人気のある#llm-optimizationリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#llm-optimizationプロジェクトは、11,898個のスターを獲得しているOpenBMB/MiniCPMです。MiniCPM5:デバイス上で動く最先端LLM、小さくても強力。
#llm-optimizationリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#llm-optimizationプロジェクトでは、Python, Jupyter Notebook, TypeScript, Swiftが最も一般的なプログラミング言語です。
#llm-optimizationリポジトリのランキングはどのように算出されていますか?
#llm-optimizationのタグが付いた18件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は56,346個で、リポジトリあたりの平均は3,130個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。