#model-quantization リポジトリ
#model-quantizationのタグが付いた、GitHub上の59件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は217,873個で、プロジェクトあたりの平均は3,692個です。このトピックをリードしているのは、41,224個のスターを獲得しているzai-org/ChatGLM-6Bです。
リポジトリ合計59件
量子化、蒸留、プルーニング、ニューラルアーキテクチャ探索、推論的デコードなどのSOTAモデル最適化技術を統合したライブラリ。TensorRT-LLM、TensorRT、vLLMなどのダウンストリームデプロイメントフレームワーク向けにディープラーニングモデルを圧縮し、推論速度を最適化します。
これは、AI/LLM大規模モデル入門のためのステップバイステップガイドであり、チュートリアルとデモコードが含まれています。APIからローカルでの大規模モデルのデプロイとファインチューニングまでを案内し、コードファイルはKaggleまたはColabのオンラインバージョンで提供されるため、GPUがなくても学習できます。また、興味深いAIスクリプトを試すことができる小さなコードプレイグラウンド🎡も用意されています。同時に、李宏毅(HUNG-YI LEE)による2024年の生成AI入門コースの完全な中国語ミラー課題も含まれています。
モデル量子化に関する論文、ベンチマーク、サーベイ、ツールを厳選してまとめたコレクション。低ビットネットワーク、LLM、マルチモーダルモデルおよび生成モデル、ベクトル量子化と格子量子化、効率的なデプロイを扱います。
Vitis AI は、Xilinx のハードウェア プラットフォーム(エッジ デバイスと Alveo カードを含む)での AI 推論のための Xilinx の開発スタックです。
Additive Quantization による大規模言語モデルの極端な圧縮のための公式 Pytorch リポジトリ https://arxiv.org/pdf/2401.06118.pdf および PV-Tuning: Extreme LLM Compression のための Straight-Through Estimation を超えて https://arxiv.org/abs/2405.14852
Cosmos-Reason1 モデルは、物理的な常識を理解し、長鎖の思考推論プロセスを通じて、自然言語で適切な具現化された決定を生成します。
Tencent Hunyuan A13B(Hunyuan-A13Bと略称)は、きめ細かなMoEアーキテクチャ上に構築された革新的でオープンソースのLLMです。
よくある質問
GitHubで最も人気のある#model-quantizationリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#model-quantizationプロジェクトは、41,224個のスターを獲得しているzai-org/ChatGLM-6Bです。ChatGLM-6B: オープンソースのバイリンガル対話言語モデル | オープンソースのバイリンガル対話言語モデル
#model-quantizationリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#model-quantizationプロジェクトでは、Python, Jupyter Notebook, C, Makefileが最も一般的なプログラミング言語です。
#model-quantizationリポジトリのランキングはどのように算出されていますか?
#model-quantizationのタグが付いた59件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は217,873個で、リポジトリあたりの平均は3,692個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。