#linear-attention リポジトリ
#linear-attentionのタグが付いた、GitHub上の7件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は31,942個で、プロジェクトあたりの平均は4,563個です。このトピックをリードしているのは、14,786個のスターを獲得しているBlinkDL/RWKV-LMです。
リポジトリ合計7件
RWKV(RwaKuvと発音)は、GPTトランスフォーマーのように直接トレーニングできる(並列化可能)優れたLLMパフォーマンスを持つRNNです。私たちはRWKV-7 "Goose"にいます。したがって、RNNとトランスフォーマーの最高の機能を組み合わせています。優れたパフォーマンス、線形時間、一定のスペース(kvキャッシュなし)、高速トレーニング、無限のctx_len、無料の文埋め込みです。
2.78兆パラメータのKimi K3モデルが、8.24GBのRAMを搭載したシングルCPU上で推論を実行。ポータブルなC99実装:BLASなし、フレームワークなし、GPUなし。
よくある質問
GitHubで最も人気のある#linear-attentionリポジトリは何ですか?
GitHubで最も上位にランクインしているオープンソースの#linear-attentionプロジェクトは、14,786個のスターを獲得しているBlinkDL/RWKV-LMです。RWKV(RwaKuvと発音)は、GPTトランスフォーマーのように直接トレーニングできる(並列化可能)優れたLLMパフォーマンスを持つRNNです。私たちはRWKV-7 "Goose"にいます。したがって、RNNとトランスフォーマーの最高の機能を組み合わせています。優れたパフォーマンス、線形時間、一定のスペース(kvキャッシュなし)、高速トレーニング、無限のctx_len、無料の文埋め込みです。
#linear-attentionリポジトリで最もよく使われているプログラミング言語は何ですか?
GitHubで上位にランクインしている#linear-attentionプロジェクトでは、Python, Cが最も一般的なプログラミング言語です。
#linear-attentionリポジトリのランキングはどのように算出されていますか?
#linear-attentionのタグが付いた7件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は31,942個で、リポジトリあたりの平均は4,563個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。