Git Stars Git Stars

#inference-acceleration リポジトリ

#inference-accelerationのタグが付いた、GitHub上の14件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は24,811個で、プロジェクトあたりの平均は1,772個です。このトピックをリードしているのは、6,461個のスターを獲得しているopenai/consistency_modelsです。

14
リポジトリ総数
24,811
合計スター数
1,772
リポジトリあたりの平均スター数
プログラミング言語: Python Cuda

リポジトリ合計14件

1
openai/consistency_models

整合モデルの公式リポジトリ。

openai
⭐ 6,461 Python 👤 openai Organization 🕐 更新日時 2024-03-22 📅 作成日 2023-02-26
2
thu-ml/SageAttention

[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention は、FlashAttention と比較して 2~5 倍の高速化を達成し、言語、画像、動画モデル全体の評価指標(エンドツーエンドメトリクス)を損なうことはありません。

thu-ml
⭐ 4,017 Cuda 👤 thu-ml Organization 🕐 更新日時 2026-01-17 📅 作成日 2024-10-03
3
thu-ml/TurboDiffusion

TurboDiffusion: ビデオ拡散モデルの100〜200倍の高速化

thu-ml
⭐ 3,870 Python 👤 thu-ml Organization 🕐 更新日時 2026-11-04 📅 作成日 2025-12-06
4
ali-vilab/TeaCache

タイムステップ埋め込み物語:ビデオ拡散モデルのキャッシュの時が来ました

ali-vilab
⭐ 1,333 Python 👤 ali-vilab Organization 🕐 更新日時 2025-06-08 📅 作成日 2024-11-27
5
meta-pytorch/segment-anything-fast

segment-anything のバッチ処理されたオフライン推論指向バージョン

meta-pytorch
⭐ 1,321 Python 👤 meta-pytorch Organization 🕐 更新日時 2025-08-22 📅 作成日 2023-08-30
6
thu-ml/SpargeAttn

[ICML2025] SpargeAttention: トレーニング不要なスパースアテンションにより、あらゆるモデルの推論を高速化します。

thu-ml
⭐ 1,269 Cuda 👤 thu-ml Organization 🕐 更新日時 2026-02-25 📅 作成日 2025-02-25
7
microsoft/MInference

[NeurIPS'24 Spotlight, ICLR'25, ICML'25] Long-context LLMの推論を高速化するために、近似的かつ動的なスパース計算によりアテンションを計算し、A100でのプリフィルにおいて推論レイテンシを最大10倍削減し、精度を維持します。

microsoft
⭐ 1,230 Python 👤 microsoft Organization 🕐 更新日時 2026-11-18 📅 作成日 2024-05-22
8
NVlabs/Fast-dLLM

「Fast-dLLM:KVキャッシュと並列デコーディングを可能にすることによるDiffusion LLMのトレーニングフリー加速」の公式実装

NVlabs
⭐ 1,116 Python 👤 NVlabs Organization 🕐 更新日時 2026-05-30 📅 作成日 2025-05-27
9
Alpha-VLLM/Lumina-mGPT-2.0

Lumina-mGPT 2.0: スタンドアロン自己回帰画像モデリング

Alpha-VLLM
⭐ 1,081 Python 👤 Alpha-VLLM Organization 🕐 更新日時 2025-11-03 📅 作成日 2025-04-03
10
AlibabaResearch/SparkDiffusion

SparkDiffusion:スパース化、蒸留、量子化などの組み合わせにより、DiT動画生成を265倍高速化

AlibabaResearch
⭐ 750 Python 👤 AlibabaResearch Organization 🕐 更新日時 2026-10-26 📅 作成日 2026-09-18
11
OpenGVLab/DCNv4

[CVPR 2024] Deformable Convolution v4

OpenGVLab
⭐ 695 Python 👤 OpenGVLab Organization 🕐 更新日時 2024-05-17 📅 作成日 2023-12-25
12
pkunlp-icler/FastV

[ECCV 2024 口頭発表] 論文コード: レイヤー 2 の後、画像は 1/2 トークンに値する: 大規模視覚言語モデルのためのプラグアンドプレイ推論アクセラレーション

pkunlp-icler
⭐ 579 Python 👤 pkunlp-icler Organization 🕐 更新日時 2025-01-04 📅 作成日 2024-03-11
13
thu-ml/SLA

SLA:微調整可能なスパース・リニアアテンションによる拡散トランスフォーマーのスパース性を超えて

thu-ml
⭐ 553 Python 👤 thu-ml Organization 🕐 更新日時 2026-10-18 📅 作成日 2025-09-25
14
Generated-Computers/Locals

Macで複数のAIエージェントを同時に実行。最大3倍高速。

Generated-Computers
⭐ 538 Python 👤 Generated-Computers Organization 🕐 更新日時 2026-11-21 📅 作成日 2026-10-12

よくある質問

1

GitHubで最も人気のある#inference-accelerationリポジトリは何ですか?

GitHubで最も上位にランクインしているオープンソースの#inference-accelerationプロジェクトは、6,461個のスターを獲得しているopenai/consistency_modelsです。整合モデルの公式リポジトリ。

2

#inference-accelerationリポジトリで最もよく使われているプログラミング言語は何ですか?

GitHubで上位にランクインしている#inference-accelerationプロジェクトでは、Python, Cudaが最も一般的なプログラミング言語です。

3

#inference-accelerationリポジトリのランキングはどのように算出されていますか?

#inference-accelerationのタグが付いた14件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は24,811個で、リポジトリあたりの平均は1,772個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。