Git Stars Git Stars

#cpu-inference リポジトリ

#cpu-inferenceのタグが付いた、GitHub上の17件のアクティブなオープンソースリポジトリをご覧ください。合計スター数は84,398個で、プロジェクトあたりの平均は4,964個です。このトピックをリードしているのは、42,358個のスターを獲得しているmicrosoft/BitNetです。

17
リポジトリ総数
84,398
合計スター数
4,964
リポジトリあたりの平均スター数
プログラミング言語: Python C++ C HTML Rust

リポジトリ合計17件

1
microsoft/BitNet

1ビットLLMの公式推論フレームワーク

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 更新日時 2026-07-27 📅 作成日 2024-08-05
2
FareedKhan-dev/kimi-k3-in-c

2.78兆パラメータのKimi K3モデルが、8.24GBのRAMを搭載したシングルCPU上で推論を実行。ポータブルなC99実装:BLASなし、フレームワークなし、GPUなし。

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 更新日時 2026-11-16 📅 作成日 2026-08-01
3
google/gemma.cpp

GoogleのGemmaモデル用の軽量スタンドアロンC++推論エンジン。

google
⭐ 7,089 C++ 👤 google Organization 🕐 更新日時 2026-11-20 📅 作成日 2024-02-13
4
xxnuo/MTranServer

低リソース消費、高速、プライベート展開が可能なオフライン翻訳モデルサーバー。低资源占用速度快可私有部署的离线翻译模型服务器

xxnuo
⭐ 4,758 C++ 👤 xxnuo User 🕐 更新日時 2026-11-18 📅 作成日 2025-02-06
5
OpenMOSS/MOSS-TTS-Nano

リアルタイムCPU推論、音声クローン、48 kHzステレオ生成に対応した1億パラメータの多言語TTSモデル

OpenMOSS
⭐ 4,711 Python 👤 OpenMOSS Organization 🕐 更新日時 2026-09-06 📅 作成日 2026-04-10
6
fastino-ai/GLiNER2

統合されたスキーマベースの情報抽出

fastino-ai
⭐ 2,490 Python 👤 fastino-ai Organization 🕐 更新日時 2026-11-20 📅 作成日 2025-07-07
8
dleemiller/WordLlama

LLMのトークン埋め込みでできること

dleemiller
⭐ 1,448 Python 👤 dleemiller User 🕐 更新日時 2025-12-01 📅 作成日 2024-06-12
9
synchopate/llama-modchip

30B~284BのMoEモデル向け、GPU不要のCPU推論(Qwen3.8 176.5Bは28.26/48.35 GiBのCgroup v2コールドキャッシュ環境で認証済み、DeepSeek-V4 284B、Nemotron-30B)+RouteCrack 2.0。

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 更新日時 2026-11-21 📅 作成日 2026-10-29
10
wangeai/K3Flight

Kimi K3をCPU上でローカル実行します(測定実行時RAMは約55GB)。cPilot Runtimeを搭載したシングルファイルのLinux推論サーバーです。

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 更新日時 2026-07-31 📅 作成日 2026-07-30
11
feder-cr/jev

jevos:JevおよびMicrosoft-Decision-1に代わるオープンソースの選択肢。ノートPCのCPU上で、確率付きのYes/No判定、選択、スコアリングを実行できます。

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 更新日時 2026-10-18 📅 作成日 2024-08-15
12
Phocinae/Phocinae-Largha-150M-v1

ゴマフアザラシ — Phocinae-Largha-150M-v1:1億4,430万規模のバイリンガル意思決定モデル。小さなモデル。大きな決断。小さなアザラシ、大きな決断。

Phocinae
⭐ 797 Python 👤 Phocinae Organization 🕐 更新日時 2026-10-20 📅 作成日 2026-10-08
13
fluxions-ai/vui

Vui Nano — 実際の会話で学習した、小型で文脈認識に対応する音声合成モデル。アクティブパラメータは2億1,900万(合計3億500万)、Apache 2.0、音声クローンとストリーミングに対応し、CPU上で動作します(依存関係のないCビルド)。完全なリアルタイム音声アシスタントを同梱:WebRTC、ASR、ローカルLLM、OpenAI Realtime API互換。

fluxions-ai
⭐ 782 Python 👤 fluxions-ai Organization 🕐 更新日時 2026-10-10 📅 作成日 2025-06-05
14
prabanta-dev/janas

32 GBのノートPCでQwen3-Next-80B(48 GB)を37 tok/sで実行。ドラフトなしでは24 tok/sで、llama.cppの2.8 tok/sを上回ります。読み込み速度は62 tok/s対16 tok/s。Q4_K_Mで比較した13モデルすべてでllama.cppより高速。RAM容量を超えるLLMを、純粋なCでCPUまたはGPU上で実行。

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 更新日時 2026-11-20 📅 作成日 2026-09-20
15
ai25395/FMatPix

LaTeXおよびMathMLをサポートする無料のポータブルFormula OCRツール

ai25395
⭐ 614 Python 👤 ai25395 User 🕐 更新日時 2025-04-21 📅 作成日 2024-10-20
16
lucienhuangfu/eLLM

eLLM:CPU上でGPUよりも高速に長期推論を実行する

lucienhuangfu
⭐ 602 Rust 👤 lucienhuangfu User 🕐 更新日時 2026-11-12 📅 作成日 2025-06-30
17
brontoguana/krasis

Krasisは、VRAMが制限されたコンシューマー向けハードウェア上で大規模モデルを効率的に実行することに重点を置いたハイブリッドLLMランタイムです

brontoguana
⭐ 530 C++ 👤 brontoguana User 🕐 更新日時 2026-11-12 📅 作成日 2026-02-09

よくある質問

1

GitHubで最も人気のある#cpu-inferenceリポジトリは何ですか?

GitHubで最も上位にランクインしているオープンソースの#cpu-inferenceプロジェクトは、42,358個のスターを獲得しているmicrosoft/BitNetです。1ビットLLMの公式推論フレームワーク

2

#cpu-inferenceリポジトリで最もよく使われているプログラミング言語は何ですか?

GitHubで上位にランクインしている#cpu-inferenceプロジェクトでは、Python, C++, C, HTMLが最も一般的なプログラミング言語です。

3

#cpu-inferenceリポジトリのランキングはどのように算出されていますか?

#cpu-inferenceのタグが付いた17件のアクティブなオープンソースリポジトリ(スター500個以上)を追跡しています。合計スター数は84,398個で、リポジトリあたりの平均は4,964個です。ランキングはGitHub APIからのデータに基づいて毎日更新されます。