Git Stars Git Stars

#cpu-inference Dépôts

Découvrez 17 dépôts GitHub open source actifs associés à #cpu-inference, cumulant 84,398 étoiles au total (soit une moyenne de 4,964 étoiles par projet). Le projet en tête de ce thème est microsoft/BitNet, avec 42,358 étoiles.

17
Total des Dépôts
84,398
Nombre total d'étoiles
4,964
Moyenne d'Étoiles/Dépôt
Langages de programmation: Python C++ C HTML Rust
1
microsoft/BitNet

Framework d'inférence officiel pour les LLM 1 bits

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 Mis à jour 2026-07-27 📅 Créé 2024-08-05
2
FareedKhan-dev/kimi-k3-in-c

Un modèle Kimi K3 de 2 780 milliards de paramètres effectuant une inférence sur un seul CPU avec 8,24 Go de RAM. C99 portable : sans BLAS, sans framework, sans GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Mis à jour 2026-11-16 📅 Créé 2026-08-01
3
google/gemma.cpp

moteur d'inférence C++ léger et autonome pour les modèles Gemma de Google.

google
⭐ 7,089 C++ 👤 google Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2024-02-13
4
xxnuo/MTranServer

Serveur de modèle de traduction hors ligne avec faible consommation de ressources, vitesse rapide et capacité de déploiement privé. 低资源占用速度快可私有部署的离线翻译模型服务器

xxnuo
⭐ 4,758 C++ 👤 xxnuo User 🕐 Mis à jour 2026-11-18 📅 Créé 2025-02-06
5
OpenMOSS/MOSS-TTS-Nano

Un modèle TTS multilingue de 100 millions de paramètres pour l’inférence en temps réel sur CPU, le clonage de voix et la génération stéréo à 48 kHz

OpenMOSS
⭐ 4,711 Python 👤 OpenMOSS Organization 🕐 Mis à jour 2026-09-06 📅 Créé 2026-04-10
6
fastino-ai/GLiNER2

Extraction d'informations basée sur un schéma unifié

fastino-ai
⭐ 2,490 Python 👤 fastino-ai Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2025-07-07
8
dleemiller/WordLlama

Choses que vous pouvez faire avec les intégrations de jetons d'un LLM

dleemiller
⭐ 1,448 Python 👤 dleemiller User 🕐 Mis à jour 2025-12-01 📅 Créé 2024-06-12
9
synchopate/llama-modchip

Inférence sur CPU sans GPU pour les modèles MoE de 30B à 284B (Qwen3.8 176.5B certifié avec cache froide dans Cgroup v2 à 28,26/48,35 Gio, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Mis à jour 2026-11-21 📅 Créé 2026-10-29
10
wangeai/K3Flight

Exécutez Kimi K3 localement sur CPU avec environ 55 Go de RAM d'exécution mesurée. Un serveur d'inférence Linux à fichier unique propulsé par cPilot Runtime.

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 Mis à jour 2026-07-31 📅 Créé 2026-07-30
11
feder-cr/jev

jevos : une alternative open source à Jev et Microsoft-Decision-1. Des décisions par oui ou non, des choix et des scores avec des probabilités, sur le processeur de votre ordinateur portable.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Mis à jour 2026-10-18 📅 Créé 2024-08-15
12
Phocinae/Phocinae-Largha-150M-v1

Phoque tacheté — Phocinae-Largha-150M-v1 : un modèle bilingue de prise de décision de 144,3 M. Petit modèle. Grandes décisions. Petit phoque, grandes décisions.

Phocinae
⭐ 797 Python 👤 Phocinae Organization 🕐 Mis à jour 2026-10-20 📅 Créé 2026-10-08
13
fluxions-ai/vui

Vui Nano — un petit modèle de synthèse vocale sensible au contexte, entraîné sur des conversations réelles. 219 millions de paramètres actifs (305 millions au total), sous licence Apache 2.0, clonage vocal et diffusion en continu ; fonctionne sur CPU (build C sans dépendances). Inclut un assistant vocal temps réel complet : WebRTC, ASR, LLM local et compatibilité avec l’API Realtime d’OpenAI.

fluxions-ai
⭐ 782 Python 👤 fluxions-ai Organization 🕐 Mis à jour 2026-10-10 📅 Créé 2025-06-05
14
prabanta-dev/janas

37 tok/s avec Qwen3-Next-80B (48 Go) sur un ordinateur portable de 32 Go ; 24 sans spéculation, contre 2,8 avec llama.cpp ; lecture à 62 contre 16 tok/s. Plus rapide que llama.cpp sur les 13 modèles comparés en Q4_K_M. Des LLM plus grands que votre RAM, en C pur, sur CPU ou GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-09-20
15
ai25395/FMatPix

Un outil OCR gratuit et portable pour les formules prenant en charge latex et mathml

ai25395
⭐ 614 Python 👤 ai25395 User 🕐 Mis à jour 2025-04-21 📅 Créé 2024-10-20
16
lucienhuangfu/eLLM

eLLM : Exécuter l'inférence à long horizon plus rapidement sur CPU que sur GPU

lucienhuangfu
⭐ 602 Rust 👤 lucienhuangfu User 🕐 Mis à jour 2026-11-12 📅 Créé 2025-06-30
17
brontoguana/krasis

Krasis est un runtime LLM hybride qui se concentre sur l'exécution efficace de modèles plus volumineux sur du matériel grand public à VRAM limitée

brontoguana
⭐ 530 C++ 👤 brontoguana User 🕐 Mis à jour 2026-11-12 📅 Créé 2026-02-09

Foire aux questions

1

Quel est le dépôt #cpu-inference le plus populaire sur GitHub ?

Le projet #cpu-inference open source le mieux classé sur GitHub est microsoft/BitNet, avec 42,358 étoiles. Framework d'inférence officiel pour les LLM 1 bits

2

Quels langages de programmation sont les plus utilisés dans les dépôts #cpu-inference ?

Parmi les projets #cpu-inference les mieux classés sur GitHub, les langages de programmation les plus courants sont Python, C++, C, HTML.

3

Comment le classement des dépôts #cpu-inference est-il calculé ?

Nous suivons 17 dépôts open source actifs associés à #cpu-inference (500+ étoiles), totalisant 84,398 étoiles, avec une moyenne de 4,964 étoiles par dépôt. Les classements sont mis à jour quotidiennement à partir de l’API GitHub.