Git Stars Git Stars

#cpu-inference Repositorios

Descubre 17 repositorios activos de código abierto de GitHub etiquetados con #cpu-inference, que acumulan 84,398 estrellas en total (una media de 4,964 estrellas por proyecto). El líder de este tema es microsoft/BitNet, con 42,358 estrellas.

17
Total de Repositorios
84,398
Total de estrellas
4,964
Promedio de Estrellas/Repo
Lenguajes de programación: Python C++ C HTML Rust

17 repositorios en total

1
microsoft/BitNet

Marco de inferencia oficial para LLM de 1 bit

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 Actualizado 2026-07-27 📅 Creado 2024-08-05
2
FareedKhan-dev/kimi-k3-in-c

Un modelo Kimi K3 de 2,78 billones de parámetros ejecutando inferencia en una sola CPU con 8,24 GB de RAM. C99 portátil: sin BLAS, sin framework, sin GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Actualizado 2026-11-16 📅 Creado 2026-08-01
3
google/gemma.cpp

motor de inferencia C++ ligero e independiente para los modelos Gemma de Google.

google
⭐ 7,089 C++ 👤 google Organization 🕐 Actualizado 2026-11-20 📅 Creado 2024-02-13
4
xxnuo/MTranServer

Servidor de modelo de traducción sin conexión con bajo consumo de recursos, alta velocidad y capacidad de implementación privada. 低资源占用速度快可私有部署的离线翻译模型服务器

xxnuo
⭐ 4,758 C++ 👤 xxnuo User 🕐 Actualizado 2026-11-18 📅 Creado 2025-02-06
5
OpenMOSS/MOSS-TTS-Nano

Un modelo TTS multilingüe de 100 millones de parámetros para inferencia en CPU en tiempo real, clonación de voz y generación estéreo a 48 kHz

OpenMOSS
⭐ 4,711 Python 👤 OpenMOSS Organization 🕐 Actualizado 2026-09-06 📅 Creado 2026-04-10
6
fastino-ai/GLiNER2

Extracción de Información basada en esquema unificado

fastino-ai
⭐ 2,490 Python 👤 fastino-ai Organization 🕐 Actualizado 2026-11-20 📅 Creado 2025-07-07
8
dleemiller/WordLlama

Cosas que puedes hacer con las incrustaciones de tokens de un LLM

dleemiller
⭐ 1,448 Python 👤 dleemiller User 🕐 Actualizado 2025-12-01 📅 Creado 2024-06-12
9
synchopate/llama-modchip

Inferencia en CPU sin GPU para modelos MoE de 30B–284B (Qwen3.8 176.5B certificado con caché fría en Cgroup v2 de 28,26/48,35 GiB, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Actualizado 2026-11-21 📅 Creado 2026-10-29
10
wangeai/K3Flight

Ejecute Kimi K3 localmente en la CPU con ~55 GB de RAM de tiempo de ejecución medida. Un servidor de inferencia de Linux de un solo archivo impulsado por cPilot Runtime.

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 Actualizado 2026-07-31 📅 Creado 2026-07-30
11
feder-cr/jev

jevos: una alternativa de código abierto a Jev y Microsoft-Decision-1. Decisiones de sí o no, opciones y puntuaciones con probabilidades, en la CPU de tu portátil.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Actualizado 2026-10-18 📅 Creado 2024-08-15
12
Phocinae/Phocinae-Largha-150M-v1

Foca moteada — Phocinae-Largha-150M-v1: un modelo bilingüe de toma de decisiones de 144,3 M. Modelo pequeño. Grandes decisiones. Foca pequeña, grandes decisiones.

Phocinae
⭐ 797 Python 👤 Phocinae Organization 🕐 Actualizado 2026-10-20 📅 Creado 2026-10-08
13
fluxions-ai/vui

Vui Nano — un pequeño modelo de texto a voz consciente del contexto, entrenado con conversaciones reales. 219 millones de parámetros activos (305 millones en total), Apache 2.0, clonación de voz y transmisión en tiempo real; funciona en CPU (compilación en C sin dependencias). Incluye un asistente de voz completo en tiempo real: WebRTC, ASR, LLM local y compatibilidad con la API Realtime de OpenAI.

fluxions-ai
⭐ 782 Python 👤 fluxions-ai Organization 🕐 Actualizado 2026-10-10 📅 Creado 2025-06-05
14
prabanta-dev/janas

37 tok/s con Qwen3-Next-80B (48 GB) en un portátil de 32 GB; 24 sin borradores, frente a 2,8 con llama.cpp; lectura a 62 frente a 16 tok/s. Más rápido que llama.cpp en los 13 modelos comparados en Q4_K_M. LLM más grandes que tu RAM, en C puro, para CPU o GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-09-20
15
ai25395/FMatPix

Una herramienta OCR gratuita y portátil para fórmulas que admite latex y mathml

ai25395
⭐ 614 Python 👤 ai25395 User 🕐 Actualizado 2025-04-21 📅 Creado 2024-10-20
16
lucienhuangfu/eLLM

eLLM: Ejecutar inferencia de horizonte largo más rápido en CPU que en GPU

lucienhuangfu
⭐ 602 Rust 👤 lucienhuangfu User 🕐 Actualizado 2026-11-12 📅 Creado 2025-06-30
17
brontoguana/krasis

Krasis es un entorno de ejecución de LLM híbrido que se centra en la ejecución eficiente de modelos más grandes en hardware de consumo con VRAM limitada

brontoguana
⭐ 530 C++ 👤 brontoguana User 🕐 Actualizado 2026-11-12 📅 Creado 2026-02-09

Preguntas frecuentes

1

¿Cuál es el repositorio de #cpu-inference más popular en GitHub?

El proyecto de código abierto de #cpu-inference mejor posicionado en GitHub es microsoft/BitNet, con 42,358 estrellas. Marco de inferencia oficial para LLM de 1 bit

2

¿Qué lenguajes de programación se utilizan más en los repositorios de #cpu-inference?

Entre los proyectos de #cpu-inference mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, C++, C, HTML.

3

¿Cómo se calcula la clasificación de los repositorios de #cpu-inference?

Seguimos 17 repositorios activos de código abierto etiquetados con #cpu-inference (500+ estrellas), que suman un total de 84,398 estrellas, con una media de 4,964 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.