Git Stars Git Stars

#cpu-inference Repositórios

Descubra 17 repositórios ativos de código aberto no GitHub marcados com #cpu-inference, acumulando um total de 84,398 estrelas (uma média de 4,964 por projeto). O líder deste tópico é microsoft/BitNet, com 42,358 estrelas.

17
Total de Repositórios
84,398
Total de estrelas
4,964
Média de Estrelas/Repositório
Linguagens de programação: Python C++ C HTML Rust

17 repositórios no total

1
microsoft/BitNet

Estrutura de inferência oficial para LLMs de 1 bit

microsoft
⭐ 42,358 C++ 👤 microsoft Organization 🕐 Atualizado 2026-07-27 📅 Criado 2024-08-05
2
FareedKhan-dev/kimi-k3-in-c

Um modelo Kimi K3 de 2,78 trilhões de parâmetros executando inferência em uma única CPU com 8,24 GB de RAM. C99 portátil: sem BLAS, sem framework, sem GPU.

FareedKhan-dev
⭐ 12,523 C 👤 FareedKhan-dev User 🕐 Atualizado 2026-11-16 📅 Criado 2026-08-01
3
google/gemma.cpp

mecanismo de inferência C++ leve e autônomo para os modelos Gemma do Google.

google
⭐ 7,089 C++ 👤 google Organization 🕐 Atualizado 2026-11-20 📅 Criado 2024-02-13
4
xxnuo/MTranServer

Servidor de modelo de tradução offline com baixo consumo de recursos, alta velocidade e capacidade de implantação privada. 低资源占用速度快可私有部署的离线翻译模型服务器

xxnuo
⭐ 4,758 C++ 👤 xxnuo User 🕐 Atualizado 2026-11-18 📅 Criado 2025-02-06
5
OpenMOSS/MOSS-TTS-Nano

Um modelo TTS multilíngue com 100 milhões de parâmetros para inferência em tempo real na CPU, clonagem de voz e geração estéreo a 48 kHz

OpenMOSS
⭐ 4,711 Python 👤 OpenMOSS Organization 🕐 Atualizado 2026-09-06 📅 Criado 2026-04-10
6
fastino-ai/GLiNER2

Extração de Informação baseada em esquema unificado

fastino-ai
⭐ 2,490 Python 👤 fastino-ai Organization 🕐 Atualizado 2026-11-20 📅 Criado 2025-07-07
8
dleemiller/WordLlama

Coisas que você pode fazer com os embeddings de token de um LLM

dleemiller
⭐ 1,448 Python 👤 dleemiller User 🕐 Atualizado 2025-12-01 📅 Criado 2024-06-12
9
synchopate/llama-modchip

Inferência em CPU sem GPU para modelos MoE de 30B–284B (Qwen3.8 176.5B certificado com cache fria no Cgroup v2 com 28,26/48,35 GiB, DeepSeek-V4 284B, Nemotron-30B) + RouteCrack 2.0.

synchopate
⭐ 1,398 Python 👤 synchopate User 🕐 Atualizado 2026-11-21 📅 Criado 2026-10-29
10
wangeai/K3Flight

Execute o Kimi K3 localmente na CPU com cerca de 55 GB de RAM de tempo de execução medida. Um servidor de inferência Linux de arquivo único alimentado pelo cPilot Runtime.

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 Atualizado 2026-07-31 📅 Criado 2026-07-30
11
feder-cr/jev

jevos: uma alternativa de código aberto ao Jev e ao Microsoft-Decision-1. Decisões de sim ou não, escolhas e pontuações com probabilidades, na CPU do seu laptop.

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 Atualizado 2026-10-18 📅 Criado 2024-08-15
12
Phocinae/Phocinae-Largha-150M-v1

Foca-malhada — Phocinae-Largha-150M-v1: um modelo bilíngue de tomada de decisões com 144,3 milhões de parâmetros. Modelo pequeno. Grandes decisões. Foca pequena, grandes decisões.

Phocinae
⭐ 797 Python 👤 Phocinae Organization 🕐 Atualizado 2026-10-20 📅 Criado 2026-10-08
13
fluxions-ai/vui

Vui Nano — um modelo pequeno de conversão de texto em fala, sensível ao contexto e treinado em conversas reais. 219 milhões de parâmetros ativos (305 milhões no total), Apache 2.0, clonagem de voz e streaming; funciona em CPU (build em C sem dependências). Inclui um assistente de voz completo em tempo real: WebRTC, ASR, LLM local e compatibilidade com a API Realtime da OpenAI.

fluxions-ai
⭐ 782 Python 👤 fluxions-ai Organization 🕐 Atualizado 2026-10-10 📅 Criado 2025-06-05
14
prabanta-dev/janas

37 tok/s com Qwen3-Next-80B (48 GB) num portátil com 32 GB; 24 sem rascunhos, contra 2,8 com llama.cpp; leitura a 62 contra 16 tok/s. Mais rápido que llama.cpp em todos os 13 modelos comparados em Q4_K_M. LLMs maiores do que a sua RAM, em C puro, para CPU ou GPU.

prabanta-dev
⭐ 738 C 👤 prabanta-dev Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-09-20
15
ai25395/FMatPix

Uma ferramenta Formula Ocr portátil e gratuita com suporte a LaTeX e MathML

ai25395
⭐ 614 Python 👤 ai25395 User 🕐 Atualizado 2025-04-21 📅 Criado 2024-10-20
16
lucienhuangfu/eLLM

eLLM: Executar inferência de horizonte longo mais rápido em CPUs do que em GPUs

lucienhuangfu
⭐ 602 Rust 👤 lucienhuangfu User 🕐 Atualizado 2026-11-12 📅 Criado 2025-06-30
17
brontoguana/krasis

Krasis é um runtime de LLM híbrido que se concentra na execução eficiente de modelos maiores em hardware de consumo com VRAM limitada

brontoguana
⭐ 530 C++ 👤 brontoguana User 🕐 Atualizado 2026-11-12 📅 Criado 2026-02-09

Perguntas Frequentes

1

Qual é o repositório de #cpu-inference mais popular no GitHub?

O projeto de código aberto de #cpu-inference mais bem classificado no GitHub é microsoft/BitNet, com 42,358 estrelas. Estrutura de inferência oficial para LLMs de 1 bit

2

Quais linguagens de programação são mais usadas nos repositórios de #cpu-inference?

Entre os projetos de #cpu-inference mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C++, C, HTML.

3

Como é calculada a classificação dos repositórios de #cpu-inference?

Acompanhamos 17 repositórios ativos de código aberto marcados com #cpu-inference (com mais de 500 estrelas), totalizando 84,398 estrelas e uma média de 4,964 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.