Git Stars Git Stars

#inference Repositórios

144
Total de Repositórios
870,238
Total de estrelas
6,043
Média de Estrelas/Repositório

144 repositórios no total

101
OpenIntroStat/ims

📚 Introdução à Estatística Moderna - Um livro didático de código aberto em nível universitário com uma abordagem moderna que destaca relações multivariáveis e inferência baseada em simulação.

OpenIntroStat
⭐ 957 JavaScript 👤 OpenIntroStat Organization 🕐 Atualizado 2026-11-18 📅 Criado 2015-07-13
102
alvarobartt/hf-mem

Um CLI para estimar os requisitos de memória de inferência para modelos Hugging Face, escrito em Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Atualizado 2026-11-20 📅 Criado 2025-12-22
103
uber/neuropod

Uma interface unificada para executar modelos de deep learning de múltiplos frameworks

uber
⭐ 941 C++ 👤 uber Organization 🕐 Atualizado 2024-01-03 📅 Criado 2019-01-23
104
TrenTorch/TrenTorch

Não decore aprendizado de máquina. Entenda-o a partir dos primeiros princípios, incluindo inferência, CUDA, aprendizado profundo, ciência de dados e aprendizado por reforço.

TrenTorch
⭐ 867 Python 👤 TrenTorch Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-08-21
105
PABannier/bark.cpp

Modelo Bark do Suno AI em C/C++ para geração rápida de texto para fala

PABannier
⭐ 850 C++ 👤 PABannier User 🕐 Atualizado 2024-11-16 📅 Criado 2023-07-01
106
triton-inference-server/pytriton

PyTriton é uma interface semelhante a Flask/FastAPI que simplifica a implantação do Triton em ambientes Python.

triton-inference-server
⭐ 847 Python 👤 triton-inference-server Organization 🕐 Atualizado 2025-08-13 📅 Criado 2022-11-08
107
cyrusbehr/tensorrt-cpp-api

Tutorial da API C++ do TensorRT

cyrusbehr
⭐ 813 C++ 👤 cyrusbehr User 🕐 Atualizado 2026-05-30 📅 Criado 2021-10-25
108
fudan-generative-vision/Remory

Remory: aprendizagem de memória residual para compactação de contexto

fudan-generative-vision
⭐ 809 Python 👤 fudan-generative-vision Organization 🕐 Atualizado 2026-11-09 📅 Criado 2026-10-07
109
serizba/cppflow

Execute modelos do TensorFlow em C++ sem instalação e sem Bazel

serizba
⭐ 809 C++ 👤 serizba User 🕐 Atualizado 2024-08-16 📅 Criado 2019-05-16
110
SharpAI/SwiftLM

⚡ Servidor de inferência LLM MLX Swift nativo para Apple Silicon. API compatível com OpenAI, streaming SSD para modelos MoE 100B+, compressão TurboQuant KV cache, app MACOS + iOS iPhone.

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 Atualizado 2026-11-19 📅 Criado 2026-03-21
111
pipeless-ai/pipeless

Um framework de visão computacional de código aberto para construir e implantar aplicativos em minutos

pipeless-ai
⭐ 794 Rust 👤 pipeless-ai Organization 🕐 Atualizado 2024-05-08 📅 Criado 2023-07-21
112
emlearn/emlearn

Mecanismo de inferência de Aprendizado de Máquina para Microcontroladores e Dispositivos Embarcados

emlearn
⭐ 776 Python 👤 emlearn Organization 🕐 Atualizado 2026-11-10 📅 Criado 2018-03-16
113
rnchg/APT

Ferramenta de Produtividade de IA - Gratuita e de código aberto, melhora a produtividade do usuário e protege a privacidade e a segurança dos dados. Incluindo, mas não se limitando a: modelos locais exclusivos integrados como ChatGPT, DeepSeek, Phi, Qwen e outros, processamento inteligente em lote de imagens, vídeos, áudios, etc., com um clique.

rnchg
⭐ 768 C# 👤 rnchg User 🕐 Atualizado 2025-12-13 📅 Criado 2024-06-19
114
h2non/filetype.py

Pacote Python pequeno, rápido e sem dependências para inferir tipos de arquivos binários verificando a assinatura dos números mágicos

h2non
⭐ 766 Python 👤 h2non User 🕐 Atualizado 2025-05-02 📅 Criado 2016-06-18
115
stamparm/identYwaf

Ferramenta de identificação cega de WAF

stamparm
⭐ 758 Python 👤 stamparm User 🕐 Atualizado 2026-09-10 📅 Criado 2019-01-10
116
aws/studio-lab-examples

Cadernos de exemplo para trabalhar com o SageMaker Studio Lab. Inscreva-se para obter uma conta no link abaixo!

aws
⭐ 753 Jupyter Notebook 👤 aws Organization 🕐 Atualizado 2024-08-24 📅 Criado 2021-11-23
117
pegainfer-project/pegainfer

Motor de inferência LLM puro Rust + CUDA — sem PyTorch, compatível com OpenAI, atende de Qwen3 a Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Atualizado 2026-11-21 📅 Criado 2026-02-17
118
MegEngine/InferLLM

um framework de inferência de modelo LLM leve

MegEngine
⭐ 746 C++ 👤 MegEngine Organization 🕐 Atualizado 2024-04-07 📅 Criado 2023-05-04
119
hidet-org/hidet

Um framework/compilador de aprendizado profundo eficiente de código aberto, escrito em python.

hidet-org
⭐ 742 Python 👤 hidet-org Organization 🕐 Atualizado 2025-09-04 📅 Criado 2022-01-04
120
microsoft/vidur

Simulador preciso, em grande escala e extensível para sistemas de inferência de LLM

microsoft
⭐ 733 Python 👤 microsoft Organization 🕐 Atualizado 2026-08-24 📅 Criado 2023-11-02
121
zhiqwang/yolort

yolort é uma pilha de tempo de execução para yolov5 em aceleradores especializados como tensorrt, libtorch, onnxruntime, tvm e ncnn.

zhiqwang
⭐ 730 Python 👤 zhiqwang User 🕐 Atualizado 2026-04-10 📅 Criado 2020-08-14
122
intel/ai-reference-models

Modelos de Referência Intel® AI: contém otimizações Intel para executar cargas de trabalho de aprendizado profundo em processadores Intel® Xeon® Scalable e GPUs Intel® para Data Center

intel
⭐ 728 Python 👤 intel Organization 🕐 Atualizado 2026-02-11 📅 Criado 2018-10-23
123
privacytrustlab/ml_privacy_meter

Privacy Meter: Uma biblioteca de código aberto para auditar a privacidade de dados em algoritmos estatísticos e de aprendizado de máquina.

privacytrustlab
⭐ 715 Jupyter Notebook 👤 privacytrustlab Organization 🕐 Atualizado 2025-04-26 📅 Criado 2020-04-08
124
DerwenAI/kglab

Graph Data Science: uma camada de abstração em Python para construir knowledge graphs, integrada com bibliotecas populares de grafos – sobre Pandas, NetworkX, RAPIDS, RDFlib, pySHACL, PyVis, morph-kgc, pslpython, pyarrow, etc.

DerwenAI
⭐ 696 Jupyter Notebook 👤 DerwenAI Organization 🕐 Atualizado 2026-01-25 📅 Criado 2020-10-25
125
kossisoroyce/timber

Ollama para modelos ML clássicos. Compilador AOT que transforma modelos XGBoost, LightGBM, scikit-learn, CatBoost e ONNX em código de inferência nativo C99. Um comando para carregar, um comando para servir. 336x mais rápido que inferência em Python.

kossisoroyce
⭐ 692 Python 👤 kossisoroyce User 🕐 Atualizado 2026-04-16 📅 Criado 2026-02-27
126
zhongkaifu/TensorSharp

Um mecanismo nativo de inferência de LLM e runtime de agentes em .NET para modelos GGUF. O TensorSharp oferece um aplicativo de console, uma interface de chatbot baseada na Web, um aplicativo para iPhone e APIs HTTP compatíveis com Ollama/OpenAI para acesso programático. É compatível com Windows, macOS, iOS e Linux, com suporte completo a GPU.

zhongkaifu
⭐ 681 C# 👤 zhongkaifu User 🕐 Atualizado 2026-11-20 📅 Criado 2026-04-03
127
AntonMu/TrainYourOwnYOLO

Treine um detector de objetos yolov3 de última geração do zero!

AntonMu
⭐ 673 Jupyter Notebook 👤 AntonMu User 🕐 Atualizado 2024-08-02 📅 Criado 2019-07-17
128
Nehanth/pooled

Inferência de LLM ponto a ponto no navegador: reúna seus dispositivos para executar grandes modelos abertos destinados a agentes de chat e programação.

Nehanth
⭐ 658 JavaScript 👤 Nehanth User 🕐 Atualizado 2026-11-03 📅 Criado 2026-09-01
129
xboot/libonnx

Um motor de inferência onnx puro C99, leve e portátil, para dispositivos embarcados com suporte de aceleração de hardware.

xboot
⭐ 657 C 👤 xboot Organization 🕐 Atualizado 2026-07-07 📅 Criado 2020-10-14
130
open-edge-platform/dlstreamer

O Deep Learning Streamer (DL Streamer) Pipeline Framework é uma estrutura de análise de mídia de streaming de código aberto, baseada na estrutura multimídia GStreamer*, para a criação de pipelines complexas de análise de mídia para a Nuvem ou na Borda (Edge).

open-edge-platform
⭐ 648 C++ 👤 open-edge-platform Organization 🕐 Atualizado 2026-11-20 📅 Criado 2019-03-13
131
WaveSpeedAI/waverless

Orquestração de tarefas GPU serverless de alto desempenho — a camada de agendamento por trás do wavespeed.ai

WaveSpeedAI
⭐ 635 Go 👤 WaveSpeedAI Organization 🕐 Atualizado 2026-08-21 📅 Criado 2025-10-16
132
therealoliver/Deepdive-llama3-from-scratch

Alcance a inferência do llama3 passo a passo, compreenda os conceitos centrais, domine a derivação do processo e implemente o código.

therealoliver
⭐ 629 Jupyter Notebook 👤 therealoliver User 🕐 Atualizado 2025-02-24 📅 Criado 2025-02-19
133
Rudrabha/LipGAN

Este repositório contém os códigos para LipGAN. LipGAN foi publicado como parte do artigo intitulado "Towards Automatic Face-to-Face Translation".

Rudrabha
⭐ 617 Python 👤 Rudrabha User 🕐 Atualizado 2025-06-22 📅 Criado 2020-01-02
134
grimoire/mmdetection-to-tensorrt

converter o modelo mmdetection para tensorrt, suporta fp16, int8, entrada em lote, forma dinâmica, etc.

grimoire
⭐ 598 Python 👤 grimoire User 🕐 Atualizado 2024-02-18 📅 Criado 2020-07-12
135
agentic-in/inferoa

Harness de agentes nativo de inferência para maximização de tokens em engenharia de loops

agentic-in
⭐ 570 TypeScript 👤 agentic-in Organization 🕐 Atualizado 2026-06-18 📅 Criado 2026-06-08
136
spark-arena/sparkrun

sparkrun — inicie, gerencie e interrompa cargas de trabalho de inferência de LLM em sistemas NVIDIA DGX Spark. Suporte ao vivo: https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 Atualizado 2026-11-17 📅 Criado 2026-02-16
137
Koldim2001/YOLO-Patch-Based-Inference

Biblioteca Python para detecção de objetos pequenos YOLO e segmentação de instâncias

Koldim2001
⭐ 562 Python 👤 Koldim2001 User 🕐 Atualizado 2026-04-22 📅 Criado 2024-03-04
138
dllm-labs/mojo-dllm

Inferência local para modelos de linguagem de difusão (LLaDA, Dream), escrita em Mojo

dllm-labs
⭐ 546 Python 👤 dllm-labs Organization 🕐 Atualizado 2026-11-20 📅 Criado 2026-10-04
139
kaito-project/aikit

🏗️ Ajuste, construa e implante LLMs de código aberto facilmente!

kaito-project
⭐ 545 Go 👤 kaito-project Organization 🕐 Atualizado 2026-11-16 📅 Criado 2023-09-20
140
kubedl-io/kubedl

Execute suas cargas de trabalho de aprendizado profundo no Kubernetes de forma mais fácil e eficiente.

kubedl-io
⭐ 533 Go 👤 kubedl-io Organization 🕐 Atualizado 2024-03-04 📅 Criado 2019-12-10
141
triton-inference-server/model_analyzer

Triton Model Analyzer é uma ferramenta CLI para ajudar a compreender melhor os requisitos de computação e memória dos modelos do Triton Inference Server.

triton-inference-server
⭐ 531 Python 👤 triton-inference-server Organization 🕐 Atualizado 2026-11-17 📅 Criado 2020-09-01
142
NVIDIA-ISAAC-ROS/isaac_ros_pose_estimation

Estimativa da pose de objetos 3D por aprendizagem profunda, acelerada pela NVIDIA

NVIDIA-ISAAC-ROS
⭐ 520 C++ 👤 NVIDIA-ISAAC-ROS Organization 🕐 Atualizado 2026-11-18 📅 Criado 2021-11-04
143
mithril-security/blindai

Implantação de IA confidencial com enclaves seguros :lock:

mithril-security
⭐ 512 Rust 👤 mithril-security Organization 🕐 Atualizado 2024-03-19 📅 Criado 2022-02-06
144
vectorch-ai/ScaleLLM

Um sistema de inferência de alto desempenho para modelos de linguagem grandes, projetado para ambientes de produção.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Atualizado 2025-12-19 📅 Criado 2023-07-24