Git Stars Git Stars

#inference Repositorios

144
Total de Repositorios
870,238
Total de estrellas
6,043
Promedio de Estrellas/Repo

144 repositorios en total

101
OpenIntroStat/ims

📚 Introducción a la Estadística Moderna - Un libro de texto de código abierto a nivel universitario con un enfoque moderno que destaca las relaciones multivariables y la inferencia basada en simulación.

OpenIntroStat
⭐ 957 JavaScript 👤 OpenIntroStat Organization 🕐 Actualizado 2026-11-18 📅 Creado 2015-07-13
102
alvarobartt/hf-mem

Una CLI para estimar los requisitos de memoria de inferencia para modelos de Hugging Face, escrita en Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Actualizado 2026-11-20 📅 Creado 2025-12-22
103
uber/neuropod

Una interfaz uniforme para ejecutar modelos de aprendizaje profundo de múltiples frameworks

uber
⭐ 941 C++ 👤 uber Organization 🕐 Actualizado 2024-01-03 📅 Creado 2019-01-23
104
TrenTorch/TrenTorch

No memorices el aprendizaje automático. Compréndelo desde sus primeros principios, incluyendo la inferencia, CUDA, el aprendizaje profundo, la ciencia de datos y el aprendizaje por refuerzo.

TrenTorch
⭐ 867 Python 👤 TrenTorch Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-08-21
105
PABannier/bark.cpp

El modelo Bark de Suno AI en C/C++ para una generación rápida de texto a voz

PABannier
⭐ 850 C++ 👤 PABannier User 🕐 Actualizado 2024-11-16 📅 Creado 2023-07-01
106
triton-inference-server/pytriton

PyTriton es una interfaz similar a Flask/FastAPI que simplifica la implementación de Triton en entornos Python.

triton-inference-server
⭐ 847 Python 👤 triton-inference-server Organization 🕐 Actualizado 2025-08-13 📅 Creado 2022-11-08
107
cyrusbehr/tensorrt-cpp-api

Tutorial de la API C++ de TensorRT

cyrusbehr
⭐ 813 C++ 👤 cyrusbehr User 🕐 Actualizado 2026-05-30 📅 Creado 2021-10-25
108
fudan-generative-vision/Remory

Remory: aprendizaje de memoria residual para la compresión del contexto

fudan-generative-vision
⭐ 809 Python 👤 fudan-generative-vision Organization 🕐 Actualizado 2026-11-09 📅 Creado 2026-10-07
109
serizba/cppflow

Ejecutar modelos de TensorFlow en C++ sin instalación y sin Bazel

serizba
⭐ 809 C++ 👤 serizba User 🕐 Actualizado 2024-08-16 📅 Creado 2019-05-16
110
SharpAI/SwiftLM

⚡ Servidor de inferencia LLM MLX Swift nativo para Apple Silicon. API compatible con OpenAI, streaming SSD para modelos MoE 100B+, compresión TurboQuant KV cache, app MACOS + iOS iPhone.

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 Actualizado 2026-11-19 📅 Creado 2026-03-21
111
pipeless-ai/pipeless

Un marco de visión por computadora de código abierto para crear y desplegar aplicaciones en minutos

pipeless-ai
⭐ 794 Rust 👤 pipeless-ai Organization 🕐 Actualizado 2024-05-08 📅 Creado 2023-07-21
112
emlearn/emlearn

Motor de inferencia de Machine Learning para Microcontroladores y Dispositivos Empotrados

emlearn
⭐ 776 Python 👤 emlearn Organization 🕐 Actualizado 2026-11-10 📅 Creado 2018-03-16
113
rnchg/APT

Herramienta de Productividad con IA – Gratuita y de código abierto, mejora la productividad del usuario y protege la privacidad y la seguridad de los datos. Incluye, entre otros: ChatGPT local exclusivo integrado, DeepSeek, Phi, Qwen y otros modelos, procesamiento inteligente por lotes de imágenes, videos, audio, etc. con un clic.

rnchg
⭐ 768 C# 👤 rnchg User 🕐 Actualizado 2025-12-13 📅 Creado 2024-06-19
114
h2non/filetype.py

Paquete de Python pequeño, sin dependencias, rápido para inferir tipos de archivos binarios verificando la firma de números mágicos

h2non
⭐ 766 Python 👤 h2non User 🕐 Actualizado 2025-05-02 📅 Creado 2016-06-18
115
stamparm/identYwaf

Herramienta de identificación de WAF ciega

stamparm
⭐ 758 Python 👤 stamparm User 🕐 Actualizado 2026-09-10 📅 Creado 2019-01-10
116
aws/studio-lab-examples

Cuadernos de ejemplo para trabajar con SageMaker Studio Lab. ¡Regístrate para obtener una cuenta en el enlace de abajo!

aws
⭐ 753 Jupyter Notebook 👤 aws Organization 🕐 Actualizado 2024-08-24 📅 Creado 2021-11-23
117
pegainfer-project/pegainfer

Motor de inferencia LLM puro Rust + CUDA — sin PyTorch, compatible con OpenAI, sirve desde Qwen3 hasta Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Actualizado 2026-11-21 📅 Creado 2026-02-17
118
MegEngine/InferLLM

un framework de inferencia de modelos LLM ligero

MegEngine
⭐ 746 C++ 👤 MegEngine Organization 🕐 Actualizado 2024-04-07 📅 Creado 2023-05-04
119
hidet-org/hidet

Un framework/compilador de aprendizaje profundo eficiente de código abierto, escrito en python.

hidet-org
⭐ 742 Python 👤 hidet-org Organization 🕐 Actualizado 2025-09-04 📅 Creado 2022-01-04
120
microsoft/vidur

Simulador preciso, a gran escala y extensible para sistemas de inferencia de LLM

microsoft
⭐ 733 Python 👤 microsoft Organization 🕐 Actualizado 2026-08-24 📅 Creado 2023-11-02
121
zhiqwang/yolort

yolort es una pila de tiempo de ejecución para yolov5 en aceleradores especializados como tensorrt, libtorch, onnxruntime, tvm y ncnn.

zhiqwang
⭐ 730 Python 👤 zhiqwang User 🕐 Actualizado 2026-04-10 📅 Creado 2020-08-14
122
intel/ai-reference-models

Intel® AI Reference Models: contiene optimizaciones de Intel para ejecutar cargas de trabajo de aprendizaje profundo en procesadores Intel® Xeon® Scalable e Intel® Data Center GPUs

intel
⭐ 728 Python 👤 intel Organization 🕐 Actualizado 2026-02-11 📅 Creado 2018-10-23
123
privacytrustlab/ml_privacy_meter

Privacy Meter: Una biblioteca de código abierto para auditar la privacidad de los datos en algoritmos estadísticos y de aprendizaje automático.

privacytrustlab
⭐ 715 Jupyter Notebook 👤 privacytrustlab Organization 🕐 Actualizado 2025-04-26 📅 Creado 2020-04-08
124
DerwenAI/kglab

Graph Data Science: una capa de abstracción en Python para construir grafos de conocimiento, integrada con bibliotecas de grafos populares: sobre Pandas, NetworkX, RAPIDS, RDFlib, pySHACL, PyVis, morph-kgc, pslpython, pyarrow, etc.

DerwenAI
⭐ 696 Jupyter Notebook 👤 DerwenAI Organization 🕐 Actualizado 2026-01-25 📅 Creado 2020-10-25
125
kossisoroyce/timber

Ollama para modelos ML clásicos. Compilador AOT que convierte modelos XGBoost, LightGBM, scikit-learn, CatBoost y ONNX en código de inferencia nativo C99. Un comando para cargar, un comando para servir. 336x más rápido que la inferencia en Python.

kossisoroyce
⭐ 692 Python 👤 kossisoroyce User 🕐 Actualizado 2026-04-16 📅 Creado 2026-02-27
126
zhongkaifu/TensorSharp

Un motor nativo de inferencia de modelos de lenguaje grande (LLM) y un entorno de ejecución de agentes .NET para modelos GGUF. TensorSharp ofrece una aplicación de consola, una interfaz de chatbot basada en la web, una aplicación para iPhone y API HTTP compatibles con Ollama/OpenAI para el acceso mediante programación. Es compatible con Windows, macOS, iOS y Linux, con capacidades completas de GPU.

zhongkaifu
⭐ 681 C# 👤 zhongkaifu User 🕐 Actualizado 2026-11-20 📅 Creado 2026-04-03
127
AntonMu/TrainYourOwnYOLO

¡Entrena un detector de objetos yolov3 de última generación desde cero!

AntonMu
⭐ 673 Jupyter Notebook 👤 AntonMu User 🕐 Actualizado 2024-08-02 📅 Creado 2019-07-17
128
Nehanth/pooled

Inferencia de LLM entre pares en el navegador: agrupa tus dispositivos para ejecutar grandes modelos abiertos destinados a agentes de chat y programación.

Nehanth
⭐ 658 JavaScript 👤 Nehanth User 🕐 Actualizado 2026-11-03 📅 Creado 2026-09-01
129
xboot/libonnx

Un motor de inferencia ONNX ligero, portátil y en C99 puro para dispositivos integrados con soporte de aceleración por hardware.

xboot
⭐ 657 C 👤 xboot Organization 🕐 Actualizado 2026-07-07 📅 Creado 2020-10-14
130
open-edge-platform/dlstreamer

Deep Learning Streamer (DL Streamer) Pipeline Framework es un marco de análisis de medios de streaming de código abierto, basado en el marco multimedia GStreamer*, para crear complejas canalizaciones de análisis de medios para la Nube o en el Borde (Edge).

open-edge-platform
⭐ 648 C++ 👤 open-edge-platform Organization 🕐 Actualizado 2026-11-20 📅 Creado 2019-03-13
131
WaveSpeedAI/waverless

Orquestación de tareas GPU sin servidor de alto rendimiento — la capa de programación detrás de wavespeed.ai

WaveSpeedAI
⭐ 635 Go 👤 WaveSpeedAI Organization 🕐 Actualizado 2026-08-21 📅 Creado 2025-10-16
132
therealoliver/Deepdive-llama3-from-scratch

Logra el paso de inferencia de llama3 paso a paso, comprende los conceptos centrales, domina la derivación del proceso, implementa el código.

therealoliver
⭐ 629 Jupyter Notebook 👤 therealoliver User 🕐 Actualizado 2025-02-24 📅 Creado 2025-02-19
133
Rudrabha/LipGAN

Este repositorio contiene los códigos para LipGAN. LipGAN se publicó como parte del artículo titulado "Towards Automatic Face-to-Face Translation".

Rudrabha
⭐ 617 Python 👤 Rudrabha User 🕐 Actualizado 2025-06-22 📅 Creado 2020-01-02
134
grimoire/mmdetection-to-tensorrt

Convertir el modelo MMDetection a TensorRT, compatible con fp16, int8, entrada por lotes, forma dinámica, etc.

grimoire
⭐ 598 Python 👤 grimoire User 🕐 Actualizado 2024-02-18 📅 Creado 2020-07-12
135
agentic-in/inferoa

Arnés de agentes nativo de inferencia para la maximización de tokens en la ingeniería de bucles

agentic-in
⭐ 570 TypeScript 👤 agentic-in Organization 🕐 Actualizado 2026-06-18 📅 Creado 2026-06-08
136
spark-arena/sparkrun

sparkrun: inicia, gestiona y detén cargas de trabajo de inferencia de LLM en sistemas NVIDIA DGX Spark. Soporte en vivo: https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 Actualizado 2026-11-17 📅 Creado 2026-02-16
137
Koldim2001/YOLO-Patch-Based-Inference

Librería de Python para detección de objetos pequeños YOLO y segmentación de instancias

Koldim2001
⭐ 562 Python 👤 Koldim2001 User 🕐 Actualizado 2026-04-22 📅 Creado 2024-03-04
138
dllm-labs/mojo-dllm

Inferencia local para modelos de lenguaje de difusión (LLaDA, Dream), escrita en Mojo

dllm-labs
⭐ 546 Python 👤 dllm-labs Organization 🕐 Actualizado 2026-11-20 📅 Creado 2026-10-04
139
kaito-project/aikit

🏗️ ¡Ajusta, crea e implementa LLMs de código abierto fácilmente!

kaito-project
⭐ 545 Go 👤 kaito-project Organization 🕐 Actualizado 2026-11-16 📅 Creado 2023-09-20
140
kubedl-io/kubedl

Ejecute sus cargas de trabajo de aprendizaje profundo en Kubernetes de manera más fácil y eficiente.

kubedl-io
⭐ 533 Go 👤 kubedl-io Organization 🕐 Actualizado 2024-03-04 📅 Creado 2019-12-10
141
triton-inference-server/model_analyzer

Triton Model Analyzer es una herramienta CLI para ayudar a comprender mejor los requisitos de cómputo y memoria de los modelos del servidor de inferencia Triton.

triton-inference-server
⭐ 531 Python 👤 triton-inference-server Organization 🕐 Actualizado 2026-11-17 📅 Creado 2020-09-01
142
NVIDIA-ISAAC-ROS/isaac_ros_pose_estimation

Estimación de la pose de objetos 3D mediante aprendizaje profundo y aceleración de NVIDIA

NVIDIA-ISAAC-ROS
⭐ 520 C++ 👤 NVIDIA-ISAAC-ROS Organization 🕐 Actualizado 2026-11-18 📅 Creado 2021-11-04
143
mithril-security/blindai

Despliegue confidencial de IA con enclaves seguros :lock:

mithril-security
⭐ 512 Rust 👤 mithril-security Organization 🕐 Actualizado 2024-03-19 📅 Creado 2022-02-06
144
vectorch-ai/ScaleLLM

Un sistema de inferencia de alto rendimiento para modelos de lenguaje grandes, diseñado para entornos de producción.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Actualizado 2025-12-19 📅 Creado 2023-07-24