Git Stars Git Stars

#inference Dépôts

144
Total des Dépôts
870,238
Nombre total d'étoiles
6,043
Moyenne d'Étoiles/Dépôt
101
OpenIntroStat/ims

📚 Introduction à la statistique moderne - Un manuel universitaire en libre accès, avec une approche moderne mettant en évidence les relations multivariées et l'inférence basée sur la simulation.

OpenIntroStat
⭐ 957 JavaScript 👤 OpenIntroStat Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2015-07-13
102
alvarobartt/hf-mem

Un CLI pour estimer les exigences en mémoire d'inférence des modèles Hugging Face, écrit en Python.

alvarobartt
⭐ 956 Python 👤 alvarobartt User 🕐 Mis à jour 2026-11-20 📅 Créé 2025-12-22
103
uber/neuropod

Une interface uniforme pour exécuter des modèles d'apprentissage profond provenant de plusieurs frameworks

uber
⭐ 941 C++ 👤 uber Organization 🕐 Mis à jour 2024-01-03 📅 Créé 2019-01-23
104
TrenTorch/TrenTorch

Ne mémorisez pas le machine learning. Comprenez-le à partir des principes fondamentaux, notamment l’inférence, CUDA, l’apprentissage profond, la science des données et l’apprentissage par renforcement.

TrenTorch
⭐ 867 Python 👤 TrenTorch Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-08-21
105
PABannier/bark.cpp

Le modèle Bark de Suno AI en C/C++ pour une génération rapide de texte-à-voix

PABannier
⭐ 850 C++ 👤 PABannier User 🕐 Mis à jour 2024-11-16 📅 Créé 2023-07-01
106
triton-inference-server/pytriton

PyTriton est une interface de type Flask/FastAPI qui simplifie le déploiement de Triton dans les environnements Python.

triton-inference-server
⭐ 847 Python 👤 triton-inference-server Organization 🕐 Mis à jour 2025-08-13 📅 Créé 2022-11-08
107
cyrusbehr/tensorrt-cpp-api

Tutoriel de l'API C++ TensorRT

cyrusbehr
⭐ 813 C++ 👤 cyrusbehr User 🕐 Mis à jour 2026-05-30 📅 Créé 2021-10-25
108
fudan-generative-vision/Remory

Remory : apprendre une mémoire résiduelle pour compacter le contexte

fudan-generative-vision
⭐ 809 Python 👤 fudan-generative-vision Organization 🕐 Mis à jour 2026-11-09 📅 Créé 2026-10-07
109
serizba/cppflow

Exécuter des modèles TensorFlow en C++ sans installation et sans Bazel

serizba
⭐ 809 C++ 👤 serizba User 🕐 Mis à jour 2024-08-16 📅 Créé 2019-05-16
110
SharpAI/SwiftLM

⚡ Serveur d'inférence LLM MLX Swift natif pour Apple Silicon. API compatible OpenAI, streaming SSD pour modèles MoE 100B+, compression TurboQuant KV cache, app MACOS + iOS iPhone.

SharpAI
⭐ 802 Swift 👤 SharpAI Organization 🕐 Mis à jour 2026-11-19 📅 Créé 2026-03-21
111
pipeless-ai/pipeless

Un framework open-source de vision par ordinateur pour créer et déployer des applications en quelques minutes

pipeless-ai
⭐ 794 Rust 👤 pipeless-ai Organization 🕐 Mis à jour 2024-05-08 📅 Créé 2023-07-21
112
emlearn/emlearn

Moteur d'inférence Machine Learning pour Microcontrôleurs et Dispositifs Embarqués

emlearn
⭐ 776 Python 👤 emlearn Organization 🕐 Mis à jour 2026-11-10 📅 Créé 2018-03-16
113
rnchg/APT

Outil de Productivité IA – Gratuit et open source, améliore la productivité de l'utilisateur et protège la vie privée et la sécurité des données. Y compris, mais sans s'y limiter : ChatGPT local exclusif intégré, DeepSeek, Phi, Qwen et d'autres modèles, traitement intelligent par lots en un clic d'images, vidéos, audio, etc.

rnchg
⭐ 768 C# 👤 rnchg User 🕐 Mis à jour 2025-12-13 📅 Créé 2024-06-19
114
h2non/filetype.py

Petit package Python sans dépendances, rapide pour inférer les types de fichiers binaires en vérifiant la signature des nombres magiques

h2non
⭐ 766 Python 👤 h2non User 🕐 Mis à jour 2025-05-02 📅 Créé 2016-06-18
115
stamparm/identYwaf

Outil d'identification WAF aveugle

stamparm
⭐ 758 Python 👤 stamparm User 🕐 Mis à jour 2026-09-10 📅 Créé 2019-01-10
116
aws/studio-lab-examples

Carnets d'exemples pour travailler avec SageMaker Studio Lab. Inscrivez-vous pour un compte en utilisant le lien ci-dessous !

aws
⭐ 753 Jupyter Notebook 👤 aws Organization 🕐 Mis à jour 2024-08-24 📅 Créé 2021-11-23
117
pegainfer-project/pegainfer

Moteur d'inférence LLM pur Rust + CUDA — pas de PyTorch, compatible OpenAI, sert de Qwen3 à Kimi-K2

pegainfer-project
⭐ 748 Rust 👤 pegainfer-project Organization 🕐 Mis à jour 2026-11-21 📅 Créé 2026-02-17
118
MegEngine/InferLLM

un framework d'inférence de modèle LLM léger

MegEngine
⭐ 746 C++ 👤 MegEngine Organization 🕐 Mis à jour 2024-04-07 📅 Créé 2023-05-04
119
hidet-org/hidet

Un framework/compilateur open-source efficace pour l'apprentissage profond, écrit en python.

hidet-org
⭐ 742 Python 👤 hidet-org Organization 🕐 Mis à jour 2025-09-04 📅 Créé 2022-01-04
120
microsoft/vidur

Simulateur précis, à grande échelle et extensible pour les systèmes d'inférence LLM

microsoft
⭐ 733 Python 👤 microsoft Organization 🕐 Mis à jour 2026-08-24 📅 Créé 2023-11-02
121
zhiqwang/yolort

yolort est une pile d'exécution pour yolov5 sur des accélérateurs spécialisés tels que tensorrt, libtorch, onnxruntime, tvm et ncnn.

zhiqwang
⭐ 730 Python 👤 zhiqwang User 🕐 Mis à jour 2026-04-10 📅 Créé 2020-08-14
122
intel/ai-reference-models

Intel® AI Reference Models : contient des optimisations Intel pour exécuter des charges de travail d'apprentissage profond sur les processeurs Intel® Xeon® Scalable et les GPU Intel® Data Center

intel
⭐ 728 Python 👤 intel Organization 🕐 Mis à jour 2026-02-11 📅 Créé 2018-10-23
123
privacytrustlab/ml_privacy_meter

Privacy Meter : Une bibliothèque open-source pour auditer la confidentialité des données dans les algorithmes statistiques et d'apprentissage automatique.

privacytrustlab
⭐ 715 Jupyter Notebook 👤 privacytrustlab Organization 🕐 Mis à jour 2025-04-26 📅 Créé 2020-04-08
124
DerwenAI/kglab

Graph Data Science : une couche d'abstraction en Python pour la construction de graphes de connaissances, intégrée à des bibliothèques de graphes populaires – au-dessus de Pandas, NetworkX, RAPIDS, RDFlib, pySHACL, PyVis, morph-kgc, pslpython, pyarrow, etc.

DerwenAI
⭐ 696 Jupyter Notebook 👤 DerwenAI Organization 🕐 Mis à jour 2026-01-25 📅 Créé 2020-10-25
125
kossisoroyce/timber

Ollama pour les modèles ML classiques. Compilateur AOT qui transforme les modèles XGBoost, LightGBM, scikit-learn, CatBoost et ONNX en code d'inférence natif C99. Une commande pour charger, une commande pour servir. 336x plus rapide que l'inférence Python.

kossisoroyce
⭐ 692 Python 👤 kossisoroyce User 🕐 Mis à jour 2026-04-16 📅 Créé 2026-02-27
126
zhongkaifu/TensorSharp

Un moteur natif d’inférence de LLM .NET et un environnement d’exécution d’agents pour les modèles GGUF. TensorSharp fournit une application en ligne de commande, une interface de chatbot web, une application iPhone et des API HTTP compatibles avec Ollama/OpenAI pour un accès programmatique. Il prend en charge Windows, macOS, iOS et Linux avec une prise en charge complète du GPU.

zhongkaifu
⭐ 681 C# 👤 zhongkaifu User 🕐 Mis à jour 2026-11-20 📅 Créé 2026-04-03
127
AntonMu/TrainYourOwnYOLO

Entraînez un détecteur d'objets yolov3 de pointe à partir de zéro !

AntonMu
⭐ 673 Jupyter Notebook 👤 AntonMu User 🕐 Mis à jour 2024-08-02 📅 Créé 2019-07-17
128
Nehanth/pooled

Inférence de LLM pair à pair dans le navigateur : mettez vos appareils en commun pour exécuter de grands modèles ouverts destinés aux agents conversationnels et de programmation.

Nehanth
⭐ 658 JavaScript 👤 Nehanth User 🕐 Mis à jour 2026-11-03 📅 Créé 2026-09-01
129
xboot/libonnx

Un moteur d'inférence ONNX léger, portable, en pur C99 pour appareils embarqués avec prise en charge de l'accélération matérielle.

xboot
⭐ 657 C 👤 xboot Organization 🕐 Mis à jour 2026-07-07 📅 Créé 2020-10-14
130
open-edge-platform/dlstreamer

Le Deep Learning Streamer (DL Streamer) Pipeline Framework est un framework open-source d'analyse de médias en streaming, basé sur le framework multimédia GStreamer*, destiné à la création de pipelines complexes d'analyse multimédia pour le Cloud ou en périphérie (Edge).

open-edge-platform
⭐ 648 C++ 👤 open-edge-platform Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2019-03-13
131
WaveSpeedAI/waverless

Orchestration haute performance de tâches GPU serverless — la couche de planification derrière wavespeed.ai

WaveSpeedAI
⭐ 635 Go 👤 WaveSpeedAI Organization 🕐 Mis à jour 2026-08-21 📅 Créé 2025-10-16
132
therealoliver/Deepdive-llama3-from-scratch

Réalisez l'étape d'inférence de llama3 étape par étape, saisissez les concepts clés, maîtrisez la dérivation du processus, implémentez le code.

therealoliver
⭐ 629 Jupyter Notebook 👤 therealoliver User 🕐 Mis à jour 2025-02-24 📅 Créé 2025-02-19
133
Rudrabha/LipGAN

Ce dépôt contient les codes pour LipGAN. LipGAN a été publié comme partie d'un article intitulé "Towards Automatic Face-to-Face Translation".

Rudrabha
⭐ 617 Python 👤 Rudrabha User 🕐 Mis à jour 2025-06-22 📅 Créé 2020-01-02
134
grimoire/mmdetection-to-tensorrt

Convertir le modèle MMDetection en TensorRT, prendre en charge fp16, int8, entrées par lots, forme dynamique, etc.

grimoire
⭐ 598 Python 👤 grimoire User 🕐 Mis à jour 2024-02-18 📅 Créé 2020-07-12
135
agentic-in/inferoa

Harnais d’agents natif de l’inférence pour l’optimisation maximale des tokens en ingénierie des boucles

agentic-in
⭐ 570 TypeScript 👤 agentic-in Organization 🕐 Mis à jour 2026-06-18 📅 Créé 2026-06-08
136
spark-arena/sparkrun

sparkrun — lancez, gérez et arrêtez des charges de travail d’inférence de LLM sur les systèmes NVIDIA DGX Spark. Assistance en direct : https://discord.com/invite/GH5kRgv6ZD

spark-arena
⭐ 567 Python 👤 spark-arena Organization 🕐 Mis à jour 2026-11-17 📅 Créé 2026-02-16
137
Koldim2001/YOLO-Patch-Based-Inference

Bibliothèque Python pour la détection de petits objets YOLO et la segmentation d'instances

Koldim2001
⭐ 562 Python 👤 Koldim2001 User 🕐 Mis à jour 2026-04-22 📅 Créé 2024-03-04
138
dllm-labs/mojo-dllm

Inférence locale pour les modèles de langage à diffusion (LLaDA, Dream), écrite en Mojo

dllm-labs
⭐ 546 Python 👤 dllm-labs Organization 🕐 Mis à jour 2026-11-20 📅 Créé 2026-10-04
139
kaito-project/aikit

🏗️ Ajustez, créez et déployez facilement des LLM open-source !

kaito-project
⭐ 545 Go 👤 kaito-project Organization 🕐 Mis à jour 2026-11-16 📅 Créé 2023-09-20
140
kubedl-io/kubedl

Exécutez vos charges de travail d'apprentissage profond sur Kubernetes de manière plus facile et efficace.

kubedl-io
⭐ 533 Go 👤 kubedl-io Organization 🕐 Mis à jour 2024-03-04 📅 Créé 2019-12-10
141
triton-inference-server/model_analyzer

Triton Model Analyzer est un outil CLI conçu pour aider à mieux comprendre les exigences de calcul et de mémoire des modèles de Triton Inference Server.

triton-inference-server
⭐ 531 Python 👤 triton-inference-server Organization 🕐 Mis à jour 2026-11-17 📅 Créé 2020-09-01
142
NVIDIA-ISAAC-ROS/isaac_ros_pose_estimation

Estimation de la pose d’objets 3D par apprentissage profond, accélérée par NVIDIA

NVIDIA-ISAAC-ROS
⭐ 520 C++ 👤 NVIDIA-ISAAC-ROS Organization 🕐 Mis à jour 2026-11-18 📅 Créé 2021-11-04
143
mithril-security/blindai

Déploiement IA confidentiel avec enclaves sécurisées :lock:

mithril-security
⭐ 512 Rust 👤 mithril-security Organization 🕐 Mis à jour 2024-03-19 📅 Créé 2022-02-06
144
vectorch-ai/ScaleLLM

Un système d'inférence haute performance pour les grands modèles de langage, conçu pour les environnements de production.

vectorch-ai
⭐ 502 C++ 👤 vectorch-ai Organization 🕐 Mis à jour 2025-12-19 📅 Créé 2023-07-24