#serving Repository
Scopri 17 repository GitHub open source attivi contrassegnati con #serving, che raccolgono un totale di 90,023 stelle (con una media di 5,295 stelle per progetto). Il progetto leader di questo argomento è ray-project/ray, con 44,352 stelle.
17 repository in totale
Ray è un motore di calcolo AI. Ray consiste in un runtime distribuito principale e un set di librerie AI per accelerare i carichi di lavoro ML.
Un sistema di serving flessibile e ad alta performance per modelli di machine learning
Impara i sistemi di inferenza degli LLM su Apple Silicon per ingegneri di sistema: costruisci un piccolo vLLM + Qwen
Un framework MLOps per impacchettare, distribuire, monitorare e gestire migliaia di modelli di machine learning in produzione
In questo repository, condividerò alcune note e riferimenti utili sul deployment di modelli basati su deep learning in produzione.
Un framework Python minimale per la creazione di server di inferenza IA personalizzati, con pieno controllo su logica, batching e scalabilità.
Toolkit ad alte prestazioni per inferenza e deployment di LLM e VLM basato su PaddlePaddle
Una guida completa alla creazione di applicazioni LLM basate su RAG per la produzione.
Un database vettoriale multi-modale che supporta upsert e query vettoriali utilizzando SQL unificato (compatibile con MySQL) su dati strutturati e non strutturati, soddisfacendo al contempo i requisiti di alta concorrenza e latenza ultra-bassa.
Gli agenti backend sono costruiti con: database multimodale, orchestrazione e servizio in un unico file
DELTA è una piattaforma di elaborazione del linguaggio naturale e della voce basata sull'apprendimento profondo. LF AI & DATA Projects: https://lfaidata.foundation/projects/delta/
Un server di inferenza scalabile per modelli ottimizzati con OpenVINO™
Un carrier flessibile e ad alte prestazioni per modelli di machine learning(『飞桨』 Framework di implementazione servitizzata)
Servizio di serving generico e facile da usare per modelli di machine learning
Un sistema di inferenza ad alte prestazioni per modelli linguistici di grandi dimensioni, progettato per ambienti di produzione.
Domande frequenti
Qual è il repository #serving più popolare su GitHub?
Il progetto open source #serving più alto in classifica su GitHub è ray-project/ray, con 44,352 stelle. Ray è un motore di calcolo AI. Ray consiste in un runtime distribuito principale e un set di librerie AI per accelerare i carichi di lavoro ML.
Quali linguaggi di programmazione sono più utilizzati nei repository #serving?
Tra i progetti #serving più alti in classifica su GitHub, i linguaggi di programmazione più comuni sono Python, C++, Go, Jupyter Notebook.
Come viene calcolata la classifica dei repository #serving?
Monitoriamo 17 repository open source attivi contrassegnati con #serving (500+ stelle), per un totale di 90,023 stelle e una media di 5,295 stelle per repository. Le classifiche vengono aggiornate quotidianamente tramite l’API di GitHub.