#serving Repositorios
Descubre 17 repositorios activos de código abierto de GitHub etiquetados con #serving, que acumulan 90,023 estrellas en total (una media de 5,295 estrellas por proyecto). El líder de este tema es ray-project/ray, con 44,352 estrellas.
17 repositorios en total
Ray es un motor de cómputo de IA. Ray consiste en un runtime distribuido central y un conjunto de bibliotecas de IA para acelerar cargas de trabajo de ML.
Un sistema de servicio flexible y de alto rendimiento para modelos de aprendizaje automático
Aprende sobre sistemas de inferencia de LLM en Apple Silicon para ingenieros de sistemas: construye un vLLM + Qwen diminuto
Un marco de trabajo MLOps para empaquetar, implementar, monitorear y gestionar miles de modelos de aprendizaje automático en producción
En este repositorio, compartiré algunas notas y referencias útiles sobre el despliegue de modelos basados en deep learning en producción.
Un framework minimalista de Python para construir servidores de inferencia de IA personalizados con control total sobre la lógica, el procesamiento por lotes y la escalabilidad.
Toolkit de inferencia y despliegue de alto rendimiento para LLM y VLM basado en PaddlePaddle
Una guía completa para crear aplicaciones LLM basadas en RAG para producción.
Una base de datos vectorial multimodal que admite inserciones y consultas vectoriales utilizando SQL unificado (compatible con MySQL) sobre datos estructurados y no estructurados, al tiempo que cumple los requisitos de alta concurrencia y latencia ultrabaja.
Los agentes de backend se construyen con: base de datos multimodal, orquestación y servicio en un solo archivo
DELTA es una plataforma de procesamiento de lenguaje natural y voz basada en aprendizaje profundo. LF AI & DATA Projects: https://lfaidata.foundation/projects/delta/
Un servidor de inferencia escalable para modelos optimizados con OpenVINO™
Un transportador flexible y de alto rendimiento para modelos de aprendizaje automático(『飞桨』 Marco de implementación de servicios)
Servicio de serving genérico y fácil de usar para modelos de machine learning
Un sistema de inferencia de alto rendimiento para modelos de lenguaje grandes, diseñado para entornos de producción.
Preguntas frecuentes
¿Cuál es el repositorio de #serving más popular en GitHub?
El proyecto de código abierto de #serving mejor posicionado en GitHub es ray-project/ray, con 44,352 estrellas. Ray es un motor de cómputo de IA. Ray consiste en un runtime distribuido central y un conjunto de bibliotecas de IA para acelerar cargas de trabajo de ML.
¿Qué lenguajes de programación se utilizan más en los repositorios de #serving?
Entre los proyectos de #serving mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, C++, Go, Jupyter Notebook.
¿Cómo se calcula la clasificación de los repositorios de #serving?
Seguimos 17 repositorios activos de código abierto etiquetados con #serving (500+ estrellas), que suman un total de 90,023 estrellas, con una media de 5,295 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.