#inference-server Repositorios
Descubre 13 repositorios activos de código abierto de GitHub etiquetados con #inference-server, que acumulan 53,014 estrellas en total (una media de 4,078 estrellas por proyecto). El líder de este tema es jundot/omlx, con 23,831 estrellas.
13 repositorios en total
Servidor de inferencia LLM con lotes continuos y caché SSD para Apple Silicon — gestionado desde la barra de menú de macOS
⚡ Motor de inferencia WebGPU en Rust puro — Compatible con la API de OpenAI, nativo para GGUF, funciona en cualquier GPU. Sin Python. Sin llama.cpp. Un solo binario.
Rapid-MLX es un servidor de inferencia de LLM de código abierto (Apache 2.0) para Apple Silicon, compatible con OpenAI y Anthropic, desarrollado sobre MLX y centrado en ofrecer llamadas a herramientas fiables para agentes de programación. Hasta 4 veces más rápido que MLX (mlx-lm) de Apple con los mismos pesos.
Servidor de inferencia de código abierto y clúster de producción para todos los modelos que necesita su agente.
RamaLama es una herramienta de desarrollo de código abierto que simplifica la provisión local de modelos de IA desde cualquier fuente y facilita su uso para inferencia en producción, todo a través del familiar lenguaje de los contenedores.
Convierte cualquier ordenador o dispositivo perimetral en un centro de mando para tus proyectos de visión por computadora.
La forma más fácil y rápida de ejecutar LLM personalizados y ajustados localmente o en el borde
Servidor de inferencia de LLM de alto rendimiento compatible con OpenAI y Anthropic para Apple Silicon. MLX nativo, procesamiento por lotes continuo, modelos multimodales, llamadas a herramientas MCP y soporte para Claude Code.
Servidor API compatible con Jev para modelos de decisión abiertos. Ollama para modelos de decisión: descarga y ejecuta localmente 29 familias de modelos (Laya, pplx-decider, Clef, Winnow, coba...) o alójalos tú mismo detrás de /v1/systemone. El SDK TypeSafe funciona sin cambios: configura su URL base y elige un modelo abierto. CLI, aplicación de escritorio, Docker, servidor MCP y benchmark público.
Un marco de visión por computadora de código abierto para crear y desplegar aplicaciones en minutos
Preguntas frecuentes
¿Cuál es el repositorio de #inference-server más popular en GitHub?
El proyecto de código abierto de #inference-server mejor posicionado en GitHub es jundot/omlx, con 23,831 estrellas. Servidor de inferencia LLM con lotes continuos y caché SSD para Apple Silicon — gestionado desde la barra de menú de macOS
¿Qué lenguajes de programación se utilizan más en los repositorios de #inference-server?
Entre los proyectos de #inference-server mejor posicionados en GitHub, los lenguajes de programación más comunes son Python, Rust, C++.
¿Cómo se calcula la clasificación de los repositorios de #inference-server?
Seguimos 13 repositorios activos de código abierto etiquetados con #inference-server (500+ estrellas), que suman un total de 53,014 estrellas, con una media de 4,078 estrellas por repositorio. Las clasificaciones se actualizan diariamente a partir de la API de GitHub.