#serving Repositórios
Descubra 17 repositórios ativos de código aberto no GitHub marcados com #serving, acumulando um total de 90,023 estrelas (uma média de 5,295 por projeto). O líder deste tópico é ray-project/ray, com 44,352 estrelas.
17 repositórios no total
Ray é um motor de computação de IA. O Ray consiste em um runtime distribuído central e um conjunto de Bibliotecas de IA para acelerar cargas de trabalho de ML.
Um sistema de serviço flexível e de alto desempenho para modelos de aprendizado de máquina
Aprenda sobre sistemas de inferência de LLM no Apple Silicon para engenheiros de sistemas: construa um pequeno vLLM + Qwen
Um framework MLOps para empacotar, implantar, monitorar e gerenciar milhares de modelos de machine learning em produção
Neste repositório, compartilharei algumas notas e referências úteis sobre a implantação de modelos baseados em aprendizado profundo em produção.
Uma estrutura Python mínima para construir servidores de inferência de IA personalizados com controle total sobre a lógica, o loteamento e o dimensionamento.
Toolkit de Inferência e Implantação de Alto Desempenho para LLMs e VLMs baseado no PaddlePaddle
Um guia completo para construir aplicações LLM baseadas em RAG para produção.
Um banco de dados vetorial multimodal que suporta upserts e consultas de vetores usando SQL unificado (compatível com MySQL) em dados estruturados e não estruturados, ao mesmo tempo que atende aos requisitos de alta concorrência e latência ultrabaixa.
Os agentes de backend são desenvolvidos com: banco de dados multimodal, orquestração e serving em um único arquivo
DELTA é uma plataforma de processamento de linguagem natural e fala baseada em aprendizado profundo. Projetos LF AI & DATA: https://lfaidata.foundation/projects/delta/
Um servidor de inferência escalável para modelos otimizados com OpenVINO™
Um suporte flexível e de alto desempenho para modelos de aprendizado de máquina (framework de implantação de serviço『PaddlePaddle』)
Serviço de implantação genérico e fácil de usar para modelos de machine learning
Um sistema de inferência de alto desempenho para modelos de linguagem grandes, projetado para ambientes de produção.
Perguntas Frequentes
Qual é o repositório de #serving mais popular no GitHub?
O projeto de código aberto de #serving mais bem classificado no GitHub é ray-project/ray, com 44,352 estrelas. Ray é um motor de computação de IA. O Ray consiste em um runtime distribuído central e um conjunto de Bibliotecas de IA para acelerar cargas de trabalho de ML.
Quais linguagens de programação são mais usadas nos repositórios de #serving?
Entre os projetos de #serving mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, C++, Go, Jupyter Notebook.
Como é calculada a classificação dos repositórios de #serving?
Acompanhamos 17 repositórios ativos de código aberto marcados com #serving (com mais de 500 estrelas), totalizando 90,023 estrelas e uma média de 5,295 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.