#llmops Repositórios
Descubra 111 repositórios ativos de código aberto no GitHub marcados com #llmops, acumulando um total de 716,901 estrelas (uma média de 6,458 por projeto). O líder deste tópico é BerriAI/litellm, com 63,649 estrelas.
111 repositórios no total
O gateway de IA mais rápido e leve. Núcleo Rust com SDK Python. Chame mais de 100 APIs LLM no formato OpenAI (ou nativo) com rastreamento de custos, proteções, balanceamento de carga e registro [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
Aprenda a desenvolver, implantar e iterar em aplicativos de ML de nível de produção.
🪢 Plataforma de engenharia de IA de código aberto: AI Gateway, observabilidade de agentes, avaliações e gestão de prompts e competências, baseada em OpenTelemetry. Uma plataforma aberta para cada chamada de IA e cada agente. Aloje-a por conta própria ou use o Langfuse Cloud.
Composio alimenta mais de 1000 conjuntos de ferramentas, busca de ferramentas, gerenciamento de contexto, autenticação e uma bancada isolada para ajudar você a criar agentes de IA que convertem intenção em ação.
A plataforma de engenharia de IA open source para agentes, LLMs e modelos de ML. O MLflow permite que equipes de todos os tamanhos depurem, avaliem, monitorem e otimizem aplicações de IA de qualidade de produção enquanto controlam custos e gerenciam o acesso a modelos e dados.
Teste seus prompts, agentes e RAGs. Red teaming/pentesting/verificação de vulnerabilidades para IA. Compare o desempenho de GPT, Claude, Gemini, DeepSeek e mais. Configurações declarativas simples com integração de linha de comando e CI/CD. Utilizado pela OpenAI e Anthropic.
Este projeto visa compartilhar os princípios técnicos e a experiência prática relacionados a Grandes Modelos (engenharia de Grandes Modelos e implementação de aplicações de Grandes Modelos).
Depure, avalie e monitore suas aplicações LLM, sistemas RAG e fluxos de trabalho baseados em agentes com rastreamento abrangente, avaliações automatizadas e dashboards prontos para produção.
🚀 Uma coleção selecionada de recursos, roteiros, ferramentas e projetos de engenharia de IA que abrange LLMs, RAG, agentes de IA, MCP, ajuste fino, avaliações e sistemas de IA em produção.
RocketRide é um meta-harness de IA de código aberto com o único runtime de nível empresarial desenvolvido em C++. Crie, teste e publique agentes duráveis que escalam em produção.
<⚡️> SuperAGI - Um framework de agente autônomo de IA de código aberto focado em desenvolvedores. Capacitando desenvolvedores a construir, gerenciar e executar agentes autônomos úteis de forma rápida e confiável.
SDK Python para o Framework de Observabilidade, Monitorização e Avaliação de IA para Agentes. Inclui funcionalidades como rastreamento de agentes, LLMs e ferramentas, depuração de sistemas multiagente, painel autoalojado e análises avançadas com visualização de linha do tempo e gráfico de execução.
Um gateway de IA ultrarrápido com proteções integradas. Roteamento para mais de 1.600 LLMs, mais de 50 proteções de IA com 1 API rápida e amigável.
Rode quaisquer LLMs de código aberto, como DeepSeek e Llama, como um endpoint de API compatível com OpenAI na nuvem.
BISHENG é uma plataforma empresarial de Agent de código aberto para criar, implantar e gerenciar aplicações de IA. Ela combina agentes de IA, fluxos de trabalho, RAG e gestão do conhecimento, integração de agentes de desktop e hospedagem de aplicativos vibecoding com gestão unificada de modelos, avaliação, observabilidade, controle de acesso e administração empresarial.
TensorZero é uma plataforma open-source de LLMOps que unifica um gateway LLM, observabilidade, avaliação, otimização e experimentação.
Ajuste fino de LLMs a partir de um YAML. Streaming por camadas treina um modelo de 8B em uma GPU de laptop de 4 GB.
A maneira mais fácil de servir aplicativos e modelos de IA - Crie APIs de Inferência de Modelo, filas de tarefas (Job queues), aplicativos LLM, pipelines multimodelos e muito mais!
Evidently é uma estrutura de observabilidade de ML e LLM de código aberto. Avalie, teste e monitore qualquer sistema com IA ou pipeline de dados. De dados tabulares a Gen AI. Mais de 100 métricas.
Observabilidade de código aberto para sua aplicação GenAI ou LLM, baseada em OpenTelemetry
Plano é um servidor proxy nativo de IA e um plano de dados para aplicações de agentes. Roteamento inteligente de LLM, observabilidade, orquestração de agentes e proteções para que você se concentre na lógica principal dos seus agentes.
ClearML - CI/CD Automágico para simplificar sua carga de trabalho de IA. Gerenciamento de Experimentos, Gerenciamento de Dados, Pipeline, Orquestração, Agendamento e Servir em uma única solução MLOps/LLMOps
Envie Agentes de IA para o Google Cloud em minutos, não em meses. Modelos prontos para produção com CI/CD, avaliação e observabilidade incorporados.
🧊 Plataforma de observabilidade de LLM de código aberto. Uma linha de código para monitorar, avaliar e experimentar. YC W23 🍓
Uma lista incrível e selecionada das melhores ferramentas de LLMOps para desenvolvedores
Plataforma de Otimização de Agentes de IA de Próxima Geração: Cozeloop aborda os desafios no desenvolvimento de agentes de IA, fornecendo recursos de gerenciamento de ciclo de vida completo, desde o desenvolvimento, depuração e avaliação até o monitoramento.
O guia prático de LLMs: Dos fundamentos à implementação de aplicativos LLM avançados e RAG na AWS usando as melhores práticas de LLMOps
Superduper: Framework de ponta a ponta para a criação de aplicações e agentes de IA personalizados.
Esta ferramenta foi descontinuada. Use o Agentic Document Extraction em vez disso.
Plataforma de IA unificada, open source, de machine learning/deep learning/grandes modelos nativa da nuvem cube studio, fluxo de trabalho completo de MLOps para algoritmos, plataforma de aluguel de poder computacional, desenvolvimento online em notebook, orquestração de pipeline de fluxo de tarefas arrastar e soltar, treinamento distribuído multi-máquina/multi-GPU, busca de hiperparâmetros, virtualização VGPU para serviço de inferência, computação de borda, anotação automatizada pela plataforma de anotação, ajuste fino SFT de grandes modelos como deepseek/modelo de recompensa/treinamento de aprendizado por reforço, inferência multi-máquina de grandes modelos como vllm/ollama/mindie, base de conhecimento privada, mercado de modelos de IA, suporte ao ecossistema chinês de CPUs/GPUs/NPUs Ascend, suporte a RDMA, suporte a frameworks distribuídos como pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/ray/volcano
Observabilidade e avaliações de agentes de código aberto para equipes de plataformas de IA. Rastreie, teste, roteie e governe cada agente e assistente de programação da empresa.
🤖 Aprenda 𝗴𝗿𝗮𝘁𝘂𝗶𝘁𝗮𝗺𝗲𝗻𝘁𝗲 como 𝗰𝗼𝗻𝘀𝘁𝗿𝘂𝗶𝗿 um sistema LLM & RAG de ponta a ponta e 𝗽𝗿𝗼𝗻𝘁𝗼 𝗽𝗮𝗿𝗮 𝗽𝗿𝗼𝗱𝘂çã𝗼, usando as melhores práticas de LLMOps: ~ 𝘤ó𝘥𝘪𝘨𝘰-𝘧𝘰𝘯𝘵𝘦 + 12 𝗹𝗶çõ𝗲𝘀 𝗽𝗿á𝘁𝗶𝗰𝗮𝘀
Estrutura RAG (Retrieval Augmented Generation) para construir aplicações modulares e de código aberto para produção pela TrueFoundry
Laminar - plataforma de observabilidade de código aberto construída especificamente para agentes de IA. YC S24.
🕹️ Plataforma LLMOps de código aberto, focada no desenvolvedor, projetada para otimizar o design de prompts, o gerenciamento de versões, a entrega instantânea, a colaboração, a resolução de problemas, a observabilidade e muito mais.
AGiXT é uma Plataforma Dinâmica de Automação de Agentes de IA que orquestra de forma integrada a gestão de instruções e a execução de tarefas complexas através de diversos fornecedores de IA. Combinando memória adaptativa, recursos inteligentes e um sistema de plugin versátil, o AGiXT oferece soluções de IA eficientes e abrangentes.
Aprenda a construir seu assistente de IA de Segundo Cérebro com LLMs, agentes, RAG, fine-tuning, LLMOps e técnicas de sistemas de IA.
O mesmo agente, uma conta menor. As ferramentas e a infraestrutura para fazer sua IA trabalhar mais. Menos tokens. Menos processamento. Menor custo.
Perguntas Frequentes
Qual é o repositório de #llmops mais popular no GitHub?
O projeto de código aberto de #llmops mais bem classificado no GitHub é BerriAI/litellm, com 63,649 estrelas. O gateway de IA mais rápido e leve. Núcleo Rust com SDK Python. Chame mais de 100 APIs LLM no formato OpenAI (ou nativo) com rastreamento de custos, proteções, balanceamento de carga e registro [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
Quais linguagens de programação são mais usadas nos repositórios de #llmops?
Entre os projetos de #llmops mais bem classificados no GitHub, as linguagens de programação mais comuns são Python, TypeScript, Jupyter Notebook, Rust.
Como é calculada a classificação dos repositórios de #llmops?
Acompanhamos 111 repositórios ativos de código aberto marcados com #llmops (com mais de 500 estrelas), totalizando 716,901 estrelas e uma média de 6,458 estrelas por repositório. As classificações são atualizadas diariamente a partir da API do GitHub.