#llmops Repositórios
111 repositórios no total
Um ambiente de programação visual de código aberto para testar prompts em LLMs.
O Apache Hamilton ajuda cientistas e engenheiros de dados a definir fluxos de dados testáveis, modulares e autodocumentáveis, que codificam linhagem/rastreamento e metadados. Ele executa e escala em qualquer lugar onde o Python também funcione.
CubeStudio é uma plataforma open source nativa em nuvem tudo-em-um de aprendizado de máquina/aprendizado profundo/grandes modelos de IA/MaaS/MLOps/plataforma de inteligência artificial/plataforma de treinamento e inferência, cobrindo todo o pipeline de algoritmos, multilocação, plataforma de aluguel de poder computacional, retransmissão de tokens, orquestração de pipeline de fluxo de trabalho por arrastar e soltar, treinamento distribuído multi-máquina multi-placa, busca de hiperparâmetros, serviços de inferência, virtualização VGPU, colaboração nuvem-borda-dispositivo, computação de borda, plataforma de anotação automatizada, ajuste fino SFT/modelo de recompensa/treinamento de aprendizado por reforço para grandes modelos como DeepSeek, inferência multi-máquina para grandes modelos com vLLM/Ollama/MindIE, agentes inteligentes LLMOps com base de conhecimento privada, mercado de modelos de IA, suporte para escalonamento de poder computacional heterogêneo nacional (Ascend, Cambricon, Hygon, Moore Threads, Muxi, etc.), suporte para IB/RoCE/RDMA e suporte Xinchuang.
Crie aplicações que tomam decisões (chatbots, agentes, simulações, etc...). Monitore, rastreie, persista e execute na sua própria infraestrutura.
Bionic é uma IA agêntica soberana para empresas — funciona no local e pode trabalhar com segurança com os seus dados e sistemas sensíveis.
UpTrain é uma plataforma unificada de código aberto para avaliar e melhorar aplicações de IA Generativa. Fornecemos notas para mais de 20 verificações pré-configuradas (cobrindo casos de uso de linguagem, código e embeddings), realizamos análise da causa raiz em casos de falha e oferecemos insights sobre como resolvê-los.
Plataforma open-source de ponta a ponta para avaliar, observar e melhorar aplicações de LLM e agentes de IA. Tracing · Evals · Simulations · Datasets · Gateway · Guardrails. Auto-hospedável. Apache 2.0.
Framework multiagente sem código para construir Agentes LLM, fluxos de trabalho e aplicações com os seus dados
Waku Agent é um harness de agente de IA de código aberto que pertence a você: loop, memória, avaliações e uma camada sempre ativa (caixa de entrada de eventos, temporizadores, aprovações e caixa de saída), em um código que continua legível.
Pesquisa vetorial escalável, rápida e otimizada para disco no Postgres, o sucessor do pgvecto.rs.
Balanceador de carga e plataforma de servidão open-source para LLM/VLM para auto-hospedagem de LLMs (e VLMs) em escala 🏓🦙 Alternativa a projetos como llm-d, Docker Model Runner, etc., mas com menos partes móveis e implantações simples construídas em torno do ecossistema ggml. Executa em CPU e GPU.
[Estrutura de Desenvolvimento de Aplicações GenAI] 🚀 Construa aplicações GenAI de forma rápida e fácil 💬 Interaja facilmente com agentes GenAI no código usando dados estruturados e sintaxe de chamadas encadeadas 🧩 Use o Fluxo Orientado a Eventos *TriggerFlow* para gerenciar a lógica de trabalho complexa da GenAI 🔀 Mude para qualquer modelo sem reescrever o código da aplicação
RTP-LLM: O motor de inferência LLM de alto desempenho da Alibaba para diversas aplicações.
Orquestrador de Plataforma Orientado por Intenção Declarativa para Plataforma Interna de Desenvolvedores (IDP).
O Ambiente de Execução SmythOS (SRE) é um runtime open-source e nativo da nuvem para IA agêntica. Seguro, modular e pronto para produção, permite que os desenvolvedores criem, executem e gerenciem agentes inteligentes em ambientes locais, na nuvem e de borda.
Uma estrutura para diagnóstico abrangente e otimização de agentes usando interações sintéticas simuladas e realistas
Um banco de dados de SDKs, frameworks, bibliotecas e ferramentas para criar, monitorar, depurar e implantar agentes de IA autônomos
Langtrace 🔍 é uma ferramenta de observabilidade ponta a ponta de código aberto, baseada em Open Telemetry, para aplicações LLM, fornecendo rastreamento em tempo real, avaliações e métricas para LLMs populares, frameworks LLM, vectorDBs e muito mais. Integre usando Typescript, Python. 🚀💻📊
AuditPilot: agentes de IA empresarial auditáveis para fluxos de trabalho baseados em evidências, ferramentas governadas, arreios de avaliação, revisão humana e entrega de remediação.
CI/CD nativo de traces para agentes de IA — falhas em produção tornam-se testes de regressão que bloqueiam o PR. Detecção e agrupamento automáticos, conversão em casos herméticos e reprodução no CI por US$ 0.
DataDreamer: Prompt. Gerar Dados Sintéticos. Treinar e Alinhar Modelos. 🤖💤
Gateway de LLM de código aberto em Rust. Um único endpoint para OpenAI, Anthropic, Gemini e qualquer outro fornecedor. Qualquer SDK, qualquer modelo, qualquer ferramenta.
Gateway de IA de código aberto que você mesmo hospeda. Um único endpoint para mais de 40 provedores, com chaves virtuais, orçamentos e monitoramento do uso.
⛓️ Hospedando aplicativos e agentes LLM do LangChain de forma automática (automagicamente) com FastApi. LLMops
Tutoriais e scripts de exemplo de Modelos de Linguagem Grandes (LLMs), com langchain, openai, llamaindex, gpt, chromadb e pinecone
Dê o pontapé inicial em sua iniciativa de LLMOps com um pacote Python flexível, robusto e produtivo.
CV interativo com integração de chat IA. Construído com React 19, TypeScript, Claude API. Converse com meu avatar IA sobre minha experiência.
Neum AI é um framework de ponta para gerenciar a criação e sincronização de embeddings vetoriais em grande escala.
CI/CD nativo de traces para agentes de IA: avalie traces de produção, agrupe falhas, transforme-as em testes de regressão reproduzíveis e bloqueie PRs que causem regressões. Pode ser hospedado por conta própria.
Aplicações LLM (Large Language Model) agênticas, rápidas, de indexação por streaming e consulta em Rust
Plataforma de agentes de IA auto-hospedada para empresas nativas de IA. Agentes Claude Code, Codex, Gemini e OpenCode. Apache 2.0.
Esta amostra contém o processo completo de ponta a ponta (End2End) para criar uma aplicação RAG com Prompty e Azure AI Foundry. Inclui o código da aplicação GPT-4 LLM, avaliações, automação de implantação com AZD CLI, GitHub actions para avaliação e implantação, e mapeamento de intenções para mapeamento de múltiplas tarefas de LLM.
Veja o que seus agentes de codificação fizeram e quanto custou. Divide cada tarefa em etapas de trabalho — ferramentas usadas, arquivos alterados, testes executados, tempo e tokens gastos. Painel local para Claude Code, Codex, OpenCode e mais. Sem login, sem telemetria.
Notebooks do Colab práticos e sem frameworks para o conjunto de habilidades de AI Engineer / Forward Deployed Engineer (FDE) — APIs de modelos, saídas estruturadas, chamadas de ferramentas, RAG, avaliações como pilar central, agentes (loop do zero, design de ferramentas, guardrails, MCP, Skills), fine-tuning vs LoRA, injeção de prompt/segurança, LLMOps e relacionamento técnico com o cliente. Funciona com a API gratuita do Groq.
E se o OpenAI Deep Research e o Dify fossem uma única plataforma? OpenAgent — arquitetura para construir rapidamente agentes de IA verticais, com loops de raciocínio profundo, fluxos de trabalho visuais, RAG e delegação A2A.