#llmops Repositorios
111 repositorios en total
Un entorno de programación visual de código abierto para probar indicaciones para LLM.
Apache Hamilton ayuda a los científicos e ingenieros de datos a definir flujos de datos probables, modulares y autodocumentados, que codifican el linaje/seguimiento y los metadatos. Se ejecuta y escala en cualquier lugar donde lo haga python.
CubeStudio es una plataforma de código abierto nativa de la nube integral de aprendizaje automático/aprendizaje profundo/modelos grandes de IA/MaaS/MLOps/plataforma de inteligencia artificial/plataforma de entrenamiento e inferencia, que cubre el flujo completo del algoritmo, multiinquilino, plataforma de alquiler de potencia informática, retransmisión de tokens, orquestación de pipelines de flujo de trabajo mediante arrastrar y soltar, entrenamiento distribuido multi-máquina multi-tarjeta, búsqueda de hiperparámetros, servicios de inferencia, virtualización VGPU, colaboración nube-borde-dispositivo, computación en el borde, plataforma de anotación automatizada, ajuste fino SFT/modelo de recompensa/entrenamiento de aprendizaje por refuerzo para modelos grandes como DeepSeek, inferencia multi-máquina para modelos grandes con vLLM/Ollama/MindIE, agentes inteligentes LLMOps con base de conocimiento privada, mercado de modelos de IA, soporte para programación de potencia informática heterogénea nacional (Ascend, Cambricon, Hygon, Moore Threads, Muxi, etc.), soporte para IB/RoCE/RDMA y soporte para Xinchuang.
Cree aplicaciones que toman decisiones (chatbots, agentes, simulaciones, etc.). Supervise, rastree, persista y ejecute en su propia infraestructura.
Bionic es una IA agéntica soberana para empresas: se ejecuta en las instalaciones y puede trabajar de forma segura con sus datos y sistemas sensibles.
UpTrain es una plataforma unificada de código abierto para evaluar y mejorar aplicaciones de IA generativa. Proporcionamos calificaciones para más de 20 verificaciones preconfiguradas (que cubren casos de uso de lenguaje, código y embeddings), realizamos análisis de causa raíz en casos de fallo y brindamos información sobre cómo resolverlos.
Plataforma de código abierto de extremo a extremo para evaluar, observar y mejorar aplicaciones de LLM y agentes de IA. Tracing · Evals · Simulations · Datasets · Gateway · Guardrails. Autoalojable. Apache 2.0.
Framework multiagente sin código para crear agentes LLM, flujos de trabajo y aplicaciones con sus datos
Waku Agent es un armazón de agente de IA de código abierto que tú controlas: bucle, memoria, evaluaciones y una capa siempre activa (bandeja de entrada de eventos, temporizadores, aprobaciones y bandeja de salida), con un código que sigue siendo legible.
Búsqueda vectorial escalable, rápida y amigable con el disco en Postgres, el sucesor de pgvecto.rs.
Balanceador de carga y plataforma de servicio open-source para LLM/VLM para autoalojar LLMs (y VLMs) a escala 🏓🦙 Alternativa a proyectos como llm-d, Docker Model Runner, etc., pero con menos partes móviles y despliegues simples construidos alrededor del ecosistema ggml. Funciona en CPU y GPU.
[Framework de desarrollo de aplicaciones GenAI] 🚀 Crea aplicaciones GenAI de forma rápida y sencilla 💬 Interactúa fácilmente con agentes GenAI en código utilizando datos estructurados y sintaxis de llamadas encadenadas 🧩 Utiliza el flujo impulsado por eventos *TriggerFlow* para gestionar lógica de trabajo GenAI compleja 🔀 Cambia a cualquier modelo sin reescribir el código de la aplicación
RTP-LLM: El motor de inferencia LLM de alto rendimiento de Alibaba para diversas aplicaciones.
Orquestador de plataforma declarativo impulsado por intención para plataformas de desarrolladores internas (IDP).
El Entorno de Ejecución SmythOS (SRE) es un entorno de ejecución de código abierto, nativo de la nube, para IA agéntica. Seguro, modular y listo para producción, permite a los desarrolladores construir, ejecutar y gestionar agentes inteligentes en entornos locales, en la nube y en el borde.
Un marco para el diagnóstico y la optimización integral de agentes mediante interacciones sintéticas realistas y simuladas
Una base de datos de SDK, frameworks, bibliotecas y herramientas para crear, monitorear, depurar e implementar agentes de IA autónomos
Langtrace 🔍 es una herramienta de observabilidad de extremo a extremo de código abierto basada en Open Telemetry para aplicaciones LLM, que proporciona seguimiento en tiempo real, evaluaciones y métricas para LLMs populares, frameworks LLM, vectorDB y más. Integración mediante Typescript, Python. 🚀💻📊
AuditPilot: agentes de IA empresarial auditables para flujos de trabajo basados en evidencia, herramientas gobernadas, arneses de evaluación, revisión humana y entrega de remediación.
CI/CD nativo de trazas para agentes de IA: los fallos en producción se convierten en pruebas de regresión que bloquean el PR. Detección y agrupación automáticas, conversión en casos herméticos y reproducción en CI por 0 $.
DataDreamer: Prompt. Generar datos sintéticos. Entrenar y alinear modelos. 🤖💤
Dynamiq es un framework de orquestación para aplicaciones de IA y LLM agentivas.
Pasarela de LLM de código abierto en Rust. Un único endpoint para OpenAI, Anthropic, Gemini y cualquier otro proveedor. Cualquier SDK, cualquier modelo, cualquier herramienta.
Pasarela de IA de código abierto que puedes alojar tú mismo. Un único endpoint para más de 40 proveedores, con claves virtuales, presupuestos y seguimiento del uso.
⛓️ Servir aplicaciones y agentes LLM de LangChain automáticamente con FastApi. LLMops
Tutoriales y scripts de ejemplo de modelos de lenguaje grandes (LLMs), con langchain, openai, llamaindex, gpt, chromadb y pinecone
Inicie su iniciativa LLMOps con un paquete Python flexible, robusto y productivo.
CV interactivo con integración de chat IA. Construido con React 19, TypeScript, Claude API. Chatea con mi avatar IA sobre mi experiencia.
Neum AI es un marco de primer nivel para gestionar la creación y sincronización de incrustaciones vectoriales a gran escala.
CI/CD nativo de trazas para agentes de IA: evalúa las trazas de producción, agrupa los fallos, conviértelos en pruebas de regresión reproducibles y bloquea los PR que introduzcan regresiones. Se puede alojar por cuenta propia.
Aplicaciones LLM rápidas, de streaming, de indexación, consulta y agentivas en Rust
Plataforma de agentes de IA autohospedada para empresas nativas de IA. Agentes de Claude Code, Codex, Gemini y OpenCode. Apache 2.0.
Esta muestra tiene el proceso completo de principio a fin para crear una aplicación RAG con Prompty y Azure AI Foundry. Incluye el código de la aplicación LLM GPT-4, evaluaciones, automatización de la implementación con AZD CLI, acciones de GitHub para la evaluación y el despliegue, y mapeo de intenciones para el mapeo de múltiples tareas LLM.
Vea lo que hicieron sus agentes de codificación y cuánto costó. Desglosa cada tarea en pasos de trabajo: herramientas utilizadas, archivos modificados, pruebas ejecutadas, tiempo y tokens gastados. Panel local para Claude Code, Codex, OpenCode y más. Sin inicio de sesión, sin telemetría.
Cuadernos de Colab prácticos y sin frameworks para el conjunto de habilidades de AI Engineer / Forward Deployed Engineer (FDE): APIs de modelos, salida estructurada, llamadas a herramientas, RAG, evaluaciones como eje central, agentes (bucle desde cero, diseño de herramientas, guardrails, MCP, Skills), fine-tuning vs LoRA, inyección de prompts/seguridad, LLMOps y trato con clientes. Se ejecuta con la API gratuita de Groq.
¿Qué pasaría si OpenAI Deep Research y Dify fueran una sola plataforma? OpenAgent — arquitectura de arnés para construir rápidamente agentes de IA verticales, con bucles de razonamiento profundo, flujos de trabajo visuales, RAG y delegación A2A.