#llama Repositorios
225 repositorios en total
Otro modelo lingüístico: inferencia LLM en C++/CUDA, sin bibliotecas excepto E/S
[ECCV2024] Modelo de Lenguaje Grande Multimodal Fundamentado con Tokenización Visual Localizada
Intervención en tiempo de inferencia: Obtener respuestas veraces de un modelo de lenguaje
Un repositorio de NLP de aprendizaje profundo que resume el preprocesamiento de texto, modelos de temas y tareas posteriores de modelos de vanguardia como BERT, GPT y LLM utilizando TensorFlow.
Entrena e infiere potentes incrustaciones de frases con AnglE | 🔥 SOTA en la tabla de clasificación STS y MTEB
[ICLR 2026] Un marco para el entrenamiento reforzado y la inferencia multiagente basados en LLM
LLaVA-Mini es un modelo multimodal grande y unificado (LMM) que puede admitir la comprensión de imágenes, imágenes de alta resolución y videos de manera eficiente.
Proyectos industriales completos de generative IA basados en modelos LLM con Deployment_Awesome LLM Projects
Use Code Llama con Visual Studio Code y la extensión Continue. Una alternativa LLM local a GitHub Copilot.
Open Model Engine (OME): operador de Kubernetes para la prestación de servicios de LLM, la programación de GPU y la gestión del ciclo de vida de los modelos. Compatible con SGLang, vLLM, TensorRT-LLM y Triton
Asistente impulsado por IA para ayudarte con tus tareas diarias, potenciado por Llama 3, DeepSeek R1 y muchos más modelos en HuggingFace.
Un CLI reactivo que genera mensajes de commit para Git y Jujutsu con Ollama, ChatGPT, Gemini, Claude, Mistral y otras IA
RESTai es una plataforma open-source AIaaS (IA como Servicio). Soporta muchos LLM públicos y locales soportados por Ollama/vLLM/etc. Uso preciso de embeddings, ajuste, analíticas, etc. Generación integrada de imágenes/audio con carga dinámica de generadores. Despliegue de chat en vivo. Lenguaje gráfico basado en bloques integrado. Versionado de prompts y mucho más...
[ICML 2024] LESS: Selección de Datos Influyentes para el Ajuste Fino de Instrucciones Dirigidas
Servidor de inferencia de lenguaje altamente optimizado de código abierto, local y autoalojado que soporta ASR/STT, TTS y LLM a través de WebRTC, REST y WS
Un sistema de inferencia de alto rendimiento para modelos de lenguaje grandes, diseñado para entornos de producción.
🚀🚀🚀 Este repositorio enumera algunos proyectos públicos increíbles de CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX y Computación de Alto Rendimiento (HPC).