#llama Repositorios
225 repositorios en total
⚡ Motor de inferencia WebGPU en Rust puro — Compatible con la API de OpenAI, nativo para GGUF, funciona en cualquier GPU. Sin Python. Sin llama.cpp. Un solo binario.
[ICLR 2024] Ajuste fino de LLaMA para seguir instrucciones en 1 hora y 1,2 millones de parámetros
MedicalGPT: Entrena tu propio modelo GPT médico con el pipeline de entrenamiento de ChatGPT. Entrenamiento de un gran modelo médico, que incluye preentrenamiento incremental (PT), ajuste fino supervisado (SFT), RLHF, DPO, ORPO, GRPO.
Una interfaz web para chatear con Alpaca a través de llama.cpp. Totalmente dockerizada, con una API fácil de usar.
Un modelo de lenguaje de preentrenamiento a gran escala de 7 mil millones desarrollado por BaiChuan-Inc.
[ICLR'24 Spotlight] Una plataforma abierta para entrenar, servir y evaluar grandes modelos de lenguaje para el aprendizaje de herramientas.
El entorno de investigación de código abierto para investigadores de IA que permite entrenar, evaluar y escalar modelos de manera fluida, desde hardware local hasta clústeres GPU.
H2O LLM Studio: un framework y una GUI sin código para ajustar LLM. Documentación: https://docs.h2o.ai/h2o-llmstudio/
"Guía para la construcción de la caja blanca de modelos grandes": Un Tiny-Universe completamente hecho a mano
Repo para BenCao [nombre original: HuaTuo (华驼)], Ajuste fino de instrucciones de Grandes Modelos de Lenguaje con Conocimientos Médicos Chinos. Repositorio del modelo BenCao (nombre original: HuaTuo), ajuste fino de instrucciones de grandes modelos de lenguaje basado en conocimientos médicos chinos
Solo se requieren conocimientos básicos de Python, construye modelos de lenguaje grandes desde cero; Construye gradualmente GLM4\Llama3\RWKV6 desde cero, para comprender en profundidad los principios de los modelos grandes.
LightLLM es un framework basado en Python para la inferencia y el servicio de LLM (Modelos de Lenguaje Grandes), notable por su diseño ligero, fácil escalabilidad y rendimiento de alta velocidad.
Construye un LLM moderno desde cero. Cada línea comentada. Explicado como si tuviéramos cinco años.
Chinese-Vicuna: Un modelo chino basado en LLaMA que sigue instrucciones – una solución china llama+lora de bajos recursos, referencia estructural alpaca
Soluciones de PNL chinas (grandes modelos, datos, modelos, entrenamiento, inferencia)
Una biblioteca C#/.NET para ejecutar LLM (🦙LLaMA/LLaVA) de manera eficiente en su dispositivo local.
Una aplicación nativa de macOS que permite a los usuarios chatear con un LLM local que puede responder con información de archivos, carpetas y sitios web en tu Mac sin instalar ningún otro software. Impulsado por llama.cpp.
Respuesta automática a preguntas para bases de conocimiento locales basada en LLM como LangChain y ChatGLM-6B
InternGPT (iGPT) es una plataforma de demostración de código abierto donde puedes mostrar fácilmente tus modelos de IA. Ahora admite DragGAN, ChatGPT, ImageBind, chat multimodal como GPT-4, SAM, edición interactiva de imágenes, etc. Pruébalo en igpt.opengvlab.com (sistema de demostración en línea que admite DragGAN, ChatGPT, ImageBind, SAM).
AGiXT es una plataforma dinámica de automatización de agentes de IA que orquesta sin problemas la gestión de instrucciones y la ejecución de tareas complejas a través de diversos proveedores de IA. Al combinar memoria adaptativa, funciones inteligentes y un versátil sistema de complementos, AGiXT ofrece soluciones de IA eficientes e integrales.
LSP-AI es un servidor de lenguaje de código abierto que sirve como backend para funcionalidades impulsadas por IA, diseñado para asistir y potenciar a los ingenieros de software, no para reemplazarlos.
[EMNLP 2023 Demo] Video-LLaMA: Un modelo de lenguaje audiovisual ajustado por instrucción para la comprensión de vídeo
Marco de datos para tus aplicaciones LLM. Enfoque en soluciones del lado del servidor.
Modelos base Chinese-LLaMA 1&2, Chinese-Falcon; Modelo de diálogo chino ChatFlow; Modelo Chinese-OpenLLaMA; Conjuntos de datos de pre-entrenamiento/ajuste fino de instrucciones NLP
Maid es una aplicación gratuita y de código abierto para interactuar con modelos llama.cpp localmente, y con modelos Anthropic, DeepSeek, Ollama, Mistral y OpenAI de forma remota.
Herramienta profesional de investigación con IA para Zotero: chatea con archivos PDF, busca en toda tu biblioteca, Radar de literatura y Piloto automático. Más de 30 LLM o modelos locales; servidor MCP integrado. Chatea con tu Zotero de bolsillo en iPhone → https://www.docsagent.app
Crea, personaliza y controla tus propios LLM. Desde el preprocesamiento de datos hasta el ajuste fino, xTuring ofrece una forma sencilla de personalizar los LLM de código abierto. Únete a nuestra comunidad de Discord: https://discord.gg/TgHXuSJEk6
[EMNLP-2024] Construcción de agentes de lenguaje multimodal para prototipos rápidos y producción
Modelos de lenguaje grandes (LLM) simplificados, EasyLM es una solución integral para el preentrenamiento, el ajuste fino, la evaluación y el servicio de LLM en JAX/Flax.
API estilo OpenAI para modelos lingüísticos de gran tamaño abiertos, ¡usando LLM como chatgpt! Soporte para LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3, etc. Interfaz backend unificada para modelos de lenguaje grandes de código abierto
Una interfaz de usuario de terminal ágil y centrada en el teclado para interactuar con grandes modelos de lenguaje. Chatea con ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma y más.
El framework de agente LLM en ComfyUI incluye nodos de servidor MCP, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 y prompt FLUX, acceso a Feishu, discord y se adapta a todos los LLM con interfaces similares a openai / aisuite, como o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Adaptado a LLM locales, VLM, gguf como llama-3.3 Janus-Pro, Linkage GraphRAG
Un framework runtime de engaño de bajo código seguro, aprovechando IA para Virtualización de Sistema.
Ejecuta modelos de IA localmente en tu máquina con enlaces de Node.js para llama.cpp. Aplica un esquema JSON a la salida del modelo en el nivel de generación.
FinGLM: Se compromete a construir un proyecto de modelo financiero a gran escala, abierto, de bien público y duradero, aprovechando el código abierto y la apertura para promover la "IA + Finanzas".
Biblioteca de inferencia ligera para archivos ONNX, escrita en C++. Puede ejecutar Stable Diffusion XL 1.0 en una RPI Zero 2 (o en 298 MB de RAM), pero también Mistral 7B en escritorios y servidores. Soporte para ARM, x86, WASM, RISC-V. Acelerado por XNNPACK. Bindings de Python, C# y JS (WASM) disponibles.
llama y otros modelos de lenguaje grandes en iOS y MacOS sin conexión utilizando la biblioteca GGML.