#llama Repositórios
225 repositórios no total
⚡ Motor de inferência WebGPU em Rust puro — Compatível com a API da OpenAI, nativo para GGUF, roda em qualquer GPU. Sem Python. Sem llama.cpp. Binário único.
[ICLR 2024] Ajuste Fino de LLaMA para Seguir Instruções em 1 Hora e 1,2M de Parâmetros
MedicalGPT: Training Your Own Medical GPT Model with ChatGPT Training Pipeline. Treinando grandes modelos médicos, implementando pré-treinamento incremental (PT), ajuste fino supervisionado (SFT), RLHF, DPO, ORPO e GRPO.
Uma interface web para conversar com Alpaca através do llama.cpp. Completamente dockerizada, com uma API fácil de usar.
Um modelo de linguagem de pré-treinamento de grande escala de 7B desenvolvido pela BaiChuan-Inc.
[ICLR'24 spotlight] Uma plataforma aberta para treinar, servir e avaliar modelos de linguagem grandes para aprendizado de ferramentas.
O ambiente de pesquisa de código aberto para pesquisadores de IA, permitindo treinar, avaliar e dimensionar modelos de forma fluida, desde hardware local até clusters GPU.
H2O LLM Studio - uma estrutura e GUI sem código para ajuste fino de LLMs. Documentação: https://docs.h2o.ai/h2o-llmstudio/
“Guia para Construir uma Caixa Branca de Modelo Grande”: Um Tiny-Universe totalmente construído do zero
Repo para BenCao [nome original: HuaTuo (华驼)], Ajuste fino de instruções de Grandes Modelos de Linguagem com Conhecimentos Médicos Chineses. Repositório do modelo BenCao (nome original: HuaTuo), ajuste fino de instruções de grandes modelos de linguagem baseado em conhecimentos médicos chineses
Apenas com o básico de Python, construa Large Language Models do zero; construa GLM4\Llama3\RWKV6 passo a passo do zero, compreendendo profundamente os princípios dos grandes modelos
LightLLM é um framework de inferência e serviço de LLM (Large Language Model) baseado em Python, notável por seu design leve, escalabilidade fácil e desempenho de alta velocidade.
Construa um LLM moderno do zero. Cada linha comentada. Explicado como se tivéssemos cinco anos.
Chinese-Vicuna: Um Modelo Chinês Baseado em LLaMA que Segue Instruções —— uma solução LLaMA + LoRA chinesa de baixo recurso, com estrutura inspirada no Alpaca
Soluções de PNL em Chinês (Grandes Modelos, Dados, Modelo, Treinamento, Inferência)
Uma biblioteca C#/.NET para executar LLMs (🦙LLaMA/LLaVA) no seu dispositivo local de forma eficiente.
Um aplicativo nativo para macOS que permite aos usuários conversar com um LLM local que pode responder com informações de arquivos, pastas e sites no seu Mac sem instalar nenhum outro software. Potencializado por llama.cpp.
Perguntas e Respostas Automáticas para bases de conhecimento locais, utilizando LLMs da série LangChain e ChatGLM-6B, entre outros.
InternGPT (iGPT) é uma plataforma de demonstração de código aberto onde você pode exibir facilmente seus modelos de IA. Agora, ele suporta DragGAN, ChatGPT, ImageBind, bate-papo multimodal como GPT-4, SAM, edição interativa de imagens, etc. Experimente em igpt.opengvlab.com (Sistema Demo online que suporta DragGAN, ChatGPT, ImageBind, SAM)
AGiXT é uma Plataforma Dinâmica de Automação de Agentes de IA que orquestra de forma integrada a gestão de instruções e a execução de tarefas complexas através de diversos fornecedores de IA. Combinando memória adaptativa, recursos inteligentes e um sistema de plugin versátil, o AGiXT oferece soluções de IA eficientes e abrangentes.
LSP-AI é um servidor de linguagem de código aberto que serve como um backend para funcionalidades alimentadas por IA, projetado para auxiliar e capacitar engenheiros de software, não para substituí-los.
[EMNLP 2023 Demo] Video-LLaMA: Um Modelo de Linguagem Audiovisual Ajustado por Instrução para Compreensão de Vídeo
Estrutura de dados para suas aplicações LLM. Foco em solução do lado do servidor
Modelos base Chinese-LLaMA 1&2, Chinese-Falcon; Modelo de diálogo em chinês ChatFlow; Modelo Chinese-OpenLLaMA; Conjuntos de dados de pré-treinamento/ajuste fino de instruções de PNL
Maid é um aplicativo livre e de código aberto para interagir com modelos llama.cpp localmente, e com modelos Anthropic, DeepSeek, Ollama, Mistral e OpenAI remotamente.
Ferramenta profissional de pesquisa com IA para Zotero: converse com PDFs, pesquise em toda a sua biblioteca, Radar de literatura e Piloto automático. Mais de 30 LLMs ou modelos locais; servidor MCP integrado. Converse com seu Zotero de bolso no iPhone → https://www.docsagent.app
Construa, personalize e controle seus próprios LLMs. Desde o pré-processamento de dados até o ajuste fino (fine-tuning), o xTuring oferece uma maneira fácil de personalizar LLMs de código aberto. Junte-se à nossa comunidade no Discord: https://discord.gg/TgHXuSJEk6
[EMNLP-2024] Construir agentes de linguagem multimodal para prototipagem e produção rápidas
Modelos de linguagem grandes (LLMs) simplificados. O EasyLM é uma solução completa para pré-treinamento, ajuste fino, avaliação e disponibilização de LLMs em JAX/Flax.
API estilo OpenAI para modelos de linguagem grandes abertos, usando LLMs assim como o chatgpt! Suporte para LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 etc. Interface de backend unificada para modelos de linguagem grandes de código aberto
Uma interface de usuário de terminal rápida e centrada no teclado para interagir com grandes modelos de linguagem. Converse com ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma e mais.
O Framework de Agente LLM no ComfyUI inclui o servidor MCP, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 e nós de prompt FLUX, acesso ao Feishu, discord, e se adapta a todos os LLMs com interfaces semelhantes ao openai / aisuite, como o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Adaptado a LLMs locais, VLM, GGUF como llama-3.3 Janus-Pro, Linkage graphRAG
Um framework runtime de engano de baixo código seguro, aproveitando IA para Virtualização de Sistema.
Execute modelos de IA localmente na sua máquina com bindings para llama.cpp em node.js. Imponha um schema JSON na saída do modelo no nível de geração
FinGLM: Dedicado a construir um projeto de modelo financeiro grande, aberto, de utilidade pública e duradouro, utilizando código aberto e abertura para promover a "IA+Finanças".
Biblioteca de inferência leve para arquivos ONNX, escrita em C++. Ela pode executar o Stable Diffusion XL 1.0 em um RPI Zero 2 (ou com 298MB de RAM), mas também o Mistral 7B em desktops e servidores. Suporte para ARM, x86, WASM, RISC-V. Acelerado por XNNPACK. Bindings para Python, C# e JS(WASM) disponíveis.
llama e outros grandes modelos de linguagem no iOS e MacOS offline usando a biblioteca GGML.