#llama Repository
225 repository in totale
โก Motore di inferenza WebGPU in Rust puro โ Compatibile con le API OpenAI, nativo GGUF, funziona su qualsiasi GPU. Niente Python. Niente llama.cpp. Singolo binario.
[ICLR 2024] Fine-tuning di LLaMA per seguire le istruzioni entro 1 ora e 1,2 M di parametri
MedicalGPT: Addestra il tuo modello GPT medico con la pipeline di addestramento di ChatGPT. Addestramento di un modello medico su larga scala, che include pre-addestramento incrementale (PT), fine-tuning supervisionato (SFT), RLHF, DPO, ORPO, GRPO.
Un'interfaccia web per chattare con Alpaca tramite llama.cpp. Completamente dockerizzata, con un'API facile da usare.
Un modello linguistico di pre-allenamento su larga scala da 7 miliardi sviluppato da BaiChuan-Inc.
[ICLR'24 Spotlight] Una piattaforma aperta per l'addestramento, il serving e la valutazione di grandi modelli linguistici per l'apprendimento degli strumenti.
L'ambiente di ricerca open source per i ricercatori di intelligenza artificiale, che consente di addestrare, valutare e scalare modelli in modo fluido, dal hardware locale ai cluster GPU.
H2O LLM Studio - un framework e una GUI no-code per il fine-tuning di LLM. Documentazione: https://docs.h2o.ai/h2o-llmstudio/
"Guida alla costruzione di una White Box per Grandi Modelli": Un Tiny-Universe interamente assemblato a mano
Repo per BenCao [nome originale: HuaTuo (ๅ้ฉผ)], Fine-tuning di Large Language Models con conoscenze mediche cinesi. Repository del modello BenCao (nome originale: HuaTuo), fine-tuning di istruzioni per grandi modelli linguistici basato su conoscenze mediche cinesi
Solo basi di Python necessarie, costruisci modelli linguistici di grandi dimensioni da zero; Costruisci gradualmente GLM4\Llama3\RWKV6 da zero, comprendendo a fondo i principi dei grandi modelli.
LightLLM รจ un framework basato su Python per l'inferenza e il serving di LLM (Large Language Model), noto per il suo design leggero, la facile scalabilitร e le prestazioni ad alta velocitร .
Costruisci un LLM moderno da zero. Ogni riga commentata. Spiegato come se avessimo cinque anni.
Chinese-Vicuna: Un modello cinese basato su LLaMA che segue istruzioni โ uno schema cinese llama+lora a basse risorse, riferimento strutturale alpaca
Soluzioni NLP cinesi (grandi modelli, dati, modelli, addestramento, inferenza)
Una libreria C#/.NET per eseguire in modo efficiente LLM (๐ฆLLaMA/LLaVA) sul tuo dispositivo locale.
Un'app nativa per macOS che consente agli utenti di chattare con un LLM locale in grado di rispondere con informazioni da file, cartelle e siti Web sul tuo Mac senza installare altro software. Basato su llama.cpp.
Risposta automatica alle domande per knowledge base locali basata su LLM come LangChain e ChatGLM-6B
InternGPT (iGPT) รจ una piattaforma demo open source dove puoi facilmente mostrare i tuoi modelli AI. Ora supporta DragGAN, ChatGPT, ImageBind, chat multimodali come GPT-4, SAM, editing interattivo di immagini, ecc. Provalo su igpt.opengvlab.com (sistema demo online che supporta DragGAN, ChatGPT, ImageBind, SAM).
AGiXT รจ una piattaforma dinamica di automazione di agenti AI che orchestra senza soluzione di continuitร la gestione delle istruzioni e l'esecuzione di compiti complessi su diversi provider AI. Combinando memoria adattiva, funzionalitร intelligenti e un versatile sistema di plugin, AGiXT offre soluzioni AI efficienti e complete.
LSP-AI รจ un language server open-source che funge da backend per funzionalitร basate sull'intelligenza artificiale, progettato per assistere e potenziare gli ingegneri del software, non per sostituirli.
[EMNLP 2023 Demo] Video-LLaMA: Un modello linguistico audiovisivo sintonizzato sulle istruzioni per la comprensione dei video
Framework dati per le tue applicazioni LLM. Focalizzato sulla soluzione lato server.
Modelli base Chinese-LLaMA 1&2, Chinese-Falcon; Modello di dialogo cinese ChatFlow; Modello Chinese-OpenLLaMA; Dataset per pre-training/fine-tuning su istruzioni NLP
Maid รจ unโapplicazione gratuita e open source per interfacciarsi con i modelli llama.cpp localmente e con i modelli Anthropic, DeepSeek, Ollama, Mistral e OpenAI in remoto.
Strumento professionale di ricerca con IA per Zotero: chatta con i PDF, cerca in tutta la tua libreria, Radar della letteratura e Pilota automatico. Oltre 30 LLM o modelli locali; server MCP integrato. Chatta con il tuo Zotero tascabile su iPhone โ https://www.docsagent.app
Costruisci, personalizza e controlla i tuoi LLM. Dalla pre-elaborazione dei dati al fine-tuning, xTuring offre un modo semplice per personalizzare gli LLM open-source. Unisciti alla nostra community Discord: https://discord.gg/TgHXuSJEk6
[EMNLP-2024] Costruire agenti linguistici multimodali per prototipazione rapida e produzione
mPLUG-Owl: La potente famiglia di modelli linguistici di grandi dimensioni multimodali
Modelli linguistici di grandi dimensioni (LLM) resi semplici, EasyLM รจ una soluzione completa per il pre-training, il finetuning, la valutazione e il serving di LLM in JAX/Flax.
API in stile OpenAI per modelli linguistici di grandi dimensioni aperti, utilizzando LLM proprio come chatgpt! Supporto per LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 ecc. Interfaccia backend unificata per LLM open source
Un'interfaccia utente terminale scattante e incentrata sulla tastiera per interagire con modelli linguistici di grandi dimensioni. Chatta con ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma e altri.
Il framework dell'agente LLM in ComfyUI include i nodi MCP server, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 e FLUX prompt, accesso a Feishu, discord e si adatta a tutti gli LLM con interfacce simili a openai / aisuite, come o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Adattato a LLM locali, VLM, gguf come llama-3.3 Janus-Pro, Linkage GraphRAG
Un framework runtime di inganno a basso codice sicuro, che sfrutta l'IA per la Virtualizzazione del Sistema.
Esegui modelli AI localmente sulla tua macchina con binding Node.js per llama.cpp. Applica uno schema JSON all'output del modello a livello di generazione.
FinGLM: Si impegna a costruire un progetto aperto, di pubblica utilitร e duraturo per i grandi modelli finanziari, sfruttando l'open source e l'apertura per promuovere "AI+Finanza".
Libreria di inferenza leggera per file ONNX, scritta in C++. Puรฒ eseguire Stable Diffusion XL 1.0 su un RPI Zero 2 (o con 298 MB di RAM), ma anche Mistral 7B su desktop e server. Supporto per ARM, x86, WASM, RISC-V. Accelerato da XNNPACK. Binding Python, C# e JS (WASM) disponibili.
llama e altri modelli linguistici di grandi dimensioni su iOS e MacOS offline utilizzando la libreria GGML.