#llama Repositories
Insgesamt 225 Repositories
⚡ WebGPU-Inferenz-Engine in reinem Rust — OpenAI-API-kompatibel, GGUF-nativ, läuft auf jeder GPU. Kein Python. Kein llama.cpp. Einzelne Binärdatei.
[ICLR 2024] Fine-Tuning von LLaMA zur Befolgung von Anweisungen innerhalb von 1 Stunde und 1,2 Mio. Parametern
MedicalGPT: Trainen Sie Ihr eigenes medizinisches GPT-Modell mit der ChatGPT-Trainingspipeline. Training eines großen medizinischen Modells, das inkrementelles Vortraining (PT), überwachtes Fine-Tuning (SFT), RLHF, DPO, ORPO, GRPO umfasst.
Eine Weboberfläche zum Chatten mit Alpaca über llama.cpp. Vollständig Docker-basiert, mit einer einfach zu bedienenden API.
Ein groß angelegtes vortrainiertes Sprachmodell mit 7 Milliarden Parametern, entwickelt von BaiChuan-Inc.
[ICLR'24 Spotlight] Eine offene Plattform zum Trainieren, Servieren und Bewerten großer Sprachmodelle für das Tool-Lernen.
Die Open‑Source-Forschungsumgebung für KI-Forscher, die es ermöglicht, Modelle nahtlos zu trainieren, zu evaluieren und von lokaler Hardware bis hin zu GPU‑Clustern zu skalieren.
H2O LLM Studio – ein Framework und eine No-Code-GUI zum Fine-Tuning von LLMs. Dokumentation: https://docs.h2o.ai/h2o-llmstudio/
"Leitfaden zum Aufbau einer Big-Model-White-Box": Ein komplett von Hand erstelltes Tiny-Universe
Repo für BenCao [Originalname: HuaTuo (华驼)], Instruction-Tuning großer Sprachmodelle mit chinesischem medizinischem Wissen. BenCao (Originalname: HuaTuo) Modell-Repository, Instruction-Fine-Tuning großer Sprachmodelle basierend auf chinesischem medizinischem Wissen
Nur grundlegende Python-Kenntnisse erforderlich, um große Sprachmodelle von Grund auf zu erstellen; Schrittweiser Aufbau von GLM4\Llama3\RWKV6 von Grund auf, um die Prinzipien großer Modelle tiefgreifend zu verstehen.
LightLLM ist ein Python-basiertes Framework für die Inferenz und das Serving von LLMs (Large Language Models), das für sein leichtgewichtiges Design, seine einfache Skalierbarkeit und seine Hochgeschwindigkeitsleistung bekannt ist.
Baue ein modernes LLM von Grund auf. Jede Zeile kommentiert. Erklärt wie für Fünfjährige.
Chinese-Vicuna: Ein chinesisches LLaMA-basiertes Modell zur Befolgung von Anweisungen – ein chinesisches Llama+LoRA-Schema mit geringen Ressourcen, Strukturreferenz Alpaca
Multi-LoRA-Inferenzserver, der bis zu Tausende von feinabgestimmten LLMs skaliert
Chinesische NLP-Lösungen (große Modelle, Daten, Modelle, Training, Inferenz)
Eine C#/.NET-Bibliothek zum effizienten Ausführen von LLMs (🦙LLaMA/LLaVA) auf Ihrem lokalen Gerät.
Eine native macOS-App, mit der Benutzer mit einem lokalen LLM chatten können, das ohne Installation weiterer Software mit Informationen aus Dateien, Ordnern und Websites auf Ihrem Mac antworten kann. Angetrieben von llama.cpp.
Automatische Beantwortung von Fragen für lokale Wissensdatenbanken basierend auf LLMs wie LangChain und ChatGLM-6B
InternGPT (iGPT) ist eine Open-Source-Demo-Plattform, auf der Sie Ihre KI-Modelle einfach präsentieren können. Jetzt unterstützt es DragGAN, ChatGPT, ImageBind, multimodale Chats wie GPT-4, SAM, interaktive Bildbearbeitung usw. Probieren Sie es unter igpt.opengvlab.com aus (Online-Demo-System, das DragGAN, ChatGPT, ImageBind, SAM unterstützt).
AGiXT ist eine dynamische KI-Agenten-Automatisierungsplattform, die die Instruktionsverwaltung und die Ausführung komplexer Aufgaben über verschiedene KI-Anbieter hinweg nahtlos orchestriert. Durch die Kombination von adaptivem Gedächtnis, intelligenten Funktionen und einem vielseitigen Plugin-System liefert AGiXT effiziente und umfassende KI-Lösungen.
LSP-AI ist ein Open-Source-Sprachserver, der als Backend für KI-gestützte Funktionalität dient und darauf ausgelegt ist, Software-Ingenieure zu unterstützen und zu stärken, nicht sie zu ersetzen.
[EMNLP 2023 Demo] Video-LLaMA: Ein instruktionsangepasstes Audio-Visuelles Sprachmodell für das Videoverständnis
Daten-Framework für Ihre LLM-Anwendungen. Konzentriert sich auf serverseitige Lösungen.
Chinesische LLaMA 1&2, Chinesische Falcon Basismodelle; ChatFlow chinesisches Dialogmodell; Chinesisches OpenLLaMA-Modell; NLP-Vortraining/Anweisungsfeinabstimmung Datensätze
Maid ist eine kostenlose und quelloffene Anwendung zur Interaktion mit llama.cpp-Modellen lokal und mit Anthropic-, DeepSeek-, Ollama-, Mistral- und OpenAI-Modellen remote.
Professionelles KI-Recherchetool für Zotero: Chatten Sie mit PDFs, durchsuchen Sie Ihre gesamte Bibliothek, Literatur-Radar und Autopilot. Über 30 LLMs oder lokale Modelle; integrierter MCP-Server. Chatten Sie auf dem iPhone mit Ihrem Zotero für unterwegs → https://www.docsagent.app
Erstellen, personalisieren und steuern Sie Ihre eigenen LLMs. Von der Datenvorverarbeitung bis zum Fine-Tuning bietet xTuring eine einfache Möglichkeit, Open-Source-LLMs zu personalisieren. Treten Sie unserer Discord-Community bei: https://discord.gg/TgHXuSJEk6
[EMNLP-2024] Multimodale Sprachagenten für schnelle Prototypenentwicklung und Produktion erstellen
Large Language Models (LLMs) leicht gemacht, EasyLM ist eine Komplettlösung für Pre-Training, Finetuning, Evaluierung und Serving von LLMs in JAX/Flax.
OpenAI-Stil-API für offene große Sprachmodelle (LLMs), die LLMs genauso verwenden wie ChatGPT! Unterstützung für LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 usw. Einheitliche Backend-Schnittstelle für Open-Source-große Sprachmodelle
Eine flotte, tastaturzentrierte Terminalbenutzeroberfläche für die Interaktion mit großen Sprachmodellen. Chatten Sie mit ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma und mehr.
Das LLM-Agenten-Framework in ComfyUI umfasst die Knoten MCP-Server, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 und FLUX-Prompt. Es bietet Zugriff auf Feishu, Discord und passt sich an alle LLMs mit ähnlichen OpenAI/AISuite-Schnittstellen an, wie z. B. o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao. Angepasst an lokale LLMs, VLMs, GGUF wie llama-3.3 Janus-Pro, Linkage GraphRAG
Ein sicheres Low-Code-Täuschungs-Runtime-Framework, das KI für Systemvirtualisierung nutzt.
Führen Sie KI-Modelle lokal auf Ihrem Computer mit Node.js-Bindings für llama.cpp aus. Erzwingen Sie ein JSON-Schema für die Modellausgabe auf der Generierungsebene.
FinGLM: Engagiert sich für den Aufbau eines offenen, gemeinnützigen und dauerhaften Projekts für große Finanzmodelle, das Open Source und Offenheit zur Förderung von „KI+Finanzen“ nutzt.
Leichte Inferenzbibliothek für ONNX-Dateien, geschrieben in C++. Sie kann Stable Diffusion XL 1.0 auf einem RPI Zero 2 (oder in 298 MB RAM) ausführen, aber auch Mistral 7B auf Desktops und Servern. ARM, x86, WASM, RISC-V werden unterstützt. Beschleunigt durch XNNPACK. Python-, C#- und JS(WASM)-Bindings verfügbar.
llama und andere große Sprachmodelle unter iOS und MacOS offline mit der GGML-Bibliothek.