#llama Repositories
Insgesamt 225 Repositories
Bauen Sie KI-Agenten von Grund auf mit einem lokalen LLM – ohne Frameworks, ohne Cloud‑APIs und ohne verstecktes Denken.
[ECCV 2024 Best Paper Kandidat & TPAMI 2025] PointLLM: Große Sprachmodelle befähigen, Punktwolken zu verstehen
TypeScript KI KI-Funktivorlesungsframework, verbessert durch Compiler-Fähigkeiten.
Ein leistungsstarkes Framework zur Modellkompression für LLMs und LVLMs, angepasst für NVIDIA GPUs und Huawei Ascend NPUs.
⛷️ LLaMA-MoE: Aufbau von Mixture-of-Experts aus LLaMA mit fortlaufendem Vortraining (EMNLP 2024)
Ein umfassender Leitfaden, der Ihnen hilft, Ihre LLM-Fähigkeiten 2026 zu starten und zu verbessern, auch wenn Sie wenig Erfahrung auf dem Gebiet haben, und die neuesten Nachrichten sowie modernste Techniken zu verfolgen!
TextGen: Implementierung von Textgenerierungsmodellen, einschließlich LLaMA, BLOOM, GPT2, BART, T5, SongNet und so weiter. Textgenerierungsmodelle, die das Training und die Vorhersage von Modellen wie LLaMA, ChatGLM, BLOOM, GPT2, Seq2Seq, BART, T5, UDA usw. implementieren, sofort einsatzbereit.
ChatGPT CLI ist eine leistungsstarke, multianbieterfähige Befehlszeilenschnittstelle zur Arbeit mit modernen LLMs. Es unterstützt OpenAI, Azure, Perplexity, LLaMA und mehr, mit Funktionen wie Streaming, interaktiver Chat, Prompt-Dateien, Bild/Audio-E/A, MCP-Werkzeugaufrufe und einem experimentellen Agentenmodus für sichere, mehrstufige Automatisierung.
Selbstgesteuertes Bootcamp zu Generativer KI. Tutorials zu ML-Grundlagen, Ollama, LLMs, RAGs, LangChain, LangGraph, Fine-tuning, DSPy & AI Agents (CrewAI), (mit ChatGPT, gpt-oss, Claude, Qwen, Gemma, Llama, Gemini)
Ein Open-Source-Bildungs-Chatmodell von ICALK, East China Normal University. Open-Source-chinesisch-englischer Bildungs-Dialog-Großmodell. (Universelles Basismodell, GPU-Bereitstellung, Datenbereinigung) Hommage an: LLaMA, MOSS, BELLE, Ziya, vLLM
🤖 Automatisch gesammelte AI-Repos, Tools, Websites, Papers & Tutorials. Praktische AI-Schatzkiste 💎
Befähigen Sie große Sprachmodelle (LLM) mithilfe von wissensgraphenbasierter Retrieval-Augmented Generation (KG-RAG) für wissensintensive Aufgaben
Eine hochoptimierte LLM-Inferenzbeschleunigungs-Engine für Llama und seine Varianten.
Dieses Repository stellt PIXIU vor, eine Open-Source-Ressource, die die ersten großen Sprachmodelle (LLMs) für Finanzzwecke, Instruction-Tuning-Daten und Evaluations-Benchmarks enthält, um finanzielle LLMs ganzheitlich zu bewerten. Unser Ziel ist es, die Open-Source-Entwicklung im Bereich der künstlichen Intelligenz (KI) im Finanzwesen kontinuierlich voranzutreiben.
Eine PyTorch-Bibliothek kuratierter Transformer-Modelle und ihrer zusammensetzbaren Komponenten
Trainieren und bedienen Sie LLMs mit extremer Geschwindigkeit und enormem Durchsatz.
Ein LLM-gestützter Repository-Agent, der Entwickler und Teams dabei unterstützt, Dokumentationen zu generieren und Repositories schnell zu verstehen.
LLaMA-VID: Ein Bild ist 2 Token in großen Sprachmodellen wert (ECCV 2024)
🤖✨ChatMLX ist eine moderne, quelloffene, leistungsstarke Chat-Anwendung für MacOS, die auf großen Sprachmodellen basiert.
🚀🚀🚀Eine Sammlung einiger beeindruckender öffentlicher Projekte zu Large Language Models (LLM), Vision Language Models (VLM), Vision Language Action (VLA), AI Generated Content (AIGC), den dazugehörigen Datensätzen und Anwendungen.
Open-Source-SDK für lokale KI – führe KI direkt auf dem Gerät aus, ganz ohne Cloud und API-Schlüssel. Unterstützt GGUF, RAG, die Generierung von Bildern, Musik und Videos, Sprache-zu-Text, P2P-Inferenz und mehr. Plattformübergreifend: Linux, macOS, Windows, Android und iOS.
Ein selbstlernender, souveräner Desktop-KI-Agent, entwickelt für Aktionen in der realen Welt – weit über Modell-Wrapper und Programmier-Copiloten hinaus. / Ein Desktop-KI-Agent, der sich durch praktische Erfahrungen in der realen Welt selbst weiterentwickelt.
Eine Sammlung von großartigen Prompt-Datensätzen, großartigen Anweisungs-Datensätzen, zum Trainieren von ChatLLMs wie ChatGPT, die eine Vielzahl von Anweisungsdatensätzen enthält, zum Trainieren von ChatLLM-Modellen.
[CVPR 2024] MovieChat: Von dichten Token zu spärlichem Gedächtnis für das Verständnis langer Videos
Mit eigener Intelligenz voran: Schreiben Sie Go-Anwendungen, die llama.cpp direkt integrieren, um unter Linux, macOS, Windows und WebAssembly lokale Inferenz mit Hardwarebeschleunigung durchzuführen.
Awesome-LLM-Eval: eine kuratierte Liste von Tools, Datensätzen/Benchmarks, Demos, Bestenlisten, Papern, Docs und Modellen, hauptsächlich für die Evaluierung von LLMs. Eine kuratierte Liste von Tools, Benchmark/Daten, Demos, Ranglisten und großen Modellen, die sich hauptsächlich an die Bewertung von Basis-Large Models richtet und darauf abzielt, die technologischen Grenzen der generativen KI zu erforschen.
LLaSA: Skalierung von Rechenleistung während des Trainings und der Inferenz für LLaMA-basierte Sprachsynthese
Privates lokales Modellstudio, KI-Chat und Agenten-Arbeitsbereich, unterstützt von WebGPU und WebLLM.
[ICLR 2024] Sheared LLaMA: Beschleunigung des Vortrainings von Sprachmodellen durch strukturierte Beschneidung
Erreichen Sie den Llama3-Inferenzschritt für Schritt, erfassen Sie die Kernkonzepte, meistern Sie die Prozessableitung, implementieren Sie den Code.
Dieses Repository stellt Programme zur Erstellung von Retrieval Augmented Generation (RAG)-Code für Generative AI mit LlamaIndex, Deep Lake und Pinecone bereit, wobei die Leistungsfähigkeit von OpenAI- und Hugging Face-Modellen für Generierung und Evaluierung genutzt wird.
Einfaches und effizientes Finetuning von LLMs. (Unterstützt LLama, LLama2, LLama3, Qwen, Baichuan, GLM, Falcon) Effizientes Quantisierungstraining und -bereitstellung großer Modelle.
kani (カニ) ist ein hochgradig hackbares Microframework für Tool-Calling-Sprachmodelle. (NLP-OSS @ EMNLP 2023)
Sind Copiloten schon lokal? Die Grenze lokaler LLM-Copiloten für Codevervollständigung, Projektgenerierung, Shell-Assistenten und mehr. Entdecken Sie Werkzeuge, die das Entwicklererlebnis von morgen schon heute gestalten!