#llama Repositories
Insgesamt 225 Repositories
Ein weiteres Sprachmodell: LLM-Inferenz in C++/CUDA, keine Bibliotheken außer I/O
[ECCV2024] Geerdetes multimodales großes Sprachmodell mit lokalisierter visueller Tokenisierung
Inference-Time Intervention: Wahrheitsgemäße Antworten von einem Sprachmodell hervorrufen
Ein Deep Learning NLP Repository, das die Textvorverarbeitung, Topic Models und nachgelagerten Aufgaben modernster Modelle wie BERT, GPT und LLMs mit TensorFlow zusammenfasst.
Trainiere und inferiere leistungsstarke Satz-Embeddings mit AnglE | 🔥 SOTA auf den STS- und MTEB-Bestenlisten
[ICLR 2026] Ein Framework für LLM-basiertes verstärktes Training und Inferenz mit mehreren Agenten
LLaVA-Mini ist ein einheitliches großes multimodales Modell (LMM), das Bilder, hochauflösende Bilder und Videos auf effiziente Weise verstehen kann.
End-to-End-Generative‑AI‑Industrieprojekte auf LLM‑Modellen mit Deployment_Awesome LLM Projects
Verwenden Sie Code Llama mit Visual Studio Code und der Continue-Erweiterung. Eine lokale LLM-Alternative zu GitHub Copilot.
🏗️ Passen Sie Open-Source-LLMs einfach an, erstellen und stellen Sie sie bereit!
Open Model Engine (OME) — Kubernetes-Operator für das Bereitstellen von LLM-Diensten, die GPU-Planung und das Management des Modelllebenszyklus. Unterstützt SGLang, vLLM, TensorRT-LLM und Triton
KI-gestützter Assistent, der Sie bei Ihren täglichen Aufgaben unterstützt, angetrieben von Llama 3, DeepSeek R1 und vielen weiteren Modellen auf HuggingFace.
Ein reaktives CLI, das Commit-Nachrichten für Git und Jujutsu mit Ollama, ChatGPT, Gemini, Claude, Mistral und anderen KI generiert
RESTai ist eine Open-Source-Plattform für AIaaS (KI als Dienst). Unterstützt viele öffentliche und lokale LLMs, die von Ollama/vLLM/usw. unterstützt werden. Präzise Nutzung von Embeddings, Feinabstimmung, Analysen usw. Integrierte Bild-/Audio-Generierung mit dynamischem Laden von Generatoren. Live-Chat-Bereitstellung. Integrierte blockbasierte grafische Sprache. Prompt-Versionierung und vieles mehr...
[ICML 2024] LESS: Auswahl einflussreicher Daten für das gezielte Instruction Tuning
Open-Source-, lokaler und selbst gehosteter hochoptimierter Sprach-Inferenz-Server mit Unterstützung für ASR/STT, TTS und LLM über WebRTC, REST und WS
Ein High-Performance-Inferenzsystem für große Sprachmodelle, das für Produktionsumgebungen entwickelt wurde.
🚀🚀🚀 Dieses Repository listet einige großartige öffentliche Projekte zu CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX und High Performance Computing (HPC) auf.