#llm Repositories
Insgesamt 2,314 Repositories
Verteilte LLM-Inferenz. Verbinden Sie Heimgeräte zu einem leistungsstarken Cluster, um die LLM-Inferenz zu beschleunigen. Mehr Geräte bedeuten schnellere Inferenz.
Führen Sie GLM-5.3 (744B), DeepSeek-V4.1-Flash (748B), MiniMax-M3.1-Flash (428B), GLM-5.3-Flash (321B) und Hy4-Flash (220B) auf Ihren eigenen GPUs aus – ab 8 GB VRAM, mit Unterstützung für NVIDIA und AMD, einem einzigen Dashboard sowie einer mit OpenAI und Anthropic kompatiblen API.
Lernen Sie, Ihren Second Brain KI-Assistenten mit LLMs, Agenten, RAG, Fine-Tuning, LLMOps und KI-Systemtechniken zu erstellen.
QuantMind ist ein Open-Source-Framework zur agentennativen Wissensextraktion und -abfrage für die quantitative Finanzwirtschaft.
Von der Community gepflegtes Hardware-Plugin für vLLM auf Huawei Ascend
RamaLama ist ein Open-Source-Entwicklertool, das das lokale Bereitstellen von KI-Modellen aus beliebigen Quellen vereinfacht und deren Verwendung für Inferenzen in der Produktion erleichtert, und das alles über die vertraute Sprache von Containern.
OpenLake ist eine Hochleistungs-Speicher-Engine für effiziente LLM-Inferenz und GPU-Training
Universelle Speicherschicht für KI-Agenten. Sie bietet skalierbare, erweiterbare und interoperable Speicherung und Abruf von Speicherdaten, um das Zustandsmanagement von KI-Agenten für autonome Systeme der nächsten Generation zu optimieren.
Daten-Framework für Ihre LLM-Anwendungen. Konzentriert sich auf serverseitige Lösungen.
📄 Lassen Sie KI koreanische amtliche Dokumente lesen und verfassen. Konvertieren Sie HWP-, HWPX- und PDF-Dateien, Office-Dokumente sowie gescannte Bilder in Markdown – und Markdown zurück in amtliche HWPX-Dokumente. Formulare ausfüllen, alte und neue Versionen vergleichen und Dokumente unter Beibehaltung der Formatierung bearbeiten. Bibliothek, CLI und MCP-Server | Koreanische Dokumente für KI: HWP, HWPX, PDF, Office und Scans in Markdown und Markdown zurück in HWPX. Bibliothek, CLI und MCP-Server.
Eine kuratierte Liste großartiger Plattformen, Tools, Praktiken und Ressourcen, die dabei helfen, LLMs lokal auszuführen
Ein minimales und dennoch professionelles Demo-Projekt für einen einzelnen Agenten, das die Kernausführungspipeline und die produktionsreifen Funktionen von Agenten demonstriert.
Ein KI-gestütztes Dateiverwaltungstool, das die Privatsphäre durch die Organisation lokaler Texte und Bilder gewährleistet. Mithilfe der Modelle Llama3.2 3B und Llava v1.6 mit dem Nexa SDK scannt, restrukturiert und organisiert es Dateien intuitiv für einen schnellen, nahtlosen Zugriff und eine einfache Wiederbeschaffung.
Frameworkübergreifende Streaming-Markdown-Renderer für KI-Apps: Vue/Nuxt, React/Next.js, Octane, SolidJS, Svelte, Angular und Vue 2. Mermaid, KaTeX, Streaming-Codeblöcke, SSR und virtualisierte Verläufe.
Jupyter Notebooks, um Ihnen bei der praktischen Arbeit mit Pinecone-Vektordatenbanken zu helfen
Open-Source-Desktop-KI-Agent für Tools, Dateien, Wissen, Workflows und echte Ergebnisse.
Hol den Quellcode von npm-Paketen ein, um KI-Coding-Agents einen tieferen Kontext zu geben
Behandelt Vortrainingsdaten, Tokenizer, Transformer, MoE, verteiltes Training, Skalierungsgesetze, Inferenz und Alignment. 6 aufeinander aufbauende Programmieraufgaben für das ganzheitliche Lernen von LLMs.
Verbessert die Ausgabe von Tesseract OCR mit LLMs (lokal oder API) für Fehlerkorrektur, intelligente Chunking und Markdown-Formatierung von gescannten PDFs
Stellen Sie autonome KI-Agenten in Ihrem Browser zusammen, konfigurieren und stellen Sie sie bereit. Stellen Sie Ihre private AutoGPT-Webanwendung mit einem Klick kostenlos bereit.
Hochleistungs-Inferenzframework für große Sprachmodelle mit Schwerpunkt auf Effizienz, Flexibilität und Verfügbarkeit.
Ein neuer SOTA für RAG – eine originelle Retrieval-Architektur und eine Open-Source-Wissensdatenbank für Menschen und Agenten.
Verwandeln Sie ein Thema in ein fertiges Vox-artiges Papiercollage-Erklär-/Werbevideo — automatisiert von Anfang bis Ende auf Atlas Cloud + ffmpeg. Eine Agentenfertigkeit.
KI-gestützter plattformübergreifender E-Book-Reader mit semantischer Suche, RAG-Chat, lokalem Vektorspeicher, Notizen, TTS und WebDAV-Synchronisation.
Ein plattformübergreifendes Framework zur Videostrukturierung (Videoanalyse) basierend auf CV-Modellen und mLLM.
AudioMuse-AI nutzt Klanganalyse, um vergessene Songs wiederzuentdecken, verborgene Verbindungen in Ihrer Musikbibliothek aufzudecken und intelligente Playlists für Navidrome, Jellyfin, LMS, Lyrion, Emby und Plex zu generieren: keine Metadaten oder externen Dienste erforderlich.
Infinity ist eine High-Throughput-, Low-Latency-Serving-Engine für Text-Embeddings, Reranking-Modelle, Clip, Clap und Colpali
Ein sicherer persistenter persönlicher Agent-Server in Rust. Eine Binärdatei, sandboxed Ausführung, Multi-Provider-LLMs, Sprachfunktion, Speicher, Telegram, WhatsApp, Discord, Teams und MCP-Tools. Sicher durch Design, läuft auf Ihrer Hardware.
In-Browser-Postgres-Sandbox mit KI-Unterstützung (früher postgres.new)
🦞 OpenClaw & Hermes Agent Multi-Engine AI-Verwaltungs-Panel — Integrierter AI-Assistent (Tool-Aufruf + Bilderkennung + Multimodal), One-Click-Installation | Tauri v2 Cross-Platform-Desktop-App | 11 Sprachen
Modellagnostische Plattform für Agentenfähigkeiten mit einer harness-freien kanonischen Ebene, verifizierten Adaptern und dem ccpi-Paketmanager. Entdecken Sie sie auf tonsofskills.com.
InternLM-XComposer2.5-OmniLive: Ein umfassendes multimodales System für langfristige Streaming-Video- und Audiointeraktionen
Wunderschöner Git-Diff-Viewer, Commits mit KI generieren, Zusammenfassung der Änderungen erhalten, alles über die CLI
Open-Source-Personal-Agent mit eigenem Computer. Er verfolgt Rechnungen nach, bereitet deine Anrufe vor und kündigt Testabos auf echten Websites – und fragt nach, bevor er handelt. Läuft mit dem Modell deiner Wahl auf deinem Rechner. Von n8n.
Formale Verifikation für KI: ein auf Lean 4 + Dafny basierender Beweisprüfer, der gefälschte KI-Beweise (Reward Hacking) erkennt, sowie verifizierte rekursive Selbstverbesserung (RSI) für Programmieragenten. KI für Mathematik, Physik und Softwareentwicklung.
Infrastruktur für die nächste Generation von Sprachagenten, entwickelt für ein universelles Gedächtnis. Sie ist in eine linke und eine rechte Gehirnhälfte unterteilt, die jeweils Informationen und Emotionen speichern, während eine vollständig gestreamte Architektur Latenz auf grundlegender Ebene beseitigt.
[Aktuell] Large Language Model Agent: Eine Übersicht über Methodik, Anwendungen und Herausforderungen
Gentle Shell ist eine Pi-native Arbeitsumgebung für KI-gestützte Entwicklung. Sie vereint parallel arbeitende Programmieragenten, Live-Aufgaben, Git-Diffs, persistentes Gedächtnis und Berechtigungskontrollen in einer einzigen Terminaloberfläche. Unterstützt von Gentle AI und Organic Driven Development (ODD).
Symbolbasierter Codeabruf für KI-Agenten: Rufe die benötigte Funktion ab, nicht die ganze Datei. Läuft lokal. Bei unserem Benchmark mit 15 Abrufen werden pro Abruf durchschnittlich 96,2 % weniger Tokens benötigt als mit grep-and-read. Funktioniert mit Claude Code, Cursor, Codex und jedem MCP-Client. Für nicht kommerzielle Nutzung kostenlos; für kommerzielle Nutzung ist eine einmalige Lizenz erforderlich.
Offizielle Implementierung von "Graph of Thoughts: Solving Elaborate Problems with Large Language Models"
Verwenden Sie LLMs und LLM Vision (OCR), um paperless-ngx zu verarbeiten - Dokumentendigitalisierung mit KI