#semantic-cache Repositories
Entdecke 2 aktive Open-Source-GitHub-Repositories, die mit #semantic-cache getaggt sind und insgesamt 10,828 Sterne gesammelt haben (durchschnittlich 5,414 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist maximhq/bifrost mit 9,945 Sternen.
Insgesamt 2 Repositories
Open-Source-KI-Gateway mit hoher Leistung, die als LLM-, MCP- und Agent-Gateway dient. Eine einzige OpenAI-kompatible API für mehr als 10.000 Modelle – mit Failover, Lastverteilung, semantischem Caching, virtuellen Schlüsseln, Budgets und MCP Code Mode. Funktioniert mit jedem SDK und Agenten und verursacht bei 5k RPS weniger als 200 µs zusätzlichen Overhead.
Ein semantisches Caching-System für LLMs, das darauf abzielt, die Benutzererfahrung durch Reduzierung der Antwortzeit über zwischengespeicherte Abfrage-Ergebnis-Paare zu verbessern.
Häufig gestellte Fragen
Welches ist das beliebteste #semantic-cache-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#semantic-cache-Projekt auf GitHub ist maximhq/bifrost mit 9,945 Sternen. Open-Source-KI-Gateway mit hoher Leistung, die als LLM-, MCP- und Agent-Gateway dient. Eine einzige OpenAI-kompatible API für mehr als 10.000 Modelle – mit Failover, Lastverteilung, semantischem Caching, virtuellen Schlüsseln, Budgets und MCP Code Mode. Funktioniert mit jedem SDK und Agenten und verursacht bei 5k RPS weniger als 200 µs zusätzlichen Overhead.
Welche Programmiersprachen werden in #semantic-cache-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #semantic-cache-Projekten auf GitHub sind Go, Python die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #semantic-cache-Repositories berechnet?
Wir verfolgen 2 aktive Open-Source-Repositories, die mit #semantic-cache getaggt sind (500+ Sterne), mit insgesamt 10,828 Sternen und durchschnittlich 5,414 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.