#linear-attention Repositories
Entdecke 7 aktive Open-Source-GitHub-Repositories, die mit #linear-attention getaggt sind und insgesamt 31,942 Sterne gesammelt haben (durchschnittlich 4,563 Sterne pro Projekt). Spitzenreiter in diesem Themenbereich ist BlinkDL/RWKV-LM mit 14,786 Sternen.
Insgesamt 7 Repositories
RWKV (ausgesprochen RwaKuv) ist ein RNN mit großartiger LLM-Leistung, das auch direkt wie ein GPT-Transformer trainiert werden kann (parallelisierbar). Wir sind bei RWKV-7 "Goose". Es kombiniert also das Beste aus RNN und Transformer - großartige Leistung, lineare Zeit, konstanter Speicherplatz (kein kv-Cache), schnelles Training, unendliche ctx_len und kostenlose Satz-Einbettung.
Ein Kimi K3-Modell mit 2,78 Billionen Parametern, das Inferenz auf einer einzelnen CPU mit 8,24 GB RAM ausführt. Portables C99: kein BLAS, kein Framework, keine GPU.
SLA: Über die Sparsität in Diffusion-Transformern hinaus durch feinabstimmbare sparsame lineare Aufmerksamkeit
Häufig gestellte Fragen
Welches ist das beliebteste #linear-attention-Repository auf GitHub?
Das am höchsten eingestufte Open-Source-#linear-attention-Projekt auf GitHub ist BlinkDL/RWKV-LM mit 14,786 Sternen. RWKV (ausgesprochen RwaKuv) ist ein RNN mit großartiger LLM-Leistung, das auch direkt wie ein GPT-Transformer trainiert werden kann (parallelisierbar). Wir sind bei RWKV-7 "Goose". Es kombiniert also das Beste aus RNN und Transformer - großartige Leistung, lineare Zeit, konstanter Speicherplatz (kein kv-Cache), schnelles Training, unendliche ctx_len und kostenlose Satz-Einbettung.
Welche Programmiersprachen werden in #linear-attention-Repositories am häufigsten verwendet?
Unter den am höchsten eingestuften #linear-attention-Projekten auf GitHub sind Python, C die am häufigsten verwendeten Programmiersprachen.
Wie wird das Ranking der #linear-attention-Repositories berechnet?
Wir verfolgen 7 aktive Open-Source-Repositories, die mit #linear-attention getaggt sind (500+ Sterne), mit insgesamt 31,942 Sternen und durchschnittlich 4,563 Sternen pro Repository. Die Rankings werden täglich über die GitHub-API aktualisiert.