#pagedattention Репозитории
Откройте для себя 3 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #pagedattention, с общим числом 2,415 звёзд (в среднем 805 на проект). Лидером этой темы является jmaczan/tiny-vllm, набравший 1,207 звёзд.
Всего репозиториев: 3
Создайте свой собственный высокопроизводительный движок вывода LLM на C++ и CUDA - уменьшенная версия vLLM
WeDLM: Самая быстрая диффузионная языковая модель со стандартным причинно-следственным вниманием и нативной совместимостью с KV-кэшем, обеспечивающая реальное ускорение по сравнению с базовыми моделями, оптимизированными с помощью vLLM.
Часто задаваемые вопросы
Какой репозиторий по теме #pagedattention наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #pagedattention на GitHub — jmaczan/tiny-vllm, набравший 1,207 звёзд. Создайте свой собственный высокопроизводительный движок вывода LLM на C++ и CUDA - уменьшенная версия vLLM
Какие языки программирования чаще всего используются в репозиториях по теме #pagedattention?
Среди наиболее высоко оценённых проектов по теме #pagedattention на GitHub чаще всего используются языки программирования C++, Python.
Как рассчитывается рейтинг репозиториев по теме #pagedattention?
Мы отслеживаем 3 активных репозиториев с открытым исходным кодом, отмеченных тегом #pagedattention (500 и более звёзд), с общим числом 2,415 звёзд и в среднем 805 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.