#llm-optimization Репозитории
Откройте для себя 18 активных репозиториев с открытым исходным кодом на GitHub, отмеченных тегом #llm-optimization, с общим числом 56,346 звёзд (в среднем 3,130 на проект). Лидером этой темы является OpenBMB/MiniCPM, набравший 11,898 звёзд.
Всего репозиториев: 18
Единая библиотека методов оптимизации моделей SOTA, таких как квантование, дистилляция, прунинг, поиск нейронных архитектур, спекулятивное декодирование и т. д. Она сжимает модели глубокого обучения для последующих фреймворков развертывания, таких как TensorRT-LLM, TensorRT, vLLM и других, для оптимизации скорости вывода.
VIP-шпаргалка по Трансформерам и большим языковым моделям CME 295 Стэнфордского университета
Коллекция из более чем 500 реальных примеров проектирования систем машинного обучения (ML) и больших языковых моделей (LLM) от более чем 100 компаний. Узнайте, как ведущие технологические компании внедряют GenAI в производственных условиях.
🐳 Эффективные реализации Triton для "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention"
Код для статьи ICML 2023 «SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot».
Часто задаваемые вопросы
Какой репозиторий по теме #llm-optimization наиболее популярен на GitHub?
Самый высоко оценённый проект с открытым исходным кодом по теме #llm-optimization на GitHub — OpenBMB/MiniCPM, набравший 11,898 звёзд. MiniCPM5: передовые LLM на устройстве — маленькие, но мощные.
Какие языки программирования чаще всего используются в репозиториях по теме #llm-optimization?
Среди наиболее высоко оценённых проектов по теме #llm-optimization на GitHub чаще всего используются языки программирования Python, Jupyter Notebook, TypeScript, Swift.
Как рассчитывается рейтинг репозиториев по теме #llm-optimization?
Мы отслеживаем 18 активных репозиториев с открытым исходным кодом, отмеченных тегом #llm-optimization (500 и более звёзд), с общим числом 56,346 звёзд и в среднем 3,130 звёзд на репозиторий. Рейтинги обновляются ежедневно на основе данных GitHub API.