#llm-optimization 仓库
探索 18 个标记为 #llm-optimization 的活跃开源 GitHub 仓库,它们累计获得 56,346 个 Star(平均每个项目 3,130 个)。该主题的领先项目是 OpenBMB/MiniCPM,拥有 11,898 个 Star。
共 18 个仓库
一个统一的 SOTA 模型优化技术库,包含量化、蒸馏、剪枝、神经架构搜索、推测解码等技术。它为 TensorRT-LLM、TensorRT、vLLM 等下游部署框架压缩深度学习模型,以优化推理速度。
斯坦福大学 CME 295 Transformer 与大型语言模型 VIP 速查表
来自100多家公司的500多个真实世界的机器学习和LLM系统设计案例研究合集。了解顶级科技公司如何在生产中实施GenAI。
🐳 "Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention" 的高效 Triton 实现
ICML 2023 论文“SparseGPT: Massive Language Models Can Be Accurately Pruned in One-Shot”的代码。
常见问题解答
GitHub 上最受欢迎的 #llm-optimization 仓库是什么?
GitHub 上排名第一的开源 #llm-optimization 项目是 OpenBMB/MiniCPM,拥有 11,898 个 Star。MiniCPM5:端侧最先进的大语言模型,小而强大。
#llm-optimization 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #llm-optimization 项目中,最常见的编程语言是 Python, Jupyter Notebook, TypeScript, Swift。
#llm-optimization 仓库的排名是如何计算的?
我们跟踪了 18 个标记为 #llm-optimization 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 56,346 个 Star,平均每个仓库拥有 3,130 个 Star。排名每日根据 GitHub API 更新。