#model-quantization 仓库
探索 59 个标记为 #model-quantization 的活跃开源 GitHub 仓库,它们累计获得 217,873 个 Star(平均每个项目 3,692 个)。该主题的领先项目是 zai-org/ChatGLM-6B,拥有 41,224 个 Star。
共 59 个仓库
一个统一的 SOTA 模型优化技术库,包含量化、蒸馏、剪枝、神经架构搜索、推测解码等技术。它为 TensorRT-LLM、TensorRT、vLLM 等下游部署框架压缩深度学习模型,以优化推理速度。
这是一份入门AI/LLM大模型的逐步指南,包含教程和演示代码,带你从API走进本地大模型部署和微调,代码文件会提供Kaggle或Colab在线版本,即便没有显卡也可以进行学习。项目中还开设了一个小型的代码游乐场🎡,你可以尝试在里面实验一些有意思的AI脚本。同时,包含李宏毅 (HUNG-YI LEE)2024生成式人工智能导论课程的完整中文镜像作业。
精选的模型量化论文、基准测试、综述和工具集合,涵盖低比特网络、大语言模型、多模态与生成模型、矢量量化和格量化,以及高效部署。
用于极端压缩大型语言模型的官方 Pytorch 存储库,通过加法量化 https://arxiv.org/pdf/2401.06118.pdf 和 PV-Tuning:超越直通估计的 extremo LLM 压缩 https://arxiv.org/abs/2405.14852
常见问题解答
GitHub 上最受欢迎的 #model-quantization 仓库是什么?
GitHub 上排名第一的开源 #model-quantization 项目是 zai-org/ChatGLM-6B,拥有 41,224 个 Star。ChatGLM-6B: 开源双语对话语言模型 | 开源双语对话语言模型
#model-quantization 仓库中最常使用的编程语言有哪些?
在 GitHub 上排名靠前的 #model-quantization 项目中,最常见的编程语言是 Python, Jupyter Notebook, C, Makefile。
#model-quantization 仓库的排名是如何计算的?
我们跟踪了 59 个标记为 #model-quantization 且拥有 500+ 个 Star 的活跃开源仓库,共计获得 217,873 个 Star,平均每个仓库拥有 3,692 个 Star。排名每日根据 GitHub API 更新。