#onnx 仓库
共 130 个仓库
micronet,一个模型压缩和部署库。压缩:1、量化:量化感知训练(QAT),高位(>2b)(DoReFa/Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference)、低位(≤2b)/三元和二元(TWN/BNN/XNOR-Net);后训练量化(PTQ),8位(tensorrt);2、剪枝:正常、规则和组卷积通道剪枝;3、组卷积结构;4、批量归一化融合用于量化。部署:tensorrt, fp32/fp16/in
适用于ONNX文件的轻量级推理库,用C++编写。它可以在RPI Zero 2(或298MB内存)上运行Stable Diffusion XL 1.0,也可以在台式机和服务器上运行Mistral 7B。支持ARM、x86、WASM、RISC-V。由XNNPACK加速。提供Python、C#和JS(WASM)绑定。
预训练 EfficientNet、EfficientNet-Lite、MixNet、MobileNetV3 / V2、MNASNet A1 和 B1、FBNet、Single-Path NAS
Qualcomm® AI Hub Models 是我们收集的一系列最先进的机器学习模型,这些模型经过性能(延迟、内存等)优化,可随时部署在 Qualcomm® 设备上。
一个将 ONNX 文件转换为 LiteRT/TFLite/TensorFlow、PyTorch 原生代码 (nn.Module)、TorchScript (.pt)、state_dict (.pt)、Exported Program (.pt2) 和 Dynamo ONNX 的工具。它还支持从 LiteRT 直接转换为 PyTorch。
CodeProject.AI Server 是一项独立的服务,软件开发人员可以将其包含在应用程序中并随应用程序分发,以增强他们应用程序的 AI 功能。
开放式多模态决策模型,参数规模从 0.8B 到 27B,支持文本、图像和视频。对自选候选项进行概率判断,并用边界框定位,而非生成文本。提供免费 API、ONNX、GGUF、vLLM 和 SGLang;附带微调代码。