Git Stars Git Stars

#edge-ai 仓库

84
仓库总数
340,999
总星标数
4,059
平均每个仓库星标数
51
Helldez/BigMoeOnEdge

运行比内存容量更大的 MoE 模型。在手机、笔记本电脑或边缘设备上运行前沿级 MoE。无损,基于原版 llama.cpp。自适应流式优化器。支持任何硬件、任何操作系统、任何模型、任何量化方式,并通过本地兼容 OpenAI 的服务器提供服务。

Helldez
⭐ 1,066 C++ 👤 Helldez User 🕐 已更新 2026-11-21 📅 创建时间 2026-07-10
52
LibreYOLO/libreyolo

LibreYOLO 是一个采用 MIT 许可证的开源计算机视觉库

LibreYOLO
⭐ 1,052 Python 👤 LibreYOLO Organization 🕐 已更新 2026-11-19 📅 创建时间 2025-11-27
53
wangeai/K3Flight

在 CPU 上本地运行 Kimi K3,运行时内存占用约为 55GB。这是一个由 cPilot Runtime 驱动的单文件 Linux 推理服务器。

wangeai
⭐ 1,019 HTML 👤 wangeai Organization 🕐 已更新 2026-07-31 📅 创建时间 2026-07-30
55
luxonis/oak-examples

我们用 OAK 摄像头完成的示例项目

luxonis
⭐ 982 Python 👤 luxonis Organization 🕐 已更新 2026-11-20 📅 创建时间 2020-05-27
56
feder-cr/jev

jevos:Jev 和 Microsoft-Decision-1 的开源替代方案。在笔记本电脑的 CPU 上进行是/否决策、选择和评分,并提供概率。

feder-cr
⭐ 970 C++ 👤 feder-cr User 🕐 已更新 2026-10-18 📅 创建时间 2024-08-15
57
OpenSparX/MasterAgent

构建完全在设备上运行的 AI 智能体。在高通 NPU 上实现低于 100 毫秒的延迟。零云端依赖。

OpenSparX
⭐ 966 C++ 👤 OpenSparX Organization 🕐 已更新 2026-09-28 📅 创建时间 2026-08-10
58
microsoft/T-MAC

使用查找表的CPU/NPU上的低比特LLM推理

microsoft
⭐ 964 C++ 👤 microsoft Organization 🕐 已更新 2025-06-05 📅 创建时间 2024-02-02
59
facebookresearch/mobile-vision

移动视觉模型和代码

facebookresearch
⭐ 923 Python 👤 facebookresearch Organization 🕐 已更新 2026-10-21 📅 创建时间 2019-01-09
60
dog-qiuqiu/Yolo-FastestV2

:zap: 基于Yolo低功耗、超轻量级的通用目标检测算法,参数仅250k,智能手机移动终端速度可达~300fps+。

dog-qiuqiu
⭐ 920 Python 👤 dog-qiuqiu User 🕐 已更新 2024-01-17 📅 创建时间 2021-07-16
61
amd/RyzenAI-SW

AMD Ryzen™ AI 软件包括用于在支持 AMD Ryzen™ AI 的 PC 上优化和部署 AI 推理的工具和运行时库。

amd
⭐ 902 Python 👤 amd Organization 🕐 已更新 2026-11-18 📅 创建时间 2023-05-12
62
sourcenetwork/defradb

DefraDB 是一个 Peer-to-Peer Edge-First 数据库。它是 Source 生态系统的核心数据存储系统。

sourcenetwork
⭐ 898 Go 👤 sourcenetwork Organization 🕐 已更新 2026-11-18 📅 创建时间 2019-06-19
63
sipeed/MaixPy

在边缘设备上使用 Python 轻松创建 AI 项目

sipeed
⭐ 877 Python 👤 sipeed Organization 🕐 已更新 2026-11-20 📅 创建时间 2024-01-20
64
ModelTC/MQBench

模型量化基准测试

ModelTC
⭐ 869 Python 👤 ModelTC Organization 🕐 已更新 2025-04-20 📅 创建时间 2021-08-19
65
Pangu-Immortal/MagicWX

基于Jetpack Compose和ONNX Runtime的Android 17本地LLM原型,用于离线AI推理实验。

Pangu-Immortal
⭐ 864 Kotlin 👤 Pangu-Immortal User 🕐 已更新 2026-11-09 📅 创建时间 2019-05-08
66
Ampixa/sanoTTS

sanoTTS(सानो 在尼泊尔语中意为“小”):一款拥有 29.4 万至 227 万参数的神经网络文本转语音系统,可在售价 3 美元的芯片上、浏览器中或 Python 中运行,并支持低延迟流式传输。

Ampixa
⭐ 851 C 👤 Ampixa Organization 🕐 已更新 2026-11-20 📅 创建时间 2026-07-11
67
nkasmanoff/pi-card

Raspberry Pi 语音助手

nkasmanoff
⭐ 808 Python 👤 nkasmanoff User 🕐 已更新 2024-12-22 📅 创建时间 2024-05-04
68
PaddlePaddle/Paddle-Lite-Demo

库, 演示, 模型, 数据

PaddlePaddle
⭐ 799 C++ 👤 PaddlePaddle Organization 🕐 已更新 2025-09-17 📅 创建时间 2019-08-21
69
fluxions-ai/vui

Vui Nano——一个在真实对话上训练的小型上下文感知文本转语音模型。219M 活跃参数(总计 305M),采用 Apache 2.0 许可证,支持声音克隆和流式处理,可在 CPU 上运行(无依赖的 C 构建版本)。随附完整的实时语音助手:支持 WebRTC、ASR、本地 LLM,并兼容 OpenAI Realtime API。

fluxions-ai
⭐ 782 Python 👤 fluxions-ai Organization 🕐 已更新 2026-10-10 📅 创建时间 2025-06-05
70
wenet-e2e/wekws

生产就绪的端到端关键词识别工具包

wenet-e2e
⭐ 776 Python 👤 wenet-e2e Organization 🕐 已更新 2026-07-23 📅 创建时间 2021-11-06
71
hailo-ai/hailo_model_zoo

Hailo Model Zoo 包含预训练模型以及完整的构建和评估环境

hailo-ai
⭐ 725 Python 👤 hailo-ai Organization 🕐 已更新 2026-11-15 📅 创建时间 2021-07-13
72
pnnx/pnnx

PyTorch 神经网络交换

pnnx
⭐ 715 Python 👤 pnnx Organization 🕐 已更新 2026-11-10 📅 创建时间 2021-02-09
73
SimonZeng7108/efficientsam3

EfficientSAM3 通过渐进式知识蒸馏将 SAM3 压缩成轻量级、边缘友好的模型,用于快速的可提示概念分割和跟踪。

SimonZeng7108
⭐ 713 Jupyter Notebook 👤 SimonZeng7108 User 🕐 已更新 2026-08-11 📅 创建时间 2025-10-16
74
Picovoice/speech-to-text-benchmark

语音到文本基准框架

Picovoice
⭐ 700 Python 👤 Picovoice Organization 🕐 已更新 2026-11-16 📅 创建时间 2018-08-04
75
leafqycc/rknn-cpp-Multithreading

一个使用c++在rk3588/3588s上运行的yolov5s简单demo(142帧/s)。 / 一个使用c++在rk3588/3588s上运行的yolov5s简单demo(142帧/s)。

leafqycc
⭐ 687 C 👤 leafqycc User 🕐 已更新 2024-04-09 📅 创建时间 2023-05-05
76
DenisovAV/flutter_edge_ai

Flutter 端侧 AI——Gemma 及其他大型语言模型、多模态、函数调用、嵌入、RAG 和语音,支持 Android、iOS、Web、macOS、Windows 和 Linux。

DenisovAV
⭐ 669 Dart 👤 DenisovAV User 🕐 已更新 2026-11-20 📅 创建时间 2024-04-02
77
BasedHardware/Whomane

带摄像头的开源可穿戴设备

BasedHardware
⭐ 613 TypeScript 👤 BasedHardware Organization 🕐 已更新 2024-05-12 📅 创建时间 2024-03-05
78
Azure/AI-in-a-Box

AI-in-a-Box 利用 Microsoft 全球的专业知识,为技术社区开发和提供 AI 和 ML 解决方案。我们的目的是提供精选的解决方案加速器合集,帮助工程师快速、轻松地建立他们的 AI/ML 环境和解决方案。

Azure
⭐ 587 Jupyter Notebook 👤 Azure Organization 🕐 已更新 2024-12-12 📅 创建时间 2023-08-31
79
kubeedge/sedna

AI接管了KubeEdge

kubeedge
⭐ 537 Go 👤 kubeedge Organization 🕐 已更新 2026-11-19 📅 创建时间 2021-01-28
80
qijianpeng/awesome-edge-computing

一份精心策划的卓越边缘计算资源列表,包括框架、模拟器、工具等。

qijianpeng
⭐ 531 👤 qijianpeng User 🕐 已更新 2026-11-13 📅 创建时间 2019-11-07
81
xybrid-ai/xybrid

跨平台端侧 AI 工具包

xybrid-ai
⭐ 527 Rust 👤 xybrid-ai Organization 🕐 已更新 2026-11-21 📅 创建时间 2025-12-13
82
NimbleEdge/deliteAI

设备端智能体AI平台

NimbleEdge
⭐ 519 C++ 👤 NimbleEdge Organization 🕐 已更新 2026-03-29 📅 创建时间 2025-05-05
83
mantisfury/ArkhamMirror

面向调查性新闻的本地优先型 AI 文档智能平台

mantisfury
⭐ 507 Python 👤 mantisfury User 🕐 已更新 2026-01-25 📅 创建时间 2025-11-25
84
mit-han-lab/tiny-training

内存低于256KB的设备端训练 [NeurIPS'22]

mit-han-lab
⭐ 505 Python 👤 mit-han-lab Organization 🕐 已更新 2024-03-29 📅 创建时间 2022-11-15