Edge AI 生产全景:两赛道 + 流水线总图
移动推理赛道见 赛道首页
目标检测赛道见 赛道首页
部署流水线见 端侧部署流水线
跨赛道见 YOLO 到 端侧
调研元信息
| 项 |
值 |
| 日期 |
2026-06-22 |
| 环境 |
macOS / Apple Silicon |
| 实测状态 |
综合文档,无新实测 |
| 流水线段 |
全景(Train + Export + Deploy 综合) |
一句话定位
把 E 线全部研究串成一张图:两个赛道(移动推理 + 目标检测)如何通过部署流水线连接,犀牛鸟参赛者如何定位自己的贡献点。
全景总图
graph TB
subgraph OD[目标检测赛道]
OD1[YOLO-Master<br/>MoE 创新]
OD2[Ultralytics<br/>工程标杆]
OD3[mmdetection<br/>算法动物园]
OD4[YOLOv10<br/>去NMS]
OD5[RT-DETR<br/>Transformer]
end
subgraph Pipeline[部署流水线]
P1[导出: ONNX/PNNX/TorchScript]
P2[转换: onnx2ncnn/MNNConvert]
P3[量化: INT8/INT4/混合精度]
end
subgraph MI[移动推理赛道]
MI1[ncnn<br/>极简+Vulkan]
MI2[MNN<br/>全栈+LLM]
MI3[ORT Mobile<br/>标准API]
MI4[TNN/PaddleLite/MACE]
end
OD1 -->|蒸馏后| P1
OD2 -->|一键export| P1
OD3 -->|mmdeploy| P1
OD4 --> P1
OD5 -->|Attention限制| P1
P1 --> P2
P2 --> P3
P3 --> MI1
P3 --> MI2
P3 --> MI3
P3 --> MI4
犀牛鸟:ncnn vs YOLO-Master 双选 vs 单选
选择分析
| 策略 |
优点 |
风险 |
适合谁 |
| 只选 ncnn |
深入 C++ 推理引擎,贡献路径清晰 |
门槛高、nihui 单人 review |
C++ 功底好、耐心等 review |
| 只选 YOLO-Master |
Python 友好、GFI 多、agent/ 切入快 |
学术 repo 社区小、MoE 核心需 GPU |
Python 为主、对 CV 感兴趣 |
| 双选(推荐) |
互补:MoE 训练 + 端侧部署,展示全栈 |
精力分散 |
有时间规划、想展示广度 |
双选路径建议
gantt
title 犀牛鸟双选时间规划(8周)
dateFormat YYYY-MM-DD
section YOLO-Master
环境+GFI PR(agent/docs) :ym1, 2026-07-01, 7d
MoE诊断工具改进 :ym2, after ym1, 7d
pruning.py蒸馏验证 :ym3, after ym2, 7d
section ncnn
编译环境+文档阅读 :nc1, 2026-07-01, 7d
Issue复现+FAQ PR :nc2, after nc1, 7d
PNNX算子或Python PR :nc3, after nc2, 14d
section 跨赛道
蒸馏模型ncnn部署教程 :ct1, after ym3, 7d
推荐阅读顺序
已有 11 篇精读
| 序号 |
文件 |
赛道 |
阅读优先级 |
| 1 |
deep-dive-ncnn.md |
推理 |
必读 |
| 2 |
deep-dive-mnn.md |
推理 |
必读(正在学) |
| 3 |
deep-dive-yolo-master.md |
检测 |
必读 |
| 4 |
deep-dive-ultralytics.md |
检测 |
推荐 |
| 5 |
mobile-inference-landscape.md |
推理 |
推荐 |
| 6 |
object-detection-landscape.md |
检测 |
推荐 |
| 7 |
challenges.md (推理) |
推理 |
按需 |
| 8 |
challenges.md (检测) |
检测 |
按需 |
| 9 |
deep-dive-rt-detr.md |
检测 |
按需 |
| 10 |
deep-dive-yolov10.md |
检测 |
按需 |
| 11 |
deep-dive-mmdetection.md |
检测 |
按需 |
E 线新增文档
| 序号 |
文件 |
阅读时机 |
| 12 |
deep-dive-ncnn-contribution.md |
决定参赛 ncnn 时 |
| 13 |
deep-dive-yolo-master-contribution.md |
决定参赛 YOLO-Master 时 |
| 14 |
mobile-deployment-pipeline.md |
理解端到端部署时 |
| 15 |
cross-track-yolo-to-mobile.md |
思考跨赛道贡献时 |
| 16 |
mnn-vs-ncnn-bridge.md |
MNN 学完想看 ncnn 时 |
| 17 |
object-detection-deployment.md |
比较部署格式时 |
| 18 |
edge-ai-production-landscape.md(本文) |
全局规划时 |
建议阅读路线
对于犀牛鸟备赛者,建议按以下顺序:
- 全景:本文(edge-ai-production-landscape)建立整体认知
- 深入推理:deep-dive-mnn(正在学)然后 mnn-vs-ncnn-bridge 然后 deep-dive-ncnn
- 深入检测:deep-dive-yolo-master 然后 deep-dive-ultralytics
- 贡献指南:根据选择读 ncnn-contribution 或 yolo-master-contribution
- 跨赛道:mobile-deployment-pipeline 然后 cross-track-yolo-to-mobile
- 按需补充:challenges + landscape + 其他精读
证据等级
| 标签 |
来源 |
| [已有] |
全部 11 篇精读 + E 线 6 篇新文档 |
| [源码] |
ncnn, YOLO-Master, MNN 源码 |
| [文档] |
各项目官方文档 |
| [Issue] |
ncnn + YOLO-Master open issues |