犀牛鸟 2026 研究笔记 estelledc.github.io

Edge AI 生产全景:两赛道 + 流水线总图

移动推理赛道见 赛道首页 目标检测赛道见 赛道首页 部署流水线见 端侧部署流水线 跨赛道见 YOLO 到 端侧

调研元信息

日期 2026-06-22
环境 macOS / Apple Silicon
实测状态 综合文档,无新实测
流水线段 全景(Train + Export + Deploy 综合)

一句话定位

把 E 线全部研究串成一张图:两个赛道(移动推理 + 目标检测)如何通过部署流水线连接,犀牛鸟参赛者如何定位自己的贡献点。


全景总图

graph TB
    subgraph OD[目标检测赛道]
        OD1[YOLO-Master<br/>MoE 创新]
        OD2[Ultralytics<br/>工程标杆]
        OD3[mmdetection<br/>算法动物园]
        OD4[YOLOv10<br/>去NMS]
        OD5[RT-DETR<br/>Transformer]
    end
    
    subgraph Pipeline[部署流水线]
        P1[导出: ONNX/PNNX/TorchScript]
        P2[转换: onnx2ncnn/MNNConvert]
        P3[量化: INT8/INT4/混合精度]
    end
    
    subgraph MI[移动推理赛道]
        MI1[ncnn<br/>极简+Vulkan]
        MI2[MNN<br/>全栈+LLM]
        MI3[ORT Mobile<br/>标准API]
        MI4[TNN/PaddleLite/MACE]
    end
    
    OD1 -->|蒸馏后| P1
    OD2 -->|一键export| P1
    OD3 -->|mmdeploy| P1
    OD4 --> P1
    OD5 -->|Attention限制| P1
    
    P1 --> P2
    P2 --> P3
    
    P3 --> MI1
    P3 --> MI2
    P3 --> MI3
    P3 --> MI4

犀牛鸟:ncnn vs YOLO-Master 双选 vs 单选

选择分析

策略 优点 风险 适合谁
只选 ncnn 深入 C++ 推理引擎,贡献路径清晰 门槛高、nihui 单人 review C++ 功底好、耐心等 review
只选 YOLO-Master Python 友好、GFI 多、agent/ 切入快 学术 repo 社区小、MoE 核心需 GPU Python 为主、对 CV 感兴趣
双选(推荐) 互补:MoE 训练 + 端侧部署,展示全栈 精力分散 有时间规划、想展示广度

双选路径建议

gantt
    title 犀牛鸟双选时间规划(8周)
    dateFormat  YYYY-MM-DD
    section YOLO-Master
    环境+GFI PR(agent/docs)     :ym1, 2026-07-01, 7d
    MoE诊断工具改进             :ym2, after ym1, 7d
    pruning.py蒸馏验证          :ym3, after ym2, 7d
    section ncnn
    编译环境+文档阅读           :nc1, 2026-07-01, 7d
    Issue复现+FAQ PR           :nc2, after nc1, 7d
    PNNX算子或Python PR        :nc3, after nc2, 14d
    section 跨赛道
    蒸馏模型ncnn部署教程        :ct1, after ym3, 7d

推荐阅读顺序

已有 11 篇精读

序号 文件 赛道 阅读优先级
1 deep-dive-ncnn.md 推理 必读
2 deep-dive-mnn.md 推理 必读(正在学)
3 deep-dive-yolo-master.md 检测 必读
4 deep-dive-ultralytics.md 检测 推荐
5 mobile-inference-landscape.md 推理 推荐
6 object-detection-landscape.md 检测 推荐
7 challenges.md (推理) 推理 按需
8 challenges.md (检测) 检测 按需
9 deep-dive-rt-detr.md 检测 按需
10 deep-dive-yolov10.md 检测 按需
11 deep-dive-mmdetection.md 检测 按需

E 线新增文档

序号 文件 阅读时机
12 deep-dive-ncnn-contribution.md 决定参赛 ncnn 时
13 deep-dive-yolo-master-contribution.md 决定参赛 YOLO-Master 时
14 mobile-deployment-pipeline.md 理解端到端部署时
15 cross-track-yolo-to-mobile.md 思考跨赛道贡献时
16 mnn-vs-ncnn-bridge.md MNN 学完想看 ncnn 时
17 object-detection-deployment.md 比较部署格式时
18 edge-ai-production-landscape.md(本文) 全局规划时

建议阅读路线

对于犀牛鸟备赛者,建议按以下顺序:

  1. 全景:本文(edge-ai-production-landscape)建立整体认知
  2. 深入推理:deep-dive-mnn(正在学)然后 mnn-vs-ncnn-bridge 然后 deep-dive-ncnn
  3. 深入检测:deep-dive-yolo-master 然后 deep-dive-ultralytics
  4. 贡献指南:根据选择读 ncnn-contribution 或 yolo-master-contribution
  5. 跨赛道:mobile-deployment-pipeline 然后 cross-track-yolo-to-mobile
  6. 按需补充:challenges + landscape + 其他精读

证据等级

标签 来源
[已有] 全部 11 篇精读 + E 线 6 篇新文档
[源码] ncnn, YOLO-Master, MNN 源码
[文档] 各项目官方文档
[Issue] ncnn + YOLO-Master open issues