移动端推理引擎导读
本导读基于 ncnn / MNN / ONNX Runtime / TNN / Paddle-Lite / MACE 六大开源项目的源码研读，面向零基础读者，系统性讲解移动端 AI 推理的完整技术栈。全文约 42 万字符（含代码示例），30 章，六大部分。
目录结构
本导读共分六大部分、30 章：
| 部分 | 章节 | 字符数 | 核心问题 |
|---|---|---|---|
| Part 1: 导读总纲 | Ch01-Ch03 | ~2.3万 | 这本导读是什么？怎么读？ |
| Part 2: 基础概念 | Ch04-Ch10 | ~7.6万 | 移动端推理引擎到底在解决什么问题？ |
| Part 3: 六大框架精讲 | Ch11-Ch16 | ~9.9万 | 每个框架的核心设计哲学是什么？ |
| Part 4: 核心抽象深度对比 | Ch17-Ch22 | ~10.3万 | 六个框架在同一个问题上为什么给出不同答案？ |
| Part 5: 实战指南 | Ch23-Ch27 | ~8.3万 | 怎么把模型实际部署到手机上？ |
| Part 6: 前沿与进阶 | Ch28-Ch30 | ~4.1万 | 这个领域的未来方向是什么？ |
章节详细目录
Part 1: 导读总纲
Part 2: 移动端推理基础（从零开始）
- Ch04: 神经网络推理的本质——从训练到部署
- Ch05: 为什么手机和服务器不一样——移动端约束全解
- Ch06: ARM 架构与 SIMD 入门——NEON 指令为什么重要
- Ch07: GPU 计算入门——从渲染管线到通用计算
- Ch08: 内存管理入门——为什么”省内存”比”跑得快”更重要
- Ch09: 模型格式与转换——从 PyTorch 到手机的桥梁
- Ch10: 量化入门——用精度换速度的艺术
Part 3: 六大框架架构精讲
- Ch11: ncnn——零依赖的手工匠人
- Ch12: MNN——端侧瑞士军刀
- Ch13: ONNX Runtime——标准集装箱港口
- Ch14: TNN——ncnn 的架构翻新版
- Ch15: Paddle-Lite——万能充电器
- Ch16: MACE——深入骨髓的硬件适配
Part 4: 核心抽象深度对比
- Ch17: 数据容器——同一个问题的六种回答
- Ch18: 算子抽象——设计哲学的分水岭
- Ch19: 推理调度——从按需递归到图分区
- Ch20: 后端组织——如何管理多个硬件加速器
- Ch21: 图优化——编译器思维在推理引擎中的应用
- Ch22: 横向总结——六个引擎的设计取舍全景图
Part 5: 实战指南
- Ch23: 端到端部署流水线——从 PyTorch 到手机推理
- Ch24: ncnn 实战——编译、转换、推理全流程
- Ch25: MNN 实战——全栈能力体验
- Ch26: 犀牛鸟竞赛指南——ncnn 贡献路径
- Ch27: 跨赛道实战——YOLO 模型端侧部署
Part 6: 前沿挑战与进阶
阅读建议
- 竞赛路径（2 周）：Ch01→Ch04→Ch05→Ch11→Ch17-Ch20→Ch24→Ch26
- 深度学习路径（1 月）：顺序通读 Part 1-6
- MNN → ncnn 桥接（3 天）：Ch12→Ch11→Ch17→Ch18→MNN 与 ncnn 对照
配套材料
本导读基于以下已有研究笔记，可交叉参阅：
- 行业全景
- 赛道深度分析
- 端侧 LLM 横评
- 各框架精读（ncnn/MNN/ORT/TNN/Paddle-Lite/MACE）
- 技术挑战
- 端侧部署流水线
- 跨赛道 YOLO 部署
- ncnn 竞赛贡献指南
- MNN 与 ncnn 对照