深入浅出理解EdgeBoard中NHWC数据格式

摘要:在深度学习中,为了提升数据传输带宽和计算性能,经常会使用NCHW、NHWC和CHWN数据格式,它们代表Image或Feature Map等的逻辑数据格式(可以简单理解为数据在内存中的存放顺序)。本文以百度的AI端上推理设备EdgeBoard为原型,介绍EdgeBoard选择NHWC数据格式的技术考量。EdgeBoard简介EdgeBoard是百度基于FPGA芯片研发的嵌入式AI解决方案,高性能的加速引擎可提供3.6Tops的强大算力,完整的嵌入式参考设计使硬件集成轻松便捷。目前EdgeBoard提供了FPGA软核和计算卡模块两种形态供硬件集成,面向项目部署也提供了抓拍机和计算盒两种基础硬件产品。EdgeBoard深度兼容百度大脑模型资源与工具平台(EasyDL/AI Studio),极大降低了开发验证、产品集成、科研教学、项目部署门槛,适用于安防监控、工业质检、医疗诊断、农作物生长监控、无人驾驶、无人零售等场景数据格式的逻辑表示与物理表示深度学习中经常会使用NCHW、NHWC和CHWN数据格式来表示数据,其中N、H、W、C定义如下:N:一个batch内图片的数量,一次处理的图片数量H:垂直高度方向的像素个数,图片的高W:水平宽度方向的像素个数,图片的宽C:通道数。例如灰度图像为1, 彩色RGB图像为3下图表示N=2,C=16,H=5,W=4的数据排列,其中左图是逻辑表示,右图是物理表示。参考链接: Intel MKL githubhttps://intel.github.io/mkl-dnn/understanding_memory_formats.html 零基础入门深度学习https://www.zybuluo.com/hanbingtao/note/485480福利据可靠消息:EdgeBoard正在打折中,历史最低价,直降1000元,有兴趣可以看看:https://aim.baidu.com/product/5b8d8817-9141-4cfc-ae58-640e2815dfd4