创龙首页 >关于创龙 > 新闻资讯 > 技术文章

联系我们

Contact Us

公司总机:020-8998-6280

技术热线:020-3893-9734

技术邮箱:support@tronlong.com

销售邮箱:sales@tronlong.com

2.3T算力,真的强!1分钟学会NPU开发,基于NXP i.MX 8MP平台!

2024/12/16

科技飞速发展,人工智能与工业领域的融合日益深入。NXP旗下的i.MX 8M Plus作为一款高端工业处理器,NPU算力高达2.3TOPS,正引领着工业智能化的浪潮,为众多工业场景带来了前所未有的变革潜力。


图 1


 i.MX 8M Plus NPU特性

i.MX 8M Plus的NPU支持INT16/INT32/FP16/FP32等多种数据类型,兼容性卓越,与TensorFlow Lite/Arm NN/ONNX Runtime/DeepViewRT等框架无缝对接。这一特性,为开发者们打造了一个极为丰富的工具和库生态系统,更便利进行模型开发与训练工作,轻松应对各种复杂的大数据运算场景,无论是海量工业数据的分析处理,还是精准智能决策的模型构建,更加游刃有余。


 i.MX 8M Plus NPU开发流程

第一步:模型开发

首先,从TensorFlow预训练模型库中选择一个合适的模型,或根据具体任务需求创建自定义模型。然后,收集和准备训练数据集。

第二步:模型训练

可通过eIQ Toolkit工具调整参数(如Weight initialization、Input size、Learning rate等)优化模型性能,配置训练参数后,开始模型训练。

第三步:模型量化

可通过量化一个训练后的模型,减少其大小,并加快在NPU上的推理时间,实现最小的精度损失。

图 2 开发流程示意图


 i.MX 8M Plus 典型工业应用


图 3


 NPU开发案例演示

本文主要介绍基于i.MX 8M Plus的NPU开发案例,适用开发环境如下。

Windows开发环境:Windows 7 64bit、Windows 10 64bit

虚拟机:VMware15.5.5

开发环境:Ubuntu20.04.6 64bit

U-Boot:U-Boot-2022.04

Kernel:Linux-5.15.71-rt51

LinuxSDK:Real-Time Edge Software 2.5

硬件平台:创龙科技TLIMX8MP-EVM工业评估板(基于i.MX 8M Plus)


为了简化描述,本文仅摘录部分方案功能描述与测试结果,详细产品资料请扫描文末二维码下载。


案例说明

案例基于预训练的TensorFlow Lite模型实现对图片中目标对象的分类。TensorFlow Lite模型循环测试10次,统计出推理的平均处理耗时和帧率,获取模型输出的前五个标签及置信度打印至串口终端并通过HDMI显示屏绘制标签及置信度概率最大的对象结果。

程序处理流程图如下:



图 4

案例演示

通过网线将评估板千兆网口ETH0连接至路由器,将HDMI显示器与评估板HDMI2 OUT接口(CON22)连接。



图 5

在可执行文件所在目录,执行如下命令,对图片目标对象进行推理。

Target#./mobilenetv1_label_image -m mobilenet_v1_1.0_224_quant.tflite -y ./bmp_image -l labels.txt -c 10 --external_delegate_path=/usr/lib/libvx_delegate.so



图 6



图 7

程序滚动识别多张图片,以第1张图片识别结果为例,输出结果信息如下所示。



图 8

从输出信息可知,本张图片识别为桌面电脑、屏幕、监控器、笔记本电脑、桌子的概率分别为53.7255%、20%、7.45098%、4.31373%、2.7451%,程序循环运行10次模型平均耗时为2.6519ms,帧率为377fps。

案例程序对测试图片的目标对象进行识别后,通过HDMI显示屏绘制标签及置信度概率最大的对象结果如下所示。



图 9


若您希望深入了解更多i.MX 8M Plus相关的精彩案例演示,可以扫描下方二维码,选择对应产品线即可获取详细资料,快来一起试试吧!




更多i.MX 8M Plus工业核心板产品资料可长按二维码识别下载




亦可添加添加客服人员微信进行咨询


(即刻添加,马上咨询)



创龙官方微信公众号

Copyright © 2013~2024 广州创龙电子科技有限公司 All Rights Reserved  | 粤ICP备15055271号