码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)

开发环境:

➢开发系统:Ubuntu18.04 64位 X86操作系统

➢内存:大于4G

➢储存空间:大于10G

➢系统语言:en_US.UTF-8(MindStudio)

➢编译器:g 或aarch64-linux-gnu-g

➢python版本:python3.7.5

➢智能工作站型号:英码科技IVP07A

温馨提示:

本文旨在为已购买IVP07A盒子的用户提供设备端的部署指南,使用此指南的前提:在开发系统上已安装搭建好相应的框架;已完成模型的处理,包括:模型量化、模型转换等;且已完成代码工程的编译,并通过相应框架生成设备端适配的可执行程序,具体的操作流程请参考相应的《开发环境搭建指南》完成系统环境搭建。

另外,IVP07A内包含SVP_NNN一个算力核,适配SVP架构。

SVP框架SVP ACL逻辑架构图

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(1)

准备工作就绪后,环境部署流程正式开始~

步骤1:安装CH340驱动;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(2)

步骤2:设备插入网线、电源线、且通过Type-C线连接电脑;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(3)

步骤3:连接后,要在设备管理器查看是否连接成功,并记录端口号;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(4)

步骤4:通过串口工具连接设备端,可使用MobaXterm、Xshell等工具,选择端口号,bps为115200;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(5)

步骤5:连接设备后,执行命令加载设备端驱动及ko文件,./insmod.sh以及./init.sh(如设备端版本为Ubuntu20.04则上电时已自动加载驱动和ko文件);

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(6)

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(7)

步骤6:根据连接的网口配置ip地址以及网关地址:

ifconfig eth0 xxx.xxx.xxx.xxx netmask 255.255.255.0 up

// ip地址,请自行填入

执行route命令,进行网关配置;

route add default gw xxx.xxx.xxx.xxx // 网关地址,请自行填入

配置完毕后,需要ping通本机的ip;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(8)

步骤7:yolov3网络模型需要开发者自行准备,本样例的预测框准确率与网络模型的迭代次数相关,因此开发者需使用自己训练后的yolov3模型,这里仅供示例。把yolov3模型及权重文件放入相应路径下;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(9)

步骤8:通过MindStudio工具启动ATC功能进行模型转换,把yolov3模型文件转换为SoC设备端识别的离线模型(.om模型)。在MindStudio转换界面配置相应的参数,包括Type和Images File等,且需要设置profiling工具启动的参数;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(10)

步骤9:转换成功后,会在指定目录下生成离线模型以及精度比对文件、转换数据文件等。把离线模型放入工程目录下。执行编译命令,生成可执行程序;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(11)

步骤10:需要在虚拟机以及设备上安装nfs,并且把编译后的工程文件及所需的动态库放在nfs文件夹下,之后在设备端通过nfs挂载到虚拟机的文件夹;

参考命令:

mount -t nfs ip地址:/xxx/xxx/xxx /mnt -o nolock

ip地址为您虚拟机的IP地址

/xxx/xxx/xxx为您虚拟机内nfs文件夹挂载路径

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(12)

步骤11:声明SDK包内动态库;

参考命令:

export LD_LIBRARY_PATH=/mnt/mpp/out/lib/svp_npu

声明路径为sdk包内mpp文件夹下动态库的路径

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(13)

步骤12:执行命令进行推理后会打印相关数据,并在目录下生成预测框坐标点的txt文件

./main 3;

以下为输出示例:

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(14)

步骤13:在工程目录下,执行命令启动生成预测框的脚本即可产生图片预测结果,下图为示例图;

参考命令:

python3.7.5 ../script/drawbox.py -i ../data/2.jpg -t yolov(1/2/3/4)_detResult.txt

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(15)

步骤14:配置了profiling相关参数的代码后,模型推理完成时会在工程目录下生成一个JOB文件夹,该文件夹内记录了模型推理的性能指标;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(16)

步骤15:采集完成后需要执行脚本进行解析性能指标,需要进入到msprof下执行脚本,解析后会在JOB文件夹下生成sqlite文件夹,里面包含了各性能指标的db文件;

参考命令:

python3.7.5 msprof.py import -dir /home/hyq/rootfs/yolo/job

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(17)

步骤16:得到解析坐标后,执行相应命令即可导出指标为可视化表格;

参考命令:

python3.7.5 msprof.py export summary -dir /home/hyq/rootfs/yolo/job --format csv

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(18)

步骤17:以下为op_summary的表格示例,该表格内记录了每一层算子的时间、推理耗时、调用接口耗时等性能指标;

码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)(19)

至此,英码科技智能视频分析边缘计算盒子IVP07A设备端环境部署成功!

想了解英码科技智能视频分析边缘计算盒子IVP07A产品信息的请点击了解:英码科技八核智能视频分析边缘计算盒子,4.8T 24路1080P视频解码

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。