scholar lane logo wechat

学术巷子 | 来自全球的每日最新论文

自然语言处理 计算机视觉 机器人
cs.AR方向,2024年9月26日更新论文1
[1] 在边缘计算设备上对深度学习模型进行目标检测基准测试
标题: Benchmarking Deep Learning Models for Object Detection on Edge Computing Devices
作者: Daghash K. Alqahtani / Aamir Cheema / Adel N. Toosi
原文:   [英文]  
备注: None
摘要:
现代应用程序,如自动驾驶汽车,需要在资源受限的边缘设备上部署深度学习算法,以实现实时图像和视频处理。然而,对于这些设备上各种目标检测模型的效率和性能的理解仍然有限。在本文中,我们评估了最先进的目标检测模型,包括YOLOv8(Nano、Small、Medium)、EfficientDet Lite(Lite0、Lite1、Lite2)和SSD(SSD MobileNet V1、SSDLite MobileDet)。我们将这些模型部署在流行的边缘设备上,如Raspberry Pi 3、4和5(有/无TPU加速器)以及Jetson Orin Nano,收集了关键性能指标,如能耗、推理时间和平均精度(mAP)。我们的研究结果表明,较低mAP的模型如SSD MobileNet V1在能效和推理速度方面更具优势,而较高mAP的模型如YOLOv8 Medium通常消耗更多能量且推理速度较慢,但在使用TPU等加速器时有例外。在这些边缘设备中,Jetson Orin Nano在请求处理方面表现出最快和最节能的特点,尽管其空闲能耗最高。这些结果强调了在边缘设备上部署深度学习模型时需要在准确性、速度和能效之间取得平衡,为从业者和研究人员在选择模型和设备时提供了宝贵的指导。