OpenVINO toolkit 2020.2 ベンチマーク

OpenVINO toolkit 2020.2のベンチマークを取りました
使用したアプリケーションは、security barrier c++ demoを使用しております

また使用機材は下記となります

Intel(R) Atom(TM) Processor E3950 @ 1.60GHz
MemTotal:8012260 kB
Ubuntu 18.04.4 LTS

ベンチマーク時のオプションは下記となります

security_barrier_camera_demo -d $a -d_va $b -d_lpr $c -i car_1.bmp -m openvino_models/ir/intel/vehicle-license-plate-detection-barrier-0106/FP16/vehicle-license-plate-detection-barrier-0106.xml -m_lpr openvino_models/ir/intel/license-plate-recognition-barrier-0001/FP16/license-plate-recognition-barrier-0001.xml -m_va openvino_models/ir/intel/vehicle-attributes-recognition-barrier-0039/FP16/vehicle-attributes-recognition-barrier-0039.xml -no_show

まずはubuntu16.04と18.04の違いはほとんどありません

-d	-d_va	-d_lpr	2020.1 ubuntu16.04 FPS Average	2020.1 ubuntu18.04 FPS Average	2020.2 ubuntu18.04 FPS Average	2020.1→2020.2 高速化
CPU	CPU	CPU	7.44	7.26	9.94	137%
CPU	CPU	GPU	13.34	14.08	13.94	99%
CPU	CPU	MYRIAD	13.56	13.98	13.66	98%
CPU	GPU	CPU	7.28	7.7	9.96	129%
CPU	GPU	GPU	13.96	14.3	14.66	103%
CPU	GPU	MYRIAD	14.76	15.08	15.48	103%
CPU	MYRIAD	CPU	7.68	7.32	10.02	137%
CPU	MYRIAD	GPU	14.94	15.24	15.14	99%
CPU	MYRIAD	MYRIAD	14.9	15.12	15.34	101%
GPU	CPU	CPU	11	11.32	15.06	133%
GPU	CPU	GPU	27.48	29.8	30.3	102%
GPU	CPU	MYRIAD	27.62	29.34	30.94	105%
GPU	GPU	CPU	10.62	11.52	15.14	131%
GPU	GPU	GPU	24.98	25.82	28.62	111%
GPU	GPU	MYRIAD	33.42	34.14	36.42	107%
GPU	MYRIAD	CPU	10.92	11.8	15.68	133%
GPU	MYRIAD	GPU	33.8	36.86	36.6	99%
GPU	MYRIAD	MYRIAD	34.34	36.9	38.14	103%
MYRIAD	CPU	CPU	10.22	9.9	12.82	129%
MYRIAD	CPU	GPU	21.98	21.8	22.1	101%
MYRIAD	CPU	MYRIAD	22.26	22.32	21.6	97%
MYRIAD	GPU	CPU	9.54	9.28	13.22	142%
MYRIAD	GPU	GPU	22.38	22.7	23.32	103%
MYRIAD	GPU	MYRIAD	25.3	25.3	25.54	101%
MYRIAD	MYRIAD	CPU	10.32	10.16	13.32	131%
MYRIAD	MYRIAD	GPU	24.66	25.1	24.68	98%
MYRIAD	MYRIAD	MYRIAD	25.86	25.84	25.78	100%

次に高速化されている順に並び変えてみましょう
並び変えてみると、-d_lprにCPUがあるものが上位にあります
このオプションは、License Plate Recognitionをどのデバイスで行うかと言うオプションです

-d	-d_va	-d_lpr	2020.1 ubuntu18.04 FPS Average	2020.2 ubuntu18.04 FPS Average	2020.1→2020.2 高速化
MYRIAD	GPU	CPU	9.28	13.22	142%
CPU	CPU	CPU	7.26	9.94	137%
CPU	MYRIAD	CPU	7.32	10.02	137%
GPU	CPU	CPU	11.32	15.06	133%
GPU	MYRIAD	CPU	11.8	15.68	133%
GPU	GPU	CPU	11.52	15.14	131%
MYRIAD	MYRIAD	CPU	10.16	13.32	131%
MYRIAD	CPU	CPU	9.9	12.82	129%
CPU	GPU	CPU	7.7	9.96	129%
GPU	GPU	GPU	25.82	28.62	111%
GPU	GPU	MYRIAD	34.14	36.42	107%
GPU	CPU	MYRIAD	29.34	30.94	105%
GPU	MYRIAD	MYRIAD	36.9	38.14	103%
MYRIAD	GPU	GPU	22.7	23.32	103%
CPU	GPU	MYRIAD	15.08	15.48	103%
CPU	GPU	GPU	14.3	14.66	103%
GPU	CPU	GPU	29.8	30.3	102%
CPU	MYRIAD	MYRIAD	15.12	15.34	101%
MYRIAD	CPU	GPU	21.8	22.1	101%
MYRIAD	GPU	MYRIAD	25.3	25.54	101%
MYRIAD	MYRIAD	MYRIAD	25.84	25.78	100%
CPU	MYRIAD	GPU	15.24	15.14	99%
GPU	MYRIAD	GPU	36.86	36.6	99%
CPU	CPU	GPU	14.08	13.94	99%
MYRIAD	MYRIAD	GPU	25.1	24.68	98%
CPU	CPU	MYRIAD	13.98	13.66	98%
MYRIAD	CPU	MYRIAD	22.32	21.6	97%