OpenVINO toolkit 2020.4 ベンチマーク

昨日リリースされたOpenVINO toolkit 2020.4のベンチマークを取りました
使用したアプリケーションは、security barrier c++ demoを使用しております

また使用機材は下記となります

Intel(R) Core(TM) i7-1065G7 CPU @ 1.30GHz 
DDR4-3733 16GB
Ubuntu 18.04.4 LTS

ベンチマーク時のオプションは下記となります

security_barrier_camera_demo -d $a -d_va $b -d_lpr $c -i car_1.bmp -m openvino_models/ir/intel/vehicle-license-plate-detection-barrier-0106/FP16/vehicle-license-plate-detection-barrier-0106.xml -m_lpr openvino_models/ir/intel/license-plate-recognition-barrier-0001/FP16/license-plate-recognition-barrier-0001.xml -m_va openvino_models/ir/intel/vehicle-attributes-recognition-barrier-0039/FP16/vehicle-attributes-recognition-barrier-0039.xml -no_show

-d	-d_va	-d_lpr	FPS Average
CPU	CPU	CPU	82.48
CPU	CPU	GPU	111.6
CPU	CPU	MYRIAD	70.59
CPU	GPU	CPU	89.32
CPU	GPU	GPU	102.11
CPU	GPU	MYRIAD	71.13
CPU	MYRIAD	CPU	86.83
CPU	MYRIAD	GPU	108.92
CPU	MYRIAD	MYRIAD	56.42
GPU	CPU	CPU	88.29
GPU	CPU	GPU	102.68
GPU	CPU	MYRIAD	67.85
GPU	GPU	CPU	86.64
GPU	GPU	GPU	90.75
GPU	GPU	MYRIAD	69.08
GPU	MYRIAD	CPU	85.07
GPU	MYRIAD	GPU	68.77
GPU	MYRIAD	MYRIAD	58.34
MYRIAD	CPU	CPU	22.15
MYRIAD	CPU	GPU	23.03
MYRIAD	CPU	MYRIAD	19.88
MYRIAD	GPU	CPU	22.24
MYRIAD	GPU	GPU	21.67
MYRIAD	GPU	MYRIAD	20.27
MYRIAD	MYRIAD	CPU	18.93
MYRIAD	MYRIAD	GPU	18.58
MYRIAD	MYRIAD	MYRIAD	14.32

いつも使用しているATOMマシンで比較してみます

Intel(R) Atom(TM) Processor E3950 @ 1.60GHz
MemTotal:8012260 kB
Ubuntu 18.04.4 LTS

-d	-d_va	-d_lpr	2020.3 FPS Average	2020.4 FPS Average	比較
CPU	CPU	CPU	8.72	10	115%
CPU	CPU	GPU	14.12	14.06	100%
CPU	CPU	MYRIAD	14.04	13.66	97%
CPU	GPU	CPU	9.96	9.94	100%
CPU	GPU	GPU	14.64	14.28	98%
CPU	GPU	MYRIAD	15.52	15.02	97%
CPU	MYRIAD	CPU	10.06	9.92	99%
CPU	MYRIAD	GPU	15.12	15.1	100%
CPU	MYRIAD	MYRIAD	15.3	14.62	96%
GPU	CPU	CPU	14.68	15.4	105%
GPU	CPU	GPU	30.18	31.34	104%
GPU	CPU	MYRIAD	30.44	31.14	102%
GPU	GPU	CPU	15.14	15.16	100%
GPU	GPU	GPU	29.48	29.02	98%
GPU	GPU	MYRIAD	36.08	36.68	102%
GPU	MYRIAD	CPU	15.08	15.34	102%
GPU	MYRIAD	GPU	36.14	37.16	103%
GPU	MYRIAD	MYRIAD	35.46	38.66	109%
MYRIAD	CPU	CPU	13.1	12.84	98%
MYRIAD	CPU	GPU	21.92	22.02	100%
MYRIAD	CPU	MYRIAD	21.88	22.16	101%
MYRIAD	GPU	CPU	13.02	12.9	99%
MYRIAD	GPU	GPU	23.88	23.8	100%
MYRIAD	GPU	MYRIAD	26.22	25.9	99%
MYRIAD	MYRIAD	CPU	13.18	13.36	101%
MYRIAD	MYRIAD	GPU	25.36	25.1	99%
MYRIAD	MYRIAD	MYRIAD	25.78	25.46	99%