Экспериментальная оценка энергоэффективности моделей компьютерного зрения на встраиваемом нейросетевом ускорителе: платформа Allwinner A733
Абдрахманов Д.С.
Ключевые слова: энергоэффективность, нейросетевой ускоритель, квантование нейронных сетей, встраиваемые системы, компьютерное зрение, ваттметр, тепловыделение, одноплатный компьютер, Allwinner A733.
Аннотация. В статье представлена экспериментальная оценка энергетической эффективности инференса моделей компьютерного зрения на встраиваемом нейросетевом ускорителе (NPU) Allwinner A733 в сравнении с центральным процессором (CPU). Исследован инференс пяти архитектур (YOLOv8, YOLOv11, YOLOv26, Fast-SCNN, DeepLabV3+) в формате FP32 на CPU и в трех форматах квантования (UINT8, PCQ, INT16) на NPU. Измерения выполнялись внешним USB-ваттметром UM34C методом вычитания мощности холостого хода. Установлено, что чистая мощность инференса на NPU (0,65-1,03 Вт) в 5,3-8,6 раза ниже мощности на CPU (5,10-5,77 Вт), а прирост температуры активного блока NPU на порядок меньше аналогичного показателя CPU.
Experimental evaluation of the energy efficiency of computer vision models on an embedded neural network accelerator: the Allwinner A733 platform
Abdrakhmanov D.S.
Keywords: energy efficiency, neural processing unit, neural network quantization, embedded systems, computer vision, power meter, heat dissipation, single-board computer, Allwinner A733.
Abstract. This paper presents an experimental evaluation of the energy efficiency of computer vision model inference on the Allwinner A733 embedded NPU compared to the CPU. Five architectures (YOLOv8, YOLOv11, YOLOv26, Fast-SCNN, DeepLabV3+) were evaluated in FP32 on CPU and in three quantization formats (UINT8, PCQ, INT16) on NPU. Power consumption was measured with an external USB power meter (UM34C) by subtracting idle power. Net NPU inference power (0.65-1.03 W) was found to be 5.3-8.6 times lower than FP32 CPU inference power (5.10-5.77 W). The results confirm that NPUs provide a highly energy-efficient alternative for computer vision deployment on embedded platforms.