Чипы Intel Myriad X и их масштабируемость в инференсе нейронных сетей

Статья Ильи Душина и Вячеслава Тихомирова на Хабре о чипах Intel Myriad X и их масштабируемости в инференсе нейронных сетей.

Чем же так хороши эти ускорители? Во-первых, стоимостью одного FPS. Во-вторых, полной совместимостью с OpenVINO, где можно перенести существующие решения с CPU/GPU на стик или MyriadX без их доработки или дополнительной адаптации. Конечно же, адаптация это не особенность VPU, а, скорее, особенность OpenVINO, где каждая обученная сеть может работать на любой выбранной аппаратной платформе, будь то CPU, GPU, FPGA, VPU и выбор может быть сделан не до разработки, а после.Рассмотрим основные показатели стиков и чипов, установленных в них, в инференсе нейронных сетей на базе топологий UNET 576x384 и Darknet19 MMR (распознавание марок и моделей ТС) - https://habr.com/ru/post/478182/