Complemento para dispositivos múltiples con el Barra de cómputo neuronal Intel® 2

Documentación

Instalación y configuración

000055294

06/09/2022

El kit de herramientas OpenVINO™ 2019 R2 presenta un complemento de varios dispositivos que asigna automáticamente solicitudes de inferencia a los dispositivos disponibles para ejecutar las solicitudes en paralelo.

  1. Cree las muestras de C++ ejecutando los build_samples.sh (Linux) o build_samples_msvc.bat (Windows) que se encuentran en el directorio /inference_engine/samples/.
  2. Utilice el hello_query_device muestrear la aplicación para descubrir los dispositivos Barra de cómputo neuronal Intel® 2 disponibles (Intel® NCS 2),

    Linux: ./hello_query_device

    Windows: hello_query_device.exe

    En el ejemplo dehello_query_device se mostrarán los nombres de los dispositivos disponibles y la información adicional sobre el dispositivo. Para el propósito de este artículo, solo nos interesa el nombre del dispositivo.

    Dispositivos disponibles:

    Dispositivo: CPU

    ...

    Dispositivo: MYRIAD.1.1.2-ma2480

    ...

    Dispositivo: MYRIAD.1.1.4-ma2480

    ...

  3. Utilice el benchmark_app para probar y configurar el complemento de dispositivos múltiples con los dispositivos Intel® NCS 2 descubiertos. Tenga en cuenta que los dispositivos están separados por una coma sin espacios.

    Linux: ./benchmark_app -d MULTI:MYRIAD.1.1.2-ma2480,MYRIAD.1.1.4-ma2480

    Windows: benchmark_app.exe-d MULTI:MYRIAD.1.1.2-ma2480,MYRIAD.1.1.4-ma2480

Encontrará información adicional sobre el complemento para dispositivos múltiples en la documentación del kit de herramientas OpenVINO.