Complemento heterogéneo con el Barra de cómputo neuronal Intel® 2

Documentación

Instalación y configuración

000055368

07/09/2022

El complemento heterogéneo (HETERO) permite la inferencia informática en una red utilizando varios dispositivos. Es posible que desee ejecutar redes en modo heterogéneo para:

  • Utilice la potencia de los aceleradores, incluido el cálculo de las piezas más pesadas de la red en aceleradores, y ejecute capas no compatibles en dispositivos de reserva como la CPU.
  • Utilice todo el hardware disponible de manera más eficiente durante una inferencia.

Para utilizar el complemento Heterogéneo y ejecutar inferencia en su Barra de cómputo neuronal Intel® 2 utilizando la aplicación Benchmark de™ OpenVINO, siga los pasos a continuación:

  1. Cree las muestras de C++ ejecutando buildsamples.sh (para Linux) o build_samples_msvc.bat (para Windows) que se encuentran en inference_engine/samples directorio.
  2. Utilice el benchmark_app para probar y configurar el complemento Hetero con los dispositivos que le gustaría utilizar. Por ejemplo, ejecutar -d HETERO:GPU,CPU dará prioridad a la GPU, mientras que la CPU será un dispositivo de reserva.

Encuentre más información sobre el complemento Heterogéneo y el kit de herramientas OpenVINO.