La carga de un modelo en la unidad de procesamiento de visión (VPU) puede tardar más que la carga en la CPU

• El tiempo para cargar un modelo en la unidad de procesamiento de visión (VPU) es más largo que cargar el modelo en la CPU.
• Código con la API de Python: net = ie.read_network(model=path_to_xml, weights=path_to_bin) exec_net = ie.load_network(network=net, device_name="CPU") res = exec_net.infer(inputs=data)

Para reducir el tiempo de carga, cargue el modelo desde Blob, que es un gráfico analizado, para omitir la etapa de análisis del modelo.

1. Genere el archivo Blob por adelantado antes de cargarlo mediante uno de los métodos siguientes:
   • Genere el blob mediante la herramienta myriad_compile en la línea de comandos:
     1. La herramienta precompilada está disponible en el Distribución Intel® del kit de herramientas OpenVINO™. También puede clonar el repositorio del kit de herramientas de OpenVINO de código abierto y construirlo .
     2. Generar Blob.
        En path inference-engine/bin/intel64/Release, ejecute un comando de la siguiente manera: ./myriad_compile -m <model_name>.xml -o <output filename>
2. Importe el blob en el código mediante la API de Inference Engine Core: executable_network = ie.ImportNetwork(“model_name.blob”, device, config)

Hay dos procesos internos al cargar un modelo en VPU:

1. Gráfico de análisis
2. Gráfico de asignación

Durante el proceso de carga, los gráficos de la unidad de procesamiento de visión analizados se envían al hardware, etapa por etapa, mediante xlink desde el host.

Cargar un modelo desde un blob puede reducir mucho tiempo para algunos modelos, pero puede que no funcione para todos los modelos.

Además del tamaño del modelo, el tiempo de carga depende del tipo de capa, el tamaño de los datos de entrada, etc.

El complemento HDDL es más eficiente que el complemento MYRIAD al cargar el modelo desde Blob.

Siga estos pasos para habilitar el complemento HDDL en lugar del complemento MYRIAD en el Barra de cómputo neuronal Intel® 2:

1. Establezca autoboot_settings:abort_if_hw_reset_failed to false in $HDDL_INSTALL_DIR/config/hddl_autoboot.config.
2. Establezca autoboot_settings:total_device_num to 1.
3. Iniciar hddldaemon.