ID del artículo: 000058227 Tipo de contenido: Información y documentación sobre productos Última revisión: 06/06/2023

OpenVINO™ tiempo de inferencia aumenta al ejecutar varios procesos

Entorno

UbuntuIndexVINO 2021.2

BUILT IN - ARTICLE INTRO SECOND COMPONENT
Resumen

Paso rápido para vincular varios procesos de inferencia a diferentes CPU

Descripción

El tiempo de inferencia duplica al ejecutar dos procesos para inferir el mismo modelo.

  • Usar OpenVINO™ para inferir un modelo.
  • El tiempo de inferencia es de aproximadamente 300 ms cuando se ejecuta un solo proceso.
  • Cuando se utilizan dos procesos, el tiempo de inferencia para ambos procesos se convierte en 600 ms.
Resolución
  1. Agregue el siguiente comando en el script main.cpp .

    ie.SetConfig({ { CONFIG_KEY(CPU_BIND_THREAD), "NO" } }, "CPU")

  2. Cree la demostración.
Más información
  • El valor predeterminado de la configuración de KEY_CPU_BIND_THREAD es SÍ.
  • En Linux*, esto hace que los dos procesos se vinculen al mismo núcleo de CPU y duplique el tiempo de inferencia.
  • Configuración de la configuración KEY_CPU_BIND_THREAD en NO se unbinds inferencia de subprocesos desde núcleos de CPU en Windows* y Linux*.

Consulte Parámetros de configuración admitidos para obtener más información sobre los parámetros de configuración para el complemento de CPU.

Productos relacionados

Este artículo se aplica a 2 productos

El contenido de esta página es una combinación de la traducción humana y automática del contenido original en inglés. Este contenido se ofrece únicamente para su comodidad como información general y no debe considerarse completa o precisa. Si hay alguna contradicción entre la versión en inglés de esta página y la traducción, prevalecerá la versión en inglés. Consulte la versión en inglés de esta página.