ID del artículo: 000089266 Tipo de contenido: Resolución de problemas Última revisión: 08/09/2022

No se puede acelerar el tiempo de inferencia cuando se inferencia con dos Barra de cómputo neuronal Intel® 2 (NCS2s) utilizando varios complementos

BUILT IN - ARTICLE INTRO SECOND COMPONENT
Resumen

La mejor manera de inferir el modelo con dos NCS2s utilizando el complemento MULTI

Descripción
  • Modelo YOLOv4 personalizado con inferencia con dos NCS2 que utilizan complemento MULTI, MULTI:MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480.
  • El tiempo de inferencia no se aceleró.
Resolución

La mejor manera de utilizar el complemento múltiple con varios NCS2 es configurar cada NCS2 y crear el dispositivo múltiple en la parte superior.

from openvino.inference_engine import IECore

ie = IECore()

myriad1_config = {}
myriad2_config = {}
ie.set_config(config=myriad1_config, device_name="MYRIAD.3.1-ma2480")
ie.set_config(config=myriad2_config, device_name="MYRIAD.3.3-ma2480")
# Load the network to the multi-device, specifying the priorities
exec_net = ie.load_network(
network=net, device_name="MULTI", config={"MULTI_DEVICE_PRIORITIES": "MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480"}
)
# Query the optimal number of requests

#Use -nireq 10 to get maximum FPS.
nireq = exec_net.get_metric("OPTIMAL_NUMBER_OF_INFER_REQUESTS")

Productos relacionados

Este artículo se aplica a 2 productos

El contenido de esta página es una combinación de la traducción humana y automática del contenido original en inglés. Este contenido se ofrece únicamente para su comodidad como información general y no debe considerarse completa o precisa. Si hay alguna contradicción entre la versión en inglés de esta página y la traducción, prevalecerá la versión en inglés. Consulte la versión en inglés de esta página.