Demostración de Python* de múltiples cámaras de destino en OpenVINO™ es lenta cuando se utilizan muchas pistas

1. La _compute_mct_distance_matrixfunction en la demostración de Python de múltiples cámaras de objetivo comprueba la distancia de coseno entre cada pista y entre sí en varias cámaras.
2. Una gran cantidad de canciones costaría horas a días revisar las pistas.

Opción 1: Validar el modelo mediante la evaluación del desempeño del modelo en datos no vistos en PyTorch.

• Utilice la función:
  with torch.no_grad():
  for i,data in enumerate(X_test):
  y_val = model.forward(data) #this function is to grab prediction

• La función de with torch.no_grad() impactará en el motor de gradiente automático y, en esencia, lo eliminará. El programa no destacará la retroaprovisionamiento, ya que se trata solo de evaluar el modelo, por lo tanto, no hay ningún requisito para cambiar de peso o sesgos, etc. Por lo tanto, ayuda a reducir el uso de la memoria y a acelerar la informática. Sin embargo, esto solo se aplica al conjunto de datos de prueba, pero no al conjunto de datos de entrenamiento.

Opción 2: Acelere la inferencia de modelos de aprendizaje profundo utilizando optimización pos training (POT)..

• POT utiliza una optimización de baja precisión que ayuda a reducir el tiempo de inferencia. POT no requiere un conjunto de datos de entrenamiento ni un proceso, ya que se puede aplicar POT sin reentrenamiento o ajuste preciso del modelo.
• Consulte La interfaz de línea de comandos de la herramienta de optimización posterior a la capacitación para la implementación paso a paso.