¿Cuál es la relación entre la complejidad de un modelo y su rendimiento de inferencia?

No se puede determinar por qué la Herramienta de análisis de desempeño informa fps de inferencia similares para dos modelos de complejidades muy diferentes, que se definen en Giga Floating Point Operations (GIGABYTELOPs).

• Un mayor número de FLOPs equivale directamente a una cantidad reducida de FPS. Sin embargo, no existe una comparación justa entre los FPS y los FLOPs.
• Factores que pueden afectar los FPS obtenidos de la Herramienta de análisis de desempeño:
  • Ejecute en modo sincronizado y asincrónico
  • Cantidad de transmisiones
  • Cantidad de solicitudes de inferencia

Intel® NCS2 se basa en la unidad de procesamiento de visión Intel® Movidius™ Myriad™ X que cuenta con 16 núcleos de shave programables y un motor informático neuronal dedicado. Esta función aumenta el desempeño de las redes.