¿Se espera que la inferencia del modelo INT8 en una nueva CPU sea más rápida que en una CPU anterior?
Tipo de contenido: Información y documentación sobre productos | ID del artículo: 000091932 | Última revisión: 18/05/2023
El modelo INT8 inferido en una nueva CPU y la velocidad de inferencia es más rápida en comparación con la inferencia con una CPU anterior.
La inferencia lenta en una CPU antigua se espera según la configuración del sistema y las especificaciones de hardware.
Consulte los resultados del análisis de desempeño Distribución Intel® del kit de herramientas OpenVINO™ para obtener el desempeño de la inferencia en una configuración de hardware especificada.