Base de conocimientos de asistencia

¿Cuál es la razón por la que inferir el formato del modelo FP32 es más rápido que el formato del modelo FP16 en la CPU?

Tipo de contenido: Compatibilidad | ID del artículo: 000093301 | Última revisión: 20/11/2023

Descripción Resolución

Descripción

Formato de modelo FP32 inferido y formato de modelo FP16 en la CPU.
La velocidad de inferencia del formato del modelo FP32 fue más rápida que el formato del modelo FP16.
No se puede determinar el motivo cuando inferir el formato del modelo FP32 es más rápido que el formato del modelo FP16 en la CPU.

Resolución

El resultado de la inferencia varía según el complemento de dispositivo compatible con el formato de modelo compatible.

Productos relacionados

Este artículo se aplica a 3 productos.

Software del procesador Intel® Xeon Phi™ OpenVINO™ toolkit Bibliotecas de desempeño

Descargos de responsabilidad legales

El contenido de esta página es una combinación de la traducción humana y automática del contenido original en inglés. Este contenido se ofrece únicamente para su comodidad como información general y no debe considerarse completa o precisa. Si hay alguna contradicción entre la versión en inglés de esta página y la traducción, prevalecerá la versión en inglés. Consulte la versión en inglés de esta página.

¿Necesita más ayuda?

Póngase en contacto con la asistencia