Intel contribuye a la aceleración de IA a PyTorch 2.0

En el lanzamiento de Python 2.0, las contribuciones de Intel que utilizan Intel® Extension para PyTorch , oneAPI Deep Neural Network Library (oneDNN) y asistencia adicional para CPU de Intel® permiten a los desarrolladores optimizar el desempeño de la inferencia y el entrenamiento para la inteligencia artificial (IA).

Como parte de la pila de compilación PyTorch 2.0, la optimización de back-end de CPU TorchInductor de Intel Extension para Pytorch y Pytorch ATen CPU alcanzó un desempeño de inferencia de FP32 hasta 1,7 veces más rápido cuando se comparó con TorchBench, HuggingFace y timm. ¹ Esta actualización aporta notables mejoras de desempeño en la compilación gráfica en el modo de concreción de PyTorch.

Otras optimizaciones incluyen:

• Se mejoró el paso de mensajes entre nodos de redes neuronales adyacentes para admitir redes neuronales gráficas en PyTorch Geometric (PyG) para un entrenamiento mejorado de inferencia y desempeño en CPU Intel.
• El nuevo back-end de cuantificación x86 , una combinación de FBGEMM (Multiplicación de matriz general de Facebook) y uno de back-end de oneDNN , reemplaza a FBGEMM como el back-end de cuantificación predeterminado para las plataformas de CPU x86 a fin de permitir un mejor desempeño de inferencia int8 de extremo a extremo.
• Uso extendido de oneDNN con oneDNN Graph API para maximizar la generación eficiente de código en hardware de IA mediante la identificación automática de las particiones gráficas que se acelerarán a través de la fusión. Los tipos de datos BFloat16 y Float32 son compatibles y solo se pueden optimizar las cargas de trabajo de inferencia; BF16 solo está optimizado para equipos con soporte de AVX512_BF16.

Más: Lea el blog con el anuncio completo "Celebre PyTorch* 2.0 con las nuevas características de desempeño para los desarrolladores de IA".

_{¹ Consulte https://github.com/pytorch/pytorch/issues/93531#issuecomment-1457373890, Performance Dashboard para una precisión de 32 subprocesos de un solo zócalo (lanzamiento nocturno 2023-03-05).}

<sub>Avisos y exenciones de responsabilidad

Los resultados de desempeño se basan en pruebas realizadas a las fechas que se indican en las configuraciones y es posible que no reflejen todas las actualizaciones que están a disposición del público. Consulte las copias de seguridad para conocer los detalles de la configuración.
Intel no controla ni audita los datos de terceros. Le recomendamos consultar otras fuentes para evaluar la exactitud.</sub>