Novedades: Hoy, MLCommons publicó los resultados de su suite de análisis de referencia de desempeño de IA estándar de la industria, MLPerf Inference v4.1. Intel presentó resultados en seis análisis de referencia de MLPerf para procesadores escalables Intel® Xeon® de 5ª generación y, por primera vez, Intel® Xeon® 6 procesadores con núcleos de desempeño (núcleos P). Intel Xeon 6 procesadores con P-cores lograron aproximadamente 1,9 veces la mejora del desempeño geomean en el desempeño de IA en comparación con los procesadores Xeon de 5ª generación.
"Los resultados más recientes de MLPerf muestran cómo la inversión y los recursos continuos son fundamentales para mejorar el rendimiento de la IA. En los últimos cuatro años, hemos elevado el nivel de desempeño de IA en procesadores Intel Xeon hasta 17 veces según MLPerf. A medida que nos acercamos a la disponibilidad general a finales de este año, esperamos aumentar el Xeon 6 con nuestros clientes y socios".
Por qué son importantes los resultados de MLPerf: Los sistemas de IA requieren CPU como componente crítico para implementar soluciones con éxito en una variedad de escenarios. Intel Xeon proporciona una gran solución para la inferencia de IA, incluido el aprendizaje automático clásico y la incorporación de búsqueda vectorial.
Con MLPerf Inference v4.1, Intel presentó procesadores Intel Xeon de 5a Generación y procesadores Xeon 6 con P-Cores en ResNet50, RetinaNet, 3DUNet, BERT, DLRM v2 y GPT-J. En comparación con la Intel Xeon de 5ª generación, Xeon 6 ofrece un desempeño de inferencia de IA aproximadamente 1,9 veces mejor en estos seis puntos de referencia. Intel sigue siendo el único proveedor de procesadores para servidores que envía los resultados de su CPU a MLPerf.
En los últimos cuatro años, Intel ha logrado avances significativos en el desempeño de IA con las CPU desde que presentó por primera vez los resultados de MLPerf. En comparación con los procesadores escalables Intel® Xeon® de 3a Generación en 2021, Xeon 6 tiene un desempeño hasta 17 veces mejor en cargas de trabajo de procesamiento de lenguaje natural (BERT) y hasta 15 veces mejor en cargas de trabajo de visión computarizada (ResNet50). Intel sigue invirtiendo en IA para su hoja de ruta de CPU. A modo de ejemplo, continúa innovando con Intel® Advanced Matrix Extensions (AMX) a través de nuevos tipos de datos y una mayor eficiencia.
Cómo Intel apoya a sus clientes de IA: Los últimos análisis de referencia de MLCommons destacan cómo los procesadores Xeon ofrecen soluciones sólidas de servidor de IA de CPU a los fabricantes de equipos originales (OEM). A medida que crece la necesidad de computación de IA y muchos clientes ejecutan cargas de trabajo de IA junto con sus cargas de trabajo empresariales, los OEM están priorizando las presentaciones de MLPerf para garantizar que ofrezcan a los clientes sistemas Xeon de alto desempeño optimizados para cargas de trabajo de IA.
Intel apoyó a cinco socios OEM (Cisco, Dell Technologies, HPE, Quanta y Supermicro) con sus presentaciones de MLPerf en esta ronda. Cada cliente presentó los resultados de MLPerf con procesadores escalables Xeon de 5a Generación, mostrando la compatibilidad de sus sistemas con una variedad de cargas de trabajo e implementaciones de IA.
Lo que sigue: Intel ofrecerá más información sobre los procesadores Xeon 6 con P-cores durante un evento de lanzamiento en septiembre.