Las plataformas de IA de Intel aceleran los modelos Microsoft Phi-3 GenAI.

Intel, en colaboración con Microsoft, permite la compatibilidad con varios modelos Phi-3 en sus plataformas de centros de datos, PC con IA y soluciones de edge.

Noticias

  • 21 de mayo de 2024

  • Contacta al equipo PR de Intel

  • Siga las noticias de Intel en las redes sociales:

    Logotipo de Twitter
    Icono de YouTube

author-image

Por

Los procesadores Intel Core Ultra son compatibles con la familia de modelos abiertos Phi-3 de Microsoft. Los modelos Phi-3 pueden ejecutarse en hardware de bajo nivel de computación, ajustarse más fácilmente para cumplir con requisitos específicos y permitir a los desarrolladores crear aplicaciones que se ejecuten localmente. (Créditos: Intel Corporation)

Descargar imagen (775 KB)

Novedades: Intel ha validado y optimizado su cartera de productos de IA en clientes, edge y centros de datos para varios de los modelos abiertos de la familia Phi-3 de Microsoft. La familia Phi-3 de modelos pequeños y abiertos puede ejecutarse en hardware de bajo nivel de computación, ajustarse más fácilmente para cumplir con requisitos específicos y permitir a los desarrolladores crear aplicaciones que se ejecuten localmente. Los productos compatibles incluyen aceleradores de IA Intel Gaudi® y procesadores Intel® Xeon® para aplicaciones de centros de datos y Intel® Core™ Ultra para portátiles, además de los gráficos Intel® Arc™ .

"Ofrecemos a los clientes y desarrolladores potentes soluciones de IA que utilizan los últimos modelos y software de IA de la industria. Nuestra colaboración activa con otros líderes en el ecosistema de software de IA, como Microsoft, es clave para llevar la IA a todas partes. Estamos orgullosos de trabajar con Microsoft para garantizar que el hardware de Intel, que abarca centro de datos, edge y portátiles, admita varios modelos Phi-3 nuevos".

–Pallavi Mahajan, vicepresidente corporativo y gerente general de Intel, Datacenter & AI Software

Por qué es importante: Como parte de su misión de llevar la IA a todas partes, la empresa invierte continuamente en el ecosistema de software de IA colaborando con líderes e innovadores de IA.

La compañía trabajó con Microsoft para habilitar la compatibilidad con el modelo Phi-3 para sus unidades centrales de procesamiento (CPU), unidades de procesamiento gráfico (GPU) y aceleradores Gaudi el día del lanzamiento. También, codiseñó la abstracción del acelerador en DeepSpeed, que es un paquete de software de optimización de aprendizaje profundo fácil de usar, y amplió la compatibilidad con el paralelismo de tensor automático para Phi-3 y otros modelos en Hugging Face.

El tamaño de los modelos Phi-3 es ideal para su uso en inferencia en dispositivos, lo que permite el desarrollo de modelos ligeros como el ajuste fino o la personalización en PC con IA y dispositivos de edge. El hardware para portátiles de Intel se acelera a través de marcos de software y herramientas integrales, que incluyen PyTorch e Intel® Extension para PyTorch utilizado para investigación y desarrollo local, y OpenVINO™ Toolkit para la implementación e inferencia de modelos.

Lo que sigue: Intel se ha comprometido a satisfacer las necesidades generativas de IA de sus clientes empresariales y continuará brindando soporte y optimizando software para Phi-3 y otros modelos de lenguaje líderes de vanguardia.

Para conocer detalles técnicos y de desempeño, visite el Blog de desarrolladores de Intel.

Más contexto: Blog de desarrolladores de Intel | Blog de Microsoft Phi-3