Acelerador de IA Intel® Gaudi® 2
Aceleración de alto desempeño para GenAI y modelos de lenguaje de gran tamaño.
Acelerador de IA Intel® Gaudi® 2
Nuestro acelerador de IA Intel® Gaudi® 2 impulsa una mejor relación desempeño/precio de aprendizaje profundo
Así como eficiencia operativa para entrenar y ejecutar modelos de última generación, desde los más grandes modelos multimodales y de lenguaje hasta modelos de visión artificial y PNL más básicos. Los aceleradores Intel® Gaudi® 2, diseñados con una escalabilidad eficiente en mente, ya sea en la nube o en el centro de datos, le ofrecen a la industria de la IA las opciones que necesita, ahora más que nunca.
Características de la arquitectura Intel® Gaudi® 2:
Construida sobre la base de diseño comprobada de Intel® Gaudi® de primera generación.
- Tecnología de procesamiento de 7 nm.
- Informática heterogénea.
- 24 núcleos de procesador de tensores.
- Motores de multiplicación de matrices duales.
- 24 puertos Ethernet de 100 Gigabit integrados en chip.
- 96 GB de memoria HBM2E en placa.
- 48 MB de SRAM.
- Control integrado de medios.
Acelerador de IA Intel® Gaudi® 2 en la nube
Descubra el desempeño y la facilidad de uso que ofrece el acelerador de IA Intel® Gaudi® 2 en Intel® Tiber™ Developer Cloud.
Conozca más
Acelerador de IA Intel® Gaudi® 2 en el centro de datos
Aproveche la ventaja de la relación desempeño/precio en su infraestructura con soluciones de Supermicro e IEI.
Conozca más
El acelerador de IA Intel® Gaudi® 2 sigue siendo la ÚNICA alternativa comprobada frente a Nvidia H100 en cuanto a desempeño de GenAI
Según los análisis de referencia de MLPerf Training 3.1 e Inference 4.0 más recientes, publicados en diciembre del 2023 y marzo del 2024, respectivamente, el acelerador Intel® Gaudi® 2 sigue siendo la única alternativa comprobada frente a Nvidia H100.
Puntuaciones del acelerador de IA Intel® Gaudi® 2 en otras evaluaciones de terceros además del análisis de referencia industrial de MLPerf.1
El acelerador de IA Intel® Gaudi® 2 admite escalabilidad flexible y masiva
Con 24 puertos Ethernet de 100 Gigabit (RoCEv2) integrados en cada acelerador de IA Intel® Gaudi® 2, los clientes se benefician de una escalabilidad flexible y rentable que amplía el desempeño del acelerador de IA Intel® Gaudi® 2 de uno a miles de aceleradores.
Consulte la imagen a continuación para ver el diseño de referencia de servidores con 8 aceleradores Intel® Gaudi® 2.
Consulte nuestra página de Redes para obtener más información sobre la creación de escalabilidad de sistemas con el acelerador de IA Intel® Gaudi® 2 ›
Socio destacado
Los switches Cisco Nexus 9364D-GX2A tienen la calificación necesaria para conectar los aceleradores Intel® Gaudi® 2 y crear una red de escalabilidad horizontal para ejecutar entrenamientos de modelos de lenguaje de gran tamaño (LLM), inferencia o cargas de trabajo de IA generativa similares.
Cree o migre fácilmente modelos nuevos o existentes en aceleradores de IA Intel® Gaudi® 2
El software Intel® Gaudi®, optimizado para el desempeño y la facilidad de la plataforma Intel® Gaudi®, les brinda a los desarrolladores los documentos, las herramientas, el contenido instructivo y los modelos de referencia que necesitan para comenzar a usar el software Intel® Gaudi® de forma rápida y sencilla.
Implemente y acceda fácilmente a más de 500 000 modelos con la biblioteca de Habana Optimum en el centro de Hugging Face.
Consulte nuestro sitio para desarrolladores para obtener más información ›
Recursos para el acelerador de IA Intel® Gaudi® 2
Información sobre productos y desempeño
Visite https://habana.ai/habana-claims-validation para cargas de trabajo y configuraciones. Los resultados pueden variar https://huggingface.co/blog/habana-gaudi-2-benchmark https://huggingface.co/blog/habana-gaudi-2-bloom