Intel Gaudi 3: En el evento Hot Chips de agosto de 2024, Intel presentó cuatro sesiones que cubrieron su experiencia en arquitectura de IA en la nube con Intel Gaudi 3, cliente con procesadores Lunar Lake y edge con sistema en chip Intel Xeon 6, y todo vinculado por los avances de la plataforma con la interconexión óptica de cómputo. (Créditos: Intel Corporation)
Lunar Lake: En el evento Hot Chips de agosto de 2024, Intel presentó cuatro sesiones que cubrieron su experiencia en arquitectura de IA en la nube con Intel Gaudi 3, cliente con procesadores Lunar Lake y edge con sistema en chip Intel Xeon 6, y todo vinculado por los avances de la plataforma con la interconexión óptica de cómputo. (Créditos: Intel Corporation)
Interconexión óptica de cómputo: En el evento Hot Chips de agosto de 2024, Intel presentó cuatro sesiones que cubrieron su experiencia en arquitectura de IA en la nube con Intel Gaudi 3, cliente con procesadores Lunar Lake y perímetro con Intel Xeon 6 sistema en chip, y todo vinculado por los avances de la plataforma con la interconexión óptica de cómputo. (Créditos: Intel Corporation)
Descargar todas las imágenes (ZIP, 16 MB)
Novedades: Al demostrar la profundidad y amplitud de sus tecnologías en Hot Chips 2024, Intel mostró los avances en los casos de uso de IA, desde el centro de datos, la nube y la red hasta el perímetro y la PC, al tiempo que cubrió el chiplet de interconexión óptica de cómputo (OCI) más avanzado y completamente integrado de la industria para el procesamiento de datos de IA de alta velocidad. La compañía también reveló nuevos detalles sobre el SoC Intel® Xeon® 6 (con nombre en código Granite Rapids-D), programado para lanzarse durante la primera mitad de 2025.
"En todos los usos de IA para consumidores y empresas, Intel ofrece continuamente las plataformas, sistemas y tecnologías necesarias para redefinir lo que es posible. A medida que se intensifican las cargas de trabajo de IA, la amplia experiencia de Intel en la industria nos permite comprender lo que necesitan nuestros clientes para impulsar la innovación, la creatividad y los resultados empresariales ideales. Si bien un silicio con más desempeño y un mayor ancho de banda de la plataforma son esenciales, Intel también sabe que cada carga de trabajo tiene desafíos únicos: un sistema diseñado para el centro de datos ya no puede simplemente reutilizarse para el perímetro. Con experiencia comprobada en arquitectura de sistemas en todo el continuo de cómputo, Intel está bien posicionada para impulsar la próxima generación de innovación en IA".
Lo que Intel está presentando: En Hot Chips 2024, Intel presentó cuatro documentos técnicos que destacan el SoC Intel Xeon 6, el procesador de cliente Lunar Lake, el acelerador de IA Intel® Gaudi® 3 y el chiplet OCI.
Diseñado para el perímetro: el sistema integrado en chip Intel Xeon 6 de próxima generación
Praveen Mosur, miembro de Intel y arquitecto de redes y edge silicon, reveló nuevos detalles sobre el diseño del sistema en chip (SoC) de Intel Xeon 6 y cómo puede abordar los desafíos de casos de uso específicos del perímetro, como las conexiones de red poco confiables y el espacio y la potencia limitados. Según el conocimiento obtenido de más de 90 000 implementaciones de1 perímetro en todo el mundo, el SoC será el procesador con mayor optimización para el perímetro de la compañía hasta la fecha. Con la capacidad de escalar desde dispositivos periféricos a nodos perimetrales utilizando una arquitectura de un solo sistema y aceleración de IA integrada, las empresas pueden administrar de manera más fácil, eficiente y confidencial todo el flujo de trabajo de IA, desde la ingesta de datos hasta la inferencia, lo que ayuda a mejorar la toma de decisiones, aumentar la automatización y ofrecer valor a sus clientes.
El sistema integrado en chip Intel Xeon 6 combina el chiplet de cómputo de los procesadores Intel Xeon 6 con un chiplet de E/S optimizado para el perímetro desarrollado sobre la tecnología de procesamiento Intel 4. Esto permite que el SoC ofrezca mejoras significativas en el desempeño, la eficiencia energética y la densidad de transistores en comparación con las tecnologías anteriores. Las características adicionales incluyen:
- Hasta 32 carriles PCI Express (PCIe) 5.0.
- Hasta 16 carriles Compute Express Link (CXL) 2.0.
- 2x100G Ethernet.
- Cuatro y ocho canales de memoria en paquetes BGA compatibles.
- Mejoras específicas del perímetro, incluidos rangos de temperatura de funcionamiento extendidos y confiabilidad de clase industrial, lo que lo hace ideal para equipos robustos de alto desempeño.
Intel Xeon 6 SoC también incluye características diseñadas para aumentar el desempeño y la eficiencia de las cargas de trabajo de borde y red, incluida la aceleración de nuevos medios para mejorar la transcodificación y el análisis de video para OTT, VOD y medios de transmisión en vivo; Intel® Advanced Vector Extensions y Intel® Advanced Matrix Extensions para mejorar el desempeño de la inferencia; Intel® QuickAssist Technology para un rendimiento de red y almacenamiento más eficiente; Intel® vRAN Boost para reducir el consumo de energía para la RAN virtualizada; y compatibilidad con la plataforma Intel® Tiber™ Edge, que permite a los usuarios crear, implementar, ejecutar, administrar y escalar soluciones de periferia e IA en hardware estándar con una simplicidad similar a la de la nube.
Lunar Lake: Impulsando la próxima generación de PC con IA
Arik Gihon, arquitecto principal del sistema integrado en chip de la CPU del cliente, habló sobre el procesador de cliente Lunar Lake y cómo está diseñado para establecer un nuevo estándar para la eficiencia energética x86 al tiempo que ofrece un desempeño líder de núcleo, gráficos e IA del cliente. Los nuevos núcleos de desempeño (P-cores) y Efficient-cores (E-cores) ofrecen un desempeño asombroso con hasta un 40 % menos de energía de sistema en chip en comparación con la generación anterior. La nueva unidad de procesamiento neuronal es hasta 4 veces más rápida, lo que permite las mejoras correspondientes en IA generativa (GenAI) en comparación con la generación anterior. Además, los nuevos núcleos de la unidad de procesamiento gráfico Xe2 mejoran el rendimiento de gaming y gráficos en 1,5 veces con respecto a la generación anterior.
Se compartirán detalles adicionales sobre Lunar Lake durante el evento de lanzamiento del Intel Core Ultra el 3 de septiembre.
Acelerador de IA Intel Gaudi 3: diseñado para el entrenamiento y la inferencia de GenAI
Roman Kaplan, arquitecto jefe de aceleradores de IA, cubrió el entrenamiento y la implementación de modelos de IA generativa que requieren una amplia potencia informática. Esto genera importantes desafíos de costos y energía a medida que los sistemas se escalan, desde nodos individuales hasta vastos clústeres de miles de nodos.
El acelerador de IA Intel Gaudi 3 aborda estos problemas con su arquitectura optimizada que afecta a las arquitecturas de cómputo, memoria y redes, al tiempo que emplea estrategias como motores de multiplicación de matriz eficientes, integración de caché de dos niveles y una amplia red RoCE (RDMA sobre Ethernet convergente). Esto permite que el acelerador de IA Gaudi 3 logre un rendimiento significativo y eficiencias de energía que permiten a los centros de datos de IA operar de manera más rentable y sostenible, abordando los problemas de escalabilidad al implementar cargas de trabajo de GenAI.
La información sobre los aceleradores de IA Gaudi 3 y los futuros productos Intel Xeon 6 se compartirá durante un evento de lanzamiento en septiembre.
Chiplet de interconexión óptica de cómputo de 4 terabits por segundo para conectividad de XPU a XPU
El Grupo de Soluciones Fotónicas Integradas ( IPS) de Intel demostró el chiplet de interconexión óptica de cómputo más avanzado y completamente integrado de la industria, empaquetado junto con una CPU Intel y ejecutando datos en vivo.
Saeed Fathololoumi, arquitecto fotónico del Grupo de Soluciones Fotónicas Integradas, cubrió el chiplet OCI y su diseño para admitir la transmisión de datos de 64 canales de 32 gigabits por segundo (Gbps) en cada dirección en hasta 100 metros de fibra óptica. Fathololoumi también habló sobre cómo se espera que aborde las crecientes demandas de la infraestructura de IA de mayor ancho de banda, menor consumo de energía y mayor alcance. El chiplet OCI de Intel representa un salto adelante en la interconexión de alto ancho de banda para la escalabilidad futura de la conectividad de clúster CPU/GPU y nuevas arquitecturas informáticas, incluida la expansión coherente de memoria y el desglose de recursos en la infraestructura emergente de IA para centros de datos y aplicaciones de computación de alto desempeño (HPC).
Por qué es importante: La IA proporciona a las empresas y los consumidores un camino acelerado para llevar las ideas a niveles sin precedentes. Por ejemplo, los consumidores ahora tienen opciones de PC con IA que proporcionan capacidades inteligentes que elevan la productividad, la creatividad, los juegos, el entretenimiento y la seguridad, y las empresas pueden aprovechar el poder de la informática avanzada y la IA para mejorar la toma de decisiones, aumentar la automatización y obtener valor de los datos propietarios.
Las sesiones técnicas en profundidad en Hot Chips 2024 proporcionaron perspectivas técnicas únicas de todos los equipos de productos de Intel que llevan al mercado tecnologías de inteligencia artificial de próxima generación.
Detalle:
El desempeño varía según el uso, la configuración y otros detalles. Conozca más en intel.com/PerformanceIndex.
1 Datos internos de Intel.