Paquete Intel® FPGA AI

Descripción general

Las FPGAs Intel® permiten la inferencia de aprendizaje profundo en tiempo real, con baja latencia y bajo consumo energético, combinada con las siguientes ventajas:

• flexibilidad de E/S
• reconfiguración
• facilidad de integración en plataformas personalizadas
• vida útil prolongada

Intel® FPGA AI Suite se desarrolló con la visión de facilitar el uso de la inferencia de inteligencia artificial (IA) en las FPGAs Intel®. El paquete les permite a los diseñadores de FPGAs, a los ingenieros de aprendizaje automático y a los desarrolladores de software crear plataformas FPGA de IA optimizadas de forma eficiente.

Las funcionalidades en Intel® FPGA AI Suite aceleran el desarrollo de FPGAs para la inferencia de IA mediante el uso de marcos de trabajo conocidos y populares en la industria, como TensorFlow, PyTorch y el kit de herramientas OpenVINO™, a la vez que aprovechan flujos de desarrollo de FPGAs sólidos y probados con el software Intel® Quartus® Prime.

El flujo de la herramienta Intel® FPGA AI Suite funciona con el kit de herramientas OpenVINO™, un proyecto de código abierto para optimizar la inferencia en diversas arquitecturas de hardware. El kit de herramientas OpenVINO™ toma los modelos de aprendizaje profundo de todos los marcos de trabajo de aprendizaje profundo más importantes (como TensorFlow, PyTorch, Keras) y los optimiza para la inferencia en diversas arquitecturas de hardware, incluidas diversas CPUs, CPU+GPU y FPGAs.

Entérese cómo Intel® FPGA AI Suite puede agregar IA de FPGA a sistemas integrados y centros de datos. Comuníquese con Ventas de Intel para conocer los precios y la disponibilidad ›

Flujo de desarrollo de inferencia de IA mediante FPGA

El flujo de desarrollo de inferencia de IA se muestra en la Figura 1. El flujo combina a la perfección un flujo de trabajo de hardware y software en un flujo de trabajo genérico integral de IA. A continuación, se indican los pasos:

1. El optimizador de modelos del kit de herramientas OpenVINO™ crea archivos de red de representación intermedia (.xml), y archivos de ponderaciones y sesgos (.bin).

2. El compilador de Intel® FPGA AI Suite se usa para lo siguiente:

• Proporcionar un área estimada o métricas de desempeño para un archivo de arquitectura determinado, o producir un archivo de arquitectura optimizado. (La arquitectura hace referencia a los parámetros de PI de inferencia, como el tamaño de la matriz de PE, las precisiones, las funciones de activación, los anchos de la interfaz, los tamaños de las ventanas, etc.)
• Compilar los archivos de red en un archivo .bin con particiones de red para la FPGA y la CPU (o ambas), junto con ponderaciones y sesgos.

3. La aplicación de inferencia del usuario importa el archivo .bin compilado en la herramienta de tiempo de ejecución.

• Las interfaces de programación de aplicaciones (API) en herramientas de tiempo de ejecución incluyen la API del motor de inferencia (CPU y FPGA de particiones en herramienta de tiempo de ejecución, inferencia de agenda) e IA de FPGA (memoria DDR, bloques de hardware de FPGA).
• Los diseños de referencia demuestran las operaciones básicas para importar .bin y ejecutar la inferencia en la FPGA con CPUs host compatibles (procesadores x86 y ARM).

Arquitecturas a nivel del sistema

Intel® FPGA AI Suite es flexible y configurable para diversos casos de uso a nivel del sistema. En la Figura 2 se indican las formas típicas de incorporar la PI de FPGA AI Suite en un sistema. Los casos de uso abarcan diferentes mercados verticales, desde plataformas integradas optimizadas que van desde aplicaciones con CPUs host (procesadores Intel® Core™, procesadores ARM) hasta entornos de centros de datos con procesadores Intel® Xeon®, así como aplicaciones sin host (o procesadores softcore, como los procesadores Nios® V).