Ir al contenido principal
Base de conocimientos de asistencia

No se puede ejecutar Benchmark_app para el modelo ONNX en GPU

Tipo de contenido: Resolución de problemas   |   ID del artículo: 000095644   |   Última revisión: 24/07/2023

Entorno

OpenVINO 2023.0

Descripción

  • Modelo ONNX inferido con OpenVINO™ Benchmark_app 2023.0 en CPU y GPU.
  • La inferencia se realizó correctamente en la CPU pero falló en la GPU.

Resolución

Actualmente, la compatibilidad con formas dinámicas para GPU es una característica de vista previa y tiene las siguientes limitaciones:

  • Es compatible principalmente con modelos de procesamiento de lenguaje natural (NLP). No todas las operaciones y la optimización pasan y admiten formas dinámicas. Como resultado, un modelo determinado puede bloquearse o experimentar caídas significativas en el rendimiento.
  • Debido a la sobrecarga de tiempo de ejecución dominante en el dispositivo host, las formas dinámicas pueden tener un desempeño peor que las formas estáticas en una GPU discreta.
  • No se admite el rango dinámico.

Más información

Consulte Dispositivo GPU para obtener más información.

Productos relacionados

Este artículo se aplica a 3 productos.
Software del procesador Intel® Xeon Phi™ OpenVINO™ toolkit Bibliotecas de desempeño

Descargos de responsabilidad legales

El contenido de esta página es una combinación de la traducción humana y automática del contenido original en inglés. Este contenido se ofrece únicamente para su comodidad como información general y no debe considerarse completa o precisa. Si hay alguna contradicción entre la versión en inglés de esta página y la traducción, prevalecerá la versión en inglés. Consulte la versión en inglés de esta página.