Error: "ncGraphAllocate: 2127 no hay suficiente memoria para asignar tensores intermedios en el dispositivo remoto" al ejecutar inferencia en Barra de cómputo neuronal Intel® 2 (Intel® NCS2)

Recibir el siguiente error al intentar ejecutar inferencia en un modelo personalizado con el Intel® NCS2:

E: [nCAPI] [388407] [object_detectio] ncGraphAllocate:2127 Not enough memory to allocate intermediate tensors on remote device

• Si es posible, ejecute uno de los modelos de preentrenamiento de OpenVINO para asegurarse de que no haya problemas de memoria.
• Intente establecer NUM_STREAMS opción en 1, ya que esto reduce el tamaño de memoria requerido.

El modelo puede ser demasiado grande para el Intel® NCS2. Mientras que la memoria interna del Intel® NCS2 es de aproximadamente 500 MB, 100 MB de memoria se reservan para el procesamiento intermedio, que es la memoria que se asigna para el procesamiento de la capa actual. Por ejemplo, un modelo de 181 MB supera la capacidad de memoria para el procesamiento intermedio.