Cómo evitar el problema de pérdida de memoria al ejecutar OpenVINO™ muestras de C++ con el Intel Inspector.
- Se ejecutó OpenVINO™ Ejemplo de clasificación de imágenes Async C++con Intel® Inspector para comprobar el problema de memoria.
Comando utilizado:
$ pwd
/home/centos/inference_engine_cpp_samples_build/intel64/Release
$ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -c mi3 ./classification_sample_async -m /opt/intel/openvino_2021.3.394/deployment_tools/open_model_zoo/tools/downloader/intel/image-retrieval-0001/FP16-INT8/image-retrieval-0001.xml -i /home/centos/images -nt 8
$ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -report observations - Intel® Inspector informe generado que detalla el problema de la memoria.
La aplicación de análisis de desempeño se utilizó como referencia para maximizar el desempeño de la inferencia. Hubo algunos códigos relacionados con las estadísticas de latencia en la aplicación de análisis de desempeño.
La extracción de los snippets relacionados del código hará que la memoria sea estable.
No se recomienda utilizar benchmark_app aplicación para pruebas de esfuerzo, ya que utiliza la clase privada std::vector<>_latencies en la clase InferRequestsIndex , que recopila cada valor de latencia y calcula el valor medio de latencia.