¿Es posible solicitar predicción mediante REST en OpenVINO™ servidor modelo?
Tipo de contenido: Compatibilidad | ID del artículo: 000098156 | Última revisión: 21/03/2024
No se puede solicitar la predicción mediante REST en OpenVINO™ Model Server.
Utilice los códigos siguientes para solicitar predicción mediante REST en OpenVINO™ Model Server:
from ovmsclient import make_http_client
client = make_http_client("localhost:8000")
with open("img.jpeg", "rb") as f:
data = f.read()
inputs = {"input_name": data}
results = client.predict(inputs=inputs, model_name="my_model")
Consulte TensorFlow* Serving API.