當執行多個程序時，OpenVINO™ 推論時間會增加

當執行兩個程序以推論同一模型時，推論時間會加倍。

• 使用 OpenVINO™ 來推斷模型。
• 執行單一程序時，推論時間約為 300 毫秒。
• 使用兩個程序時，兩個程序的推論時間均為 600ms。

1. 在您的應用程式中加入 以下設定。
   Python*： core.set_property("CPU", {ov.properties.hint.enable_cpu_pinning(False)})
   C++ : core.set_property("CPU", ov::hint::enable_cpu_pinning(false));
2. 建立 示範。

• 預設值 enable_cpu_pinning property is enabled (true or YES) on Linux* and disabled (false or NO) on Windows* and macOS*.
• 在 Linux 上，預設設定是 enable_cpu_pinning is enabled, which in some scenarios can cause multiple processes to bind to the same CPU core, potentially doubling inference time.
• 將屬性設定為 false unbinds inferencing threads from specific CPU cores, allowing the operating system to schedule threads, which may be beneficial in applications with several parallel workloads.

更多資訊請參閱效能提示與執行緒排程。