文章 ID: 000058227 內容類型: 產品資訊與文件 最近查看日期: 2023 年 06 月 06 日

執行多個程式時,OpenVINO™推斷時間增加

環境

UbuntuOpenVINO 2021.2

BUILT IN - ARTICLE INTRO SECOND COMPONENT
摘要

將多個推斷程式結合到不同 CPU 的快速步驟

描述

執行兩個程式推斷相同模型時,推斷時間會加倍。

  • 使用OpenVINO™推斷模型。
  • 執行單一程式時,推論時間約為 300ms。
  • 使用兩個程式時,兩個程式的推斷時間會變成 600 毫秒。
解決方法
  1. main.cpp腳本中加入下列命令。

    ie.SetConfig({ { CONFIG_KEY(CPU_BIND_THREAD), "NO" } }, "CPU")

  2. 建立 示範。
額外資訊
  • KEY_CPU_BIND_THREAD設定的預設值為 YES。
  • 在 Linux*上,這會導致兩個程式結合到相同的 CPU 核心,並將推斷時間加倍。
  • 從 Windows* 和 Linux* 上的 CPU 核心將KEY_CPU_BIND_THREAD設定為無卸載推斷線程。

如需 CPU 外掛程式的組態參數的詳細資訊,請參閱 支援的組態參數

相關產品

本文章適用於 2 產品

這個頁面的內容綜合了英文原始內容的人工翻譯譯文與機器翻譯譯文。本內容是基於一般資訊目的,方便您參考而提供,不應視同完整或準確的內容。如果這個頁面的英文版與譯文之間發生任何牴觸,將受英文版規範及管轄。 查看這個頁面的英文版。