文章 ID: 000089266 內容類型: 疑難排解 最近查看日期: 2022 年 09 月 08 日

使用多重外掛程式推斷兩個Intel® 類神經電腦棒 2 (NCS2s) 時無法加速推斷時間

BUILT IN - ARTICLE INTRO SECOND COMPONENT
摘要

使用多重外掛程式的兩個 NCS2 推斷模型的最佳方式

描述
  • 推斷自訂 YOLOv4 模型,兩個 NCS2 使用多外掛程式, MULTI:MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480.
  • 推斷時間並未加速。
解決方法

使用多重 NCS2 的多外掛程式的最佳方式是 設定 每個 NCS2,並在上面 建立 多裝置。

from openvino.inference_engine import IECore

ie = IECore()

myriad1_config = {}
myriad2_config = {}
ie.set_config(config=myriad1_config, device_name="MYRIAD.3.1-ma2480")
ie.set_config(config=myriad2_config, device_name="MYRIAD.3.3-ma2480")
# Load the network to the multi-device, specifying the priorities
exec_net = ie.load_network(
network=net, device_name="MULTI", config={"MULTI_DEVICE_PRIORITIES": "MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480"}
)
# Query the optimal number of requests

#Use -nireq 10 to get maximum FPS.
nireq = exec_net.get_metric("OPTIMAL_NUMBER_OF_INFER_REQUESTS")

相關產品

本文章適用於 2 產品

這個頁面的內容綜合了英文原始內容的人工翻譯譯文與機器翻譯譯文。本內容是基於一般資訊目的,方便您參考而提供,不應視同完整或準確的內容。如果這個頁面的英文版與譯文之間發生任何牴觸,將受英文版規範及管轄。 查看這個頁面的英文版。