文章 ID: 000059690 內容類型: 產品資訊與文件 最近查看日期: 2023 年 03 月 02 日

模型的複雜性與其推斷輸送量之間的關係是什麼?

環境

NCS2

BUILT IN - ARTICLE INTRO SECOND COMPONENT
摘要

可能影響從效能標竿工具獲得的 FPS 的因素

描述

無法確定為何效能標竿工具會針對兩種非常複雜的模型報告類似的推斷 FPS,而這兩種模型是由 Giga 浮點運算 (GFLOP) 所定義。

解決方法
  • FLOP 數量增加直接與 FPS 數量減少成正比。然而,FPS 和 FLOP 之間沒有公平的比較。
  • 可能影響從效能標竿工具獲得的 FPS 的因素:
    • 以同步和非同步模式執行
    • 串流數量
    • 推斷請求數量
額外資訊

Intel® NCS2建置於具有 16 個可程式化著色核心和專用神經運算引擎的 Intel® Movidius™ Myriad™ X VPU 上。此功能可提升網路的效能。

相關產品

本文章適用於 2 產品

這個頁面的內容綜合了英文原始內容的人工翻譯譯文與機器翻譯譯文。本內容是基於一般資訊目的,方便您參考而提供,不應視同完整或準確的內容。如果這個頁面的英文版與譯文之間發生任何牴觸,將受英文版規範及管轄。 查看這個頁面的英文版。