跳到主要內容
支援知識庫

模型的複雜度與其推論吞吐量之間有什麼關係?

內容類型: 產品資訊與文件   |   文章 ID: 000059690   |   最近查看日期: 2026 year 03 month 09 day

環境

NCS2

說明

無法確定為何基準工具會報告兩個複雜度差異很大的模型(由千萬浮點運算(GFLOPs)定義的推論 FPS 相似。

解決方法

  • FLOP數量越多,FPS越低,成正比。然而,FPS和FLOP之間並沒有公平的比較。
  • 影響 Benchmark Tool FPS 的因素:
    • 同步與非同步模式運行
    • 流數
    • 推理請求數量

相關產品

本文章適用 1 個產品。

免責聲明

這個頁面的內容綜合了英文原始內容的人工翻譯譯文與機器翻譯譯文。本內容是基於一般資訊目的,方便您參考而提供,不應視同完整或準確的內容。如果這個頁面的英文版與譯文之間發生任何牴觸,將受英文版規範及管轄。 查看這個頁面的英文版。