跳到主要內容
支援知識庫

在CPU上推斷FP32模型格式比FP16模型格式快的原因是什麼？

內容類型: 相容性   |   文章 ID: 000093301   |   最近查看日期: 2023 年 11 月 20 日
描述 解決方法

描述

  1. 推斷出 CPU 上的 FP32 模型格式和 FP16 模型格式。
  2. FP32模型格式的推理速度比FP16模型格式快。
  3. 無法判斷原因時推斷 FP32 模型格式比 CPU 上的 FP16 模型格式快。

解決方法

推斷結果因具有支援的模型格式的支援設備外掛程式而異。

相關產品

本文章適用 3 產品。
Intel® Xeon Phi™ 處理器軟體 OpenVINO™ toolkit 效能程式庫

免責聲明

這個頁面的內容綜合了英文原始內容的人工翻譯譯文與機器翻譯譯文。本內容是基於一般資訊目的，方便您參考而提供，不應視同完整或準確的內容。如果這個頁面的英文版與譯文之間發生任何牴觸，將受英文版規範及管轄。 查看這個頁面的英文版。

需要更多協助嗎？

聯絡支援部門
聯絡支援部門