用於人工智慧(AI)的現場可程式化閘陣列(FPGA)

瞭解 FPGA 的獨特特性如何協助在邊緣、資料中心與雲端實現 AI。

重點精華

  • FPGA 是可重新配置的運算元件,可用來加速 AI 工作負載。

  • FPGA 在實現邊緣、資料中心與雲端的 AI 方面扮演了重要的角色。

  • 利用 FPGA 實現 AI 解決方案,有助於最佳化能源效率、I/O 與效能,同時維持未來的靈活性。

  • 涉及 FPGA 的 AI 使用案例幾乎涵蓋各行各業,可部署在嵌入式裝置與 AI 伺服器中。

author-image

作者

FPGA 是什麼?

FPGA 是一種運算元件,可重新程式化,服務於不同用途。相較於 CPU 與 GPU 等處理技術,FPGA 的用途更廣,能夠重新配置以滿足各種使用案例。FPGA 提供速度、程式化與靈活性的組合,提供高效能,但無需開發客製晶片的成本和複雜性。

在 AI 領域,FPGA 通常用作 AI 加速器AI 處理器,協助實現從邊緣到雲端的 AI 工作負載。FPGA 內的互連性類似於人類大腦的神經連線。FPGA 中的可程式化邏輯架構也是以類似方式連接,這也是 FPGA 成為神經網路和其他 AI 工作負載優秀實現目標的原因之一。FPGA 與 CPU 結合部署,處理能重大影響整體 AI 應用程式是否成功的特定功能。

FPGA 在 AI 中的角色

FPGA 用於支援雲端、資料中心與邊緣的 AI 應用程式。這是一款卓有成效的工具,可協助消除記憶體緩衝並克服 I/O 瓶頸,這是 AI 系統最大的限制因素之一。FPGA 可加速資料擷取,進而加快整體 AI 工作流程

FPGA 特別適合各種工業、醫療、測試與測量、航太、國防與汽車應用中的邊緣 AI。可部署在 AI 伺服器與嵌入式裝置中,支援各種先進的使用案例。在解決方案設計中使用 FPGA 可帶來多項優勢,協助支援各種邊緣的資料需求,包括對 I/O 通訊協定強大的支援、低延遲、低功耗與較長的部署生命週期。

此外,FPGA 也用於 AI 應用程式網路。為了支援 AI,網路必須促進邊緣裝置、雲端服務和其他互連元件之間的快速資料傳輸與通訊。為了協助實現這項目標,FPGA 搭載最新一代的高速 I/O 標準,可用來加速無線與有線網路使用。也可用來讓網路新增 AI 增強功能,支援異常情況偵測、無線通道估計與無線解碼器融合等新興應用程式。

在此同時,雲端與資料中心環境中,FPGA 可用來加速資料庫、基因組學與網路,並協助最佳化 AI 推斷工作,例如大型語言模型、對話式 AI 與推薦系統。也用於神經網路應用,包括異常情況偵測、金融詐騙偵測與高速交易。在這些高效能的資料中心環境中,FPGA 的高能源效率有助於降低冷卻成本,並可支援開發更環保的 AI 技術。

FPGA 在 AI 方面的助益

FPGA 用於 AI 時提供多種優勢:

 

  • 輕鬆且高效地新增功能:設計師可利用 FPGA 向現有工作負載新增 AI 功能,例如深度封包檢測或金融詐騙偵測。FPGA 也可提供安全性、I/O、網路或前置/後置處理功能,無需額外晶片。
  • 達到高輸送量與低延遲的絕佳效能:FPGA 可繞過 CPU,直接將影片內嵌至 FPGA,為影片串流、轉錄和動作識別等即時應用提供低延遲和確定性延遲。設計師可從頭開始建置類神經網路,並打造最適合模型使用的 FPGA。
  • 透過內在靈活性提升投資報酬率:FPGA 晶片內的電路非硬蝕刻,可根據需要重新程式化。因此是最符合成本效益的硬體選項之一。此外也不僅能用於 AI。設計師可以將其他功能整合至同一晶片,進而節省成本和電路板空間。FPGA 的產品生命週期較長,因此採用 FPGA 的硬體設計可享有較長的產品壽命,短則數年,長則數十年。此類特性使其成為工業、國防、醫療和汽車市場應用的理想選擇。
  • 減少耗電量:透過 FPGA,設計師可根據應用需求微調硬體,協助滿足功耗效率需求。FPGA 也可適應多項功能,運用晶片提高能源效率。使用者可以使用一部分 FPGA 執行某項功能,而非整個晶片,因此 FPGA 可平行執行多項功能。
  • 最佳化 I/O:處理多個感應器的資料輸入(例如攝影機、LIDAR 與音訊感應器)時,FPGA 表現出色。在設計自動駕駛車、機器人與工業設備時,這項功能便非常實用。

FPGA 挑戰

使用 FPGA 時需要克服的一大障礙,是硬體設計通常需要程式設計專業知識。為了因應這項挑戰,可利用軟體型 FPGA 程式化模型減少所需的專業知識量。這些高階程式設計模型可讓資料科學家或模型開發者利用常見的 AI 架構(例如 TensorFlow 或 Caffe)建立神經網路,即使不清楚 FPGA 架構的細節也能在 FPGA 上完成部署。

FPGA AI 解決方案

用於 AI 的 FPGA 用來實現各行各業的許多使用案例:

 

  • 健康與生命科學應用包括醫療顯示器、具有影像辨識與物件偵測的 2D 診斷設備,例如 X 光設備與內視鏡、其他類型的病理偵測、基因組測序,以及外科手術機器人。
  • 軍事與航太:用途包括無人飛行載具(UAV)、目標偵測,以及雷達偵測與分類。
  • 工業應用:FPGA 在邊緣新增了基於 AI 的偵測與即時控制。
  • 視聽應用:實例包括視訊會議攝影機,其具有自動平移和變焦的臉部偵測功能;以及具有自動臉部偵測功能的攝影機,實現精確對焦。
  • 廣播影片:用途包括標準動態範圍到高動態範圍的轉換、影片解析度的智慧轉換,以及可變畫面播放速率的影片擷取與顯示。
  • 消費者應用:一個例子是具有眼睛偵測和立體影像追蹤的 3D 顯示器。
  • 汽車應用用途包括自動駕駛車輛中的物件偵測,以及資訊娛樂系統的控制與自訂。