Intel® Data Center GPU Flex Series
Intel® Data Center GPU Flex Series 是業界最開放的 GPU 解決方案,提供無與倫比的靈活性並結合強大的媒體處理與虛擬化功能。
Intel® Data Center GPU Flex Series
利用開放式 GPU 解決方案突破視覺創新的極限
Intel® Data Center GPU Flex Series 利用 Xe-HPG 微架構,使用相同的硬體支援一系列虛擬桌上型基礎架構 (VDI)、媒體處理與交付,以及 AI 推理解決方案。
打造像素級完美的效能
最多 4 個 Xe 媒體引擎,協助 AI 驅動高達 256 TOPS,相較於 NVIDIA A10,視覺推斷效能最高提升 55%。1
精省成本,無懈可擊
不收取專利費或授權費,再加上內建的可靠性、可用性與易維修性(RAS)功能,與 NVIDIA A16 相比,總體擁有成本(TCO)最多可降低 50%。2
平衡與靈活的完美交會
GPU 內建 AV1 編碼可減少頻寬需求,並實現高串流密度,4K 媒體轉碼串流比 NVIDIA L4 高出 4 倍。3
高效輕鬆掌握,控制簡單直覺
透過開源 oneAPI 的最佳化與程式碼可攜性,相較於 NVIDIA A10,在功率為 50% 時輸送量可提升 5 倍。4
採用 Xᵉ 架構,建構無可比擬的靈活基礎
Intel® Data Center GPU Flex 140:多面向的視覺引擎
在 75W 半高 PCIe 規格中,配備最多四個媒體引擎與 16 個 Xe 核心,全面釋放 VDI 效率與媒體處理精準度的潛能。以無與倫比的易用性、靈活性與可擴充性實現進階工作負載。
為 VDI 打造無限工作空間
透過硬體支援的單根 I/O 虛擬化(SR-IOV),提供最多 62 個虛擬功能,且無需授權費用,Intel® Data Center GPU Flex 140 可在大規模部署下實現卓越的品質、靈活性與生產力。
Intel® Data Center GPU Flex 170:分析圖形引擎
搭載 150W 全高 PCIe 外形規格,最多 32 個 Xe 核心,進入 AI 分析速度與準確度前所未有的新時代。 Intel® Data Center GPU Flex 170 專為適應性 AI 工作負載量身打造,最高可達 500 TOPS。
釋放視覺推理與分析的卓越 AI 效能
基於開放式標準並原生支援核心 AI 框架,Intel® Data Center GPU Flex 170 可實現每時鐘週期最高 128 FP16/BF16 運算、256 int8 運算或 512 int4/int2 運算,提供強大且可擴展的推論能力。
Intel® Data Center GPU Flex 170V:經濟高效的 VDI
對於 VDI 應用,在搭載 32 個 Xe 核心的 150W 全高 PCIe 外型規格中,體驗卓越的運算效能和較低的複雜度。Intel Data Center GPU Flex 170V 專為降低總體擁有成本而打造,同時提供實現一流 VDI 功能所需的效能與功能。
擴展 Intel® Data Center GPU Flex Series 功能
進一步探索相關業務與技術資源
繼續探索更多與 Intel® Data Center GPU Flex Series 相關的主題。
產品與效能資訊
物件偵測的視覺推論提升高達 55%:Intel 截至 2022 年 9 月 16 日的測試。Intel 配置:2S Intel® Xeon® 4309Y 處理器、256 GB DDR4-2933、1x Intel® Data Center GPU Flex 170、Ubuntu 20.04 Kernel 5.10、Agama 419、OpenVINO™ 2022.2.0 – 透過 YOLO v5 以 25 FPS 的速度進行 90 個 1080p AVC 串流。 NVIDIA 配置:2S Intel® Xeon® 6336Y 處理器、128 GB DDR4-3200、1x NVIDIA A10 GPU、Ubuntu 20.04、Kernel 5.15、NVIDIA 驅動程式 515.65.01、CUDA 11.7 Update 1、DeepStream 6.1.1、TensorRT 8.4.1.5 – 透過 YOLO v5 以 25 FPS 的速度進行 58 個 1080p AVC 串流。詳情請見 www.intel.com/performanceindex (Events, Intel® Innovation 2022, Jeff McVeigh Press & Analyst Briefing at Innovation 2022)
VDI 的總體擁有成本最高可降低 50%:定價截至 2023 年 10 月 11 日。 Intel® Data Center GPU Flex Series 定價為 Intel 定價團隊建議的客戶定價。實際系統級成本會因伺服器配置而異。 實際定價可能會有所差異。 Intel® Data Center GPU Flex Series 170 配備 16 GB vRAM,並支援 16 位使用者。 NVIDIA 成本包括 GPU 與每位使用者的 NVIDIA vGPU vPC CCU 授權費用,為期五年,每個使用者設定檔 1 GB。NVIDIA A16 有 64 GB 空間,可支援 64 位使用者。定價來源:cdw.com/product/pny-nvidia-a16-64gb-gddr6-graphic-card/7091857 與 nvidia.com/content/dam/en-zz/Solutions/design-visualization/solutions/resources/documents1/Virtual-GPU-Packaging-and-Licensing-Guide.pdf。
4K 媒體轉碼串流 (FFmpeg) 增加最多 4 倍:Intel 截至 2023 年 10 月 9 日的測試。Intel 配置:CPU:Intel® Xeon® Platinum 6336Y CPU @ 2.40GHz,步進 6)、兩個插槽、24 核心、兩個執行緒 (96 CPU)、記憶體:GB 32-ch 3200 MT/sec、ucode:0xd000280、BIOS:SE5C620.86B.01.01.0003.2104260124、作業系統:Ubuntu 22.04 LTS (Jammy Jellyfish)、核心:5.15.0-84-generic、GPU:Intel® Data Center GPU Flex Series 140 x 1—B1 PRQ RLG1,驅動程式:Production_682.22_20230912,GPU 韌體:ATS_M75_128_B0_ES_029_23WW08_02_GS2054_PC9815_OP1060_Headless_P2SB_DS_ECC_EN (ECC 關閉),HT 啟用,渦輪啟用,FFmpeg n6.0,從 PVT 卡收集的資料 < 55C 溫度。NVIDIA 配置:系統供應商:GIGABYTE G492-H80-00,CPU:Intel® Xeon® Gold 6338 CPU @ 2.00GHz,步進 6),兩個插槽、32 核心、兩個執行緒 (128 CPU),記憶體:256 GB 32-ch 3200 MT/sec,ucode:0xd000389,BIOS:F25,作業系統:Ubuntu 22.04 LTS (Jammy Jellyfish),核心:5.15.0-67-generic,GPU:NVIDIA L4 (UUID:GPU-143f747e-97c2-c500-2122-a88ab89fffe5) SN:1325222012830,驅動程式:docker:nvidia/cuda:12.2.0-devel-ubuntu22.04、535.104.05 CUDA 12.2,GPU 韌體:Vbios 95.04.29.00.06 (ECC 關閉),HT 啟用,渦輪啟用,FFmepg 版本 5.1.git(g9ef20920ab),NVIDIA-smi 535.104.05,在 NVIDIA L4 卡上收集資料 < 55C 溫度。詳情請見 intel.com/performanceindex (Events, ISC 2023)。
採用 Intel® 架構,在 50% 功率下輸送量提升 5 倍:Intel 截至 2022 年 8 月 20 日的測試。Intel 配置:2x Intel® Xeon® 6336Y 處理器,1024 GB DDR4 3200,1x Intel Data Center GPU Flex 140 (ECC 啟用),Ubuntu 20.04 核心:5.10,intel-media-22.5.0,預先生產的 FFmpeg。 NVIDIA 配置:2x Intel® Xeon® 6336Y 處理器、128 GB DDR4 3200、1x NVIDIA A10 (ECC 啟用)、Ubuntu 20.04 Kernel: 5.10、FFmpeg N-107771-gf6a36c7cf9。詳情請見 intel.com/performanceindex(活動、Intel® Innovation 2022、採用 Intel® Flex 系列 GPU 交付內容)。
結果可能會有所差異。