跳到主要內容

Intel® Gaudi® 3 AI 加速器

高效能 AI 提供更豐富的選擇,以及更高的彈性與擴充規模。

Intel Gaudi 圖誌

Intel® Gaudi® 3 PCIe 卡

Intel Gaudi® 3 PCIe 卡 (HL-338) 透過標準 PCIe Gen5 外型規格提供 AI 加速,可與現有伺服器緊密整合。專為大型語言模型、多模態模型與企業 RAG 等要求嚴苛的工作負載而設計,採用標準乙太網路,有助於以經濟高效的方式擴充。

Intel® Gaudi® 電路板的鳥瞰圖

開放

避免投資高風險的封閉式專有技術,例如 NVLink、NVSwitch 和 InfiniBand。

更高的 I/O

相較於 H100,每個加速器的 I/O 連線能力高 33%1,可以最佳化成本實現大規模垂直擴充與水平擴充。

專為乙太網路打造

使用已擁有的網路基礎架構,以標準乙太網路硬體支援未來需求。

擴充不費吹灰之力

Intel Gaudi 3 AI 加速器的設計,讓最大且最複雜的部署,獲得簡單且符合成本效益的 AI 擴充能力。

Gaudi AI 加速器 32 節點叢集四分之三的視圖

Intel Gaudi 3 AI Accelerator 32 節點叢集參考設計

利用最新的 Intel Gaudi 3 加速器系統打造 AI 解決方案;這款加速器專為擴充規模與延展性打造,採用全乙太網路網狀架構,並支援廣泛的業界 AI 模型與架構。

Gaudi 3 AI 加速器的分解視圖

為真實世界 AI 需求而設計

Intel® Gaudi® 3 AI 加速器讓您能夠使用開放式社區型軟體與業界標準乙太網路,以更靈活的方式擴充系統。查看 Signal65 的測試結果。

Intel® 與開發者專區圖誌

全面簡化端對端開發

在更短的時間內將概念驗證轉化為正式量產。Intel Gaudi 3 AI 加速器獲得強大軟體工具、資源和訓練組合支援,涵蓋移轉和部署。瞭解有哪些可協助簡化 AI 工作的資源。加入開發者社群

利用 Intel Gaudi 3 加速器省時省電

最高

2 倍

AI 運算 (FP8) 相較於 Intel Gaudi 2 AI 加速器

最高

4 倍

AI 運算 (BF16) 相較於 Intel Gaudi 2 AI 加速器

最高

2 倍

網路頻寬相較於 Intel Gaudi 2 AI 加速器

透過 OEM 部署 Intel Gaudi 3 AI 加速器

輕鬆開發

為快速投資報酬率而設計。無論是從頭開始、微調現成模型,還是從 GPU 型的方法移轉,都可以輕鬆著手使用 Intel Gaudi 3 AI 加速器。

為開發者最佳化

善用軟體工具與開發者資源,輕鬆快速上手。

與 PyTorch 整合

繼續使用團隊已知的資料庫。

支援全新和現有模型

利用開放原始碼工具(包括 HuggingFace 的資源)自訂參考模型、開始新模型或移轉現有模型。

輕鬆移轉 GPU 技術模型

利用專門打造的軟體工具,快速移植現有的解決方案。

在雲端體驗 Intel Gaudi AI 加速器

資源

產品與效能資訊

這個頁面的部分影像由 AI 生成。

1 NVIDIA H100 GPU(900 GB/s 封閉式 NVLink 連線)相較於 Intel® Gaudi® 3 加速器(1200 GB/s 開放標準 RoCE)。