快速連結
最近
Intel Gaudi® 3 PCIe 卡 (HL-338) 透過標準 PCIe Gen5 外型規格提供 AI 加速,可與現有伺服器緊密整合。專為大型語言模型、多模態模型與企業 RAG 等要求嚴苛的工作負載而設計,採用標準乙太網路,有助於以經濟高效的方式擴充。
避免投資高風險的封閉式專有技術,例如 NVLink、NVSwitch 和 InfiniBand。
相較於 H100,每個加速器的 I/O 連線能力高 33%1,可以最佳化成本實現大規模垂直擴充與水平擴充。
使用已擁有的網路基礎架構,以標準乙太網路硬體支援未來需求。
Intel Gaudi 3 AI 加速器的設計,讓最大且最複雜的部署,獲得簡單且符合成本效益的 AI 擴充能力。
利用最新的 Intel Gaudi 3 加速器系統打造 AI 解決方案;這款加速器專為擴充規模與延展性打造,採用全乙太網路網狀架構,並支援廣泛的業界 AI 模型與架構。
Intel® Gaudi® 3 AI 加速器讓您能夠使用開放式社區型軟體與業界標準乙太網路,以更靈活的方式擴充系統。查看 Signal65 的測試結果。
在更短的時間內將概念驗證轉化為正式量產。Intel Gaudi 3 AI 加速器獲得強大軟體工具、資源和訓練組合支援,涵蓋移轉和部署。瞭解有哪些可協助簡化 AI 工作的資源。加入開發者社群。
最高
2 倍
AI 運算 (FP8) 相較於 Intel Gaudi 2 AI 加速器
4 倍
AI 運算 (BF16) 相較於 Intel Gaudi 2 AI 加速器
網路頻寬相較於 Intel Gaudi 2 AI 加速器
為快速投資報酬率而設計。無論是從頭開始、微調現成模型,還是從 GPU 型的方法移轉,都可以輕鬆著手使用 Intel Gaudi 3 AI 加速器。
善用軟體工具與開發者資源,輕鬆快速上手。
繼續使用團隊已知的資料庫。
利用開放原始碼工具(包括 HuggingFace 的資源)自訂參考模型、開始新模型或移轉現有模型。
利用專門打造的軟體工具,快速移植現有的解決方案。
產品與效能資訊
這個頁面的部分影像由 AI 生成。
1 NVIDIA H100 GPU(900 GB/s 封閉式 NVLink 連線)相較於 Intel® Gaudi® 3 加速器(1200 GB/s 開放標準 RoCE)。