Intel® Gaudi® AI 加速器
第一代深度學習訓練與推斷處理器。
Intel® Gaudi® AI 加速器
實現雲端與內部部署的領先性價比
採用第一代 Intel® Gaudi® AI 處理器,客戶便能享有同類 GPU 最具成本效益、高效能的訓練與推斷替代方案。與同類 Nvidia GPU 執行個體相比,這種深度學習架構能讓 Intel Gaudi AI 加速器型 AWS DL1 執行個體的訓練性性價比提升高達 40%。Intel Gaudi AI 加速器的高效架構也讓 Supermicro 透過搭載 Intel Gaudi AI 加速器的 Supermicro X12 伺服器,為客戶提供與 GPU 型伺服器同樣顯著的性價比優勢。
雲端中的 Intel® Gaudi® AI 加速器
馬上開始使用搭載 Intel Gaudi AI 加速器的 Amazon EC2 DL1 執行個體。
資料中心中的 Intel® Gaudi® AI 加速器
透過 Supermicro 將 Intel Gaudi AI 處理器建置至資料中心。
是什麼讓 Intel Gaudi AI 加速器如此高效?
- 16nm 製程技術
- DL 最佳化矩陣乘法引擎
- 8 個可程式化 Tensor處理器核心
- 32 GB 板載 HBM2
- 24 個 SRAM
- 10 個整合式 100G 乙太網路連接埠
在內部建立 Intel Gaudi AI 加速器系統的選項
對於想建置內部部署系統的客戶來說,我們推薦搭載八個 Intel Gaudi AI 處理器的 Supermicro X12 Server。對於想要自己配置 Intel Gaudi AI 加速器型伺服器的客戶,我們提供參考模型選項,即 HLS-1 與 HLS-1H。
在 Intel Gaudi AI 加速器上快速輕鬆地進行開發:Intel® Gaudi® 軟體
專為深度學習模型開發進行最佳化,並簡化現有 GPU 模型移轉至 Intel Gaudi AI 平台硬體的流程。整合 PyTorch 與 TensorFlow 架構,支援快速成長的電腦視覺、自然語言處理與多模態模型。事實上,Hugging Face 有 50 多萬個模型可以透過 Habana Optimum 軟體庫在 Intel Gaudi 加速器上輕鬆啟用。
開始移轉模型就像新增 2 行程式碼一樣簡單,如果是想自己設計核心程式的專家使用者,Intel Gaudi 平台也提供完整的工具組與程式庫。Intel Gaudi 軟體支援第一代 Intel Gaudi 加速器和 Intel Gaudi 2 加速器上的模型訓練與推斷。
如需進一步瞭解 Intel Gaudi 平台如何簡化在 Gaudi 移轉現有模型或建立新模型,請查看我們的 Intel Gaudi 軟體產品頁面 >