使用 Cisco UCS X 系列 M7 刀鋒伺服器 / 第 5 代 Intel Xeon 處理器進行生成式 AI 推斷

描述

搭載Intel® Xeon®可擴充處理器和 Cisco Nexus® 的 Cisco UCS® 解決方案，為大規模部署生成式 AI 提供了引人注目且可擴充的基礎。此體系結構提供以下組合：

• 最佳性能： 搭載 Intel Xeon 可擴充處理器的 Cisco UCS 搭配專門的 AI 加速器和優化的軟體架構，可大幅提升推斷效能與可擴充性。Cisco Nexus 9000 交換機提供高頻寬、低延遲、擁塞管理機制和遙測，以滿足 AI/ML 應用程式的苛刻網路要求。
• 平衡的架構： Cisco UCS 在深度學習和非深度學習運算方面都表現出色，這對整個推斷管道至關重要。這種平衡的方法可以帶來更好的整體性能和資源利用率。
• 按需擴展： Cisco UCS 可隨著您的生成式 AI 推斷需求無縫擴充。使用 Cisco Intersight® 隨著模型的發展和工作負載的增長，以自動化的方式添加或刪除伺服器、調整記憶體容量和配置資源。

Cisco UCS X 系列模組化系統以及 C240 和 C220 機架式伺服器支援第 5 代 Intel Xeon 可擴充處理器，因此您可以選擇使用模組化或機架外型規格在數據中心或邊緣執行推斷。