兩名 IT 專業人士在手持裝置上協作,同時俯瞰龐大的資料中心

搭載效能核心(P-Core)的 Intel® Xeon® 6 處理器

從運算密集型 AI 到一般用途資料服務,搭載 P-Core 的 Intel® Xeon® 6 處理器在各種工作負載上表現出色。

搭載 P-Core 的 Intel® Xeon® 6 處理器的關鍵重點

  • 搭載 P-Core 的 Intel® Xeon® 6 處理器為運算密集型 AI 工作負載提供整合式矩陣引擎。

  • 每個核心的矩陣和向量運算引擎有助於 AI、HPC 和進階分析提高效能和效率。

  • 企業從快速、高效且可靠的運算中受益,有助於提升競爭力。

author-image

作者

深入瞭解搭載 P-Core 的 Intel® Xeon® 6:專為 AI 和分析工作負載打造

搭載 P-core 的 Intel® Xeon® 6900 系列處理器現已推出。從運算密集型 AI 和 HPC 使用案例到關鍵任務關係資料庫和分析應用程式,對資料中心效能的需求從未有過如此強烈。Intel® Xeon® 6 處理器利用這兩種產品線的產品,針對各種工作負載提供目標增強功能,進而強化 IT 團隊:P-core 和 Efficiency-core(E-core)產品

P-Core 產品採用超執行緒核心,採用能加速運算密集型 AI、HPC 和資料服務工作負載的內建矩陣引擎,而 E-Core 產品則省略了矩陣引擎,轉而採用更高、單執行緒的核心密度。

搭載 P-Core 的 Intel® Xeon® 6 處理器採用內建矩陣引擎,能加速運算密集型 AI 和 HPC 工作負載。

所有的 Intel® Xeon® 6 處理器,無論以 P-core 或 E-core 為主都採用相同的指令集、BIOS 和內建 I/O 加速器,包括 Intel® QuickAssist Technology(Intel® QAT)Intel® Data Streaming Accelerator(Intel® DSA)Intel® In-Memory Analytics Accelerator(Intel® IAA)Intel® Dynamic Load Balancer(Intel® DLB)

它們也支援相同的驅動程式、作業系統與應用程式,以及資料中心仰賴的相同可靠性、可用性與服務性(RAS)功能。

探索搭載 P-Core 優勢的 Intel® Xeon® 6 處理器

企業希望為語言、視覺和影像辨識以及推薦系統部署最先進的 AI 模型以節省資金和時間,並透過 HPC 推動的模擬和進階分析產生更深入的剖析。搭載 P-Core 的 Intel® Xeon® 6 處理器提供大量具有創新性的矩陣和向量引擎,以及超高記憶體和 I/O 頻寬,讓企業能夠把握這些機會。

為各種的工作負載部署高效能

搭載 P-Core 的 Intel® Xeon® 6 處理器可靈活擴充至高達 128 個核心、12 個記憶體通道,並針對每個插槽提供 96 條 PCIe 通道,協助企業滿足各種應用程式需求。對於希望緩解記憶體頻寬瓶頸的 IT 團隊,創新的結合多工器排列(MRDIMM)可提供每秒傳輸高達 8,800 兆(MT/s)的速度,同時能快速完成工作,有助於降低 TCO。內建加速器為目標工作負載提供額外的速度提升,實現更高的效能和效率。

充分利用 CPU 的強大 AI 效能

搭載 P-Core 的 Intel® Xeon® 6 處理器的設計旨在支援許多嚴苛的 AI 使用案例。P-core 透過加速在內建 AI 領域擴展 Intel 四個世代的領先地位,例如 Intel® Advanced Matrix Extensions(Intel® AMX),目前支援 int8、BF16 和 FP16(新)資料類型。因此,P-Core 有助於滿足從物件偵測到中型 GenAI 的多種 AI 模型服務層級協議(SLA),同時提供開放式標準、高效能、RAS 功能,並視需要支援其他加速器。

為一般用途工作負載最佳化每瓦效能

搭載 P-Core 的 Intel® Xeon® 6 處理器在完成多種工作負載上表現出色,主流系列中的主流產品採用 8 至 86 個核心,在雙 CPU 型系統中用於網路和儲存擴充卡擁有最高 176 條 PCIe 5.0 通道,以及單 CPU 型系統中的單插槽產品提供驚人的 136 條 PCIe 通道。所有 Intel® Xeon® 6 處理器的效率突出之處在於,隨著伺服器使用率的提升,能提供可擴充每瓦效能的能力,在整個負載線提供近乎線性的電力效能消耗。對於高效能要求的工作負載,這代表平台在高負載下高效使用電源,協助快速完成工作。

Performance-core 工作負載效能優勢:

相較於第 5 代 Intel® Xeon® 處理器:

  • 利用 Intel® AMX 的 Llama2 將效能提升高達 3 倍1
  • HammerDB MySQL 效能提升高達 2 倍2
  • 利用 MRDIMM 的 HPCG 評測基準測試效能提升高達 2.5 倍3

相較於第 2 代 Intel® Xeon® 處理器:

  • 使用 INT8 的 ResNet – 50 BSX 效能提升高達 17 倍4

相較於競爭對手:

  • 與 AMD EPYC 相比,MRDIMM 的 AI 推斷效能提升高達 5.5 倍4

透過增強的安全功能與企業一同成長

在內部部署、邊緣和雲端伺服器上追求新的商業模式和資料共享,即使在處理敏感或受監管的資料時也是如此。具有可信執行環境(TEE)的機密運算,有助於在使用時保護資料和 AI 模型。搭載 P-Core 的 Intel® Xeon® 6 處理器可讓客戶挑選最符合其業務和監管要求的機密運算技術。

 

  • 應用程式隔離:Intel® Software Guard Extensions(Intel® SGX)提供專為保護使用中資料而設計的應用程式隔離。Intel® SGX 是現今市場資料中心中研究最多、更新最多的機密運算技術。
  • 虛擬機器(VM)層級隔離:Intel® Trust Domain Extensions(Intel® TDX)提供 VM 層級的隔離和機密性。在 Intel® TDX 機密 VM 中,雲端主機、Hypervisor 及平台上的其他 VM 皆已隔離,無法存取訪客作業系統和 VM 應用程式。

為 P-Core 最佳化增強目標工作負載

管理 AI、HPC 和關係資料庫等使用案例之運算密集型工作負載的 IT 決策者會見識到部署搭載 P-Core 的 Intel® Xeon® 6 處理器的最大影響。新增的 MRDIMM 記憶體支援也有助於緩解記憶體存取限制,例如記憶體式資料庫或具有超大記憶體空間的大型語言模型(LLM)。

加速 AI 工作流程以維持競爭力

搭載 P-Core 的 Intel® Xeon® 6 處理器,其增強的核心、更多的記憶體頻寬和強大的矩陣引擎,提供充足的運算能力,支援用於推斷、微調和檢索增強生成(RAG)使用案例的中小型生成式 AI 模型。此外,針對 Intel® Xeon® 處理器的最佳化已整合到包括 TensorFlow 和 PyTorch 在內的熱門深度學習架構的主流發行版中。

管理日益複雜的 HPC 運算與模擬

搭載 P-core 的 Intel® Xeon® 6 處理器除了內建矩陣引擎,還有 Intel® Advanced Vector Extensions 512(Intel® AVX-512),能加速科學模擬常見的向量型數學。此平台搭載的叢集可協助釋放 3D 渲染、科學研究、金融模擬和電腦輔助工程的潛能,以加速取得成果。

實現基礎架構與儲存最佳化的全新境界

由於 P-Core 和 E-Core 共享相同的硬體平台,因此組織可以將系統與每種類型的核心混合使用,來管理基礎架構中的各種工作負載,同時不超出功率預算,並遵守資料隱私和主權法規。運算密集型 P-Core 可以支援 SAS 等密集的業務分析軟體,而 E-Core 可用於例如系統備份和軟體更新等執行低強度、高閒時間的工作負載。

提升生產力,協助消除邊緣延遲

讓高效能運算資源更靠近終端使用者和裝置,進而增強邊緣生產力並降低延遲。搭載 P-Core 的 Intel® Xeon® 6 處理器可在邊緣伺服器部署進階 AI 模型,並以所需的運算能力提供數千個 IoT 裝置執行快速深入解析。搭載 136 條 PCIe 通道的單插槽選項可在每單一處理器上提供更多擴充卡,也有助於整合空間受限部署的基礎架構。

拓展關係資料庫的同時,也維持快速、回應性的分析

P-Core 處理器中的進階向量引擎可有效執行單一指令、進階資料庫常見的多資料(SIMD)傾向工作負載以及分析使用案例。Intel® Xeon® 6 處理器也利用高水準的極低延遲快取,協助避免因資源爭奪而造成的延遲。搭載此平台和加速器(例如 Intel® QAT)的多功能配置,在分析及儲存複雜資料類型時可快速產生結果。

進一步瞭解 Intel® Xeon® 6 處理器

部署搭載 E-Core 和 P-Core 的 Intel® Xeon® 6 處理器有許多優勢。若要更深入瞭解兩者的技術性和競爭優勢,請下載並閱讀 Prowess Consulting 的分析,並聯絡您的 Intel 代表以開始使用產品。