現今一般網際網路使用者平均每天上網的時間接近 7 小時1 瀏覽最愛網站的消費者愈來愈不願接受傳統具針對性的快顯視窗和橫幅廣告。對於廣告商而言，最重要的是盡量準確鎖定這些內容，讓厭倦的訪客也能參與其中，同時也不會降低使用者體驗。
這就是為什麼許多公司轉而採用人工智慧（AI）驅動的內容推薦引擎，來確定最合適的展示內容。機器學習演算法利用大量上下文資料，包括最近觀看的內容、熱門話題，甚至是位置與一天當中的時間，進而預測線上的個體消費者最有可能感興趣的內容。
Taboola 自 2007 年起一直是這個領域的全球領導者，它在邊緣利用基於 AI 的預測引擎，提供與每位訪客獨特偏好最息息相關的、具針對性的內容與建議。Taboola 的解決方案具有 12,000 台伺服器與十個資料中心，每月將全球超過十億名客戶與本田和愛廸達這樣的廣告商串連起來。結果：每天產生數百億份個人化的內容推薦，無縫整合至《今日美國》或 MSN 這類發布商的頁面。
廣告商與零售商仰賴 Taboola 這樣的合作夥伴，即時提供具針對性、相關性與視覺吸引力的建議，以提升消費者的行動體驗。「我們透過提供一種服務，從網際網路帶來更豐富的體驗，協助廣告商將一般使用者轉為付費客戶，」Taboola 資訊科技與網路副總裁 Ariel Pisetzky 表示。
Taboola 解決方案的核心是採用開放原始碼 TensorFlow Serving（TFS）架構的神經網路。
Taboola 網路科技副總裁 Ariel Pisetzky 在 Taboola 的十個資料中心之一。
TFS 建構於 TensorFlow 之上，採用用戶端伺服器工作流程提供建議。TFS 伺服器收到用戶端的要求時，會透過預先訓練的 Taboola 神經網路模型執行客戶資料並傳回結果。
Taboola 希望在不犧牲效率的情況下提高應用程式輸送量，因此轉而採用 Intel 和第 4 代 Intel® Xeon® 處理器。
挑戰
Taboola 每天在大約 40 億個網頁上平均每頁提供 10 個推薦。「這些數字確實相當可觀，」Pisetzky 表示。「為了完成所有這些工作，建立及製造這些建議，我們必須有超高的效率，不僅在成本方面，在能源使用上對環境的影響也是如此。」
「對客戶來說，我們就是雲端，因此我們需要一個靈活、多功能且高效的 CPU，以便執行多項工作，」Pisetzky 表示：「它必須能夠根據一天當中的功耗需求進行上下調整，並且要有足夠的記憶體來執行我們需要快速完成的計算。」
Taboola 是一家規模相對較小的公司，需要深思熟慮地利用技術堆疊來平衡功耗和成本，進而在設備的整個生命週期中將效率與效能最佳化。擷取每個核心的最大效能是關鍵所在。
「與大型公司不同的是，我們沒有閒錢設計自己的解決方案、打造自己的晶片或編寫自己的作業系統，」Pisetzky 表示。「我們希望將研究與開發成本用於廣告商和發布商兩者的最佳化。」
為了提供更多的內容推薦，Taboola 希望利用 AI 驅動推薦引擎提高輸送量。如果要擴大能力，將使用者與最有趣又息息相關的品牌與編輯內容比對，輸送量在其中扮演的角色至關重要。理想情況下，這會在將用戶端延遲保持在低於 100 毫秒的情況下發生。
Taboola 的解決方案由十個資料中心和12,000 台伺服器的網路支援，每月可促進與全球超過十億名客戶的連線。
解決方案
Intel 與 Taboola 合作，利用第4 代 Intel® Xeon® 處理器將預測演算法最佳化並進行評測基準。結果是整體效能更高：Intel Xeon 8480 處理器上的平均最大輸送量比 Intel Xeon 8380 處理器高 1.74 倍。2
部分效能提升來自 Intel® Advanced Matrix Extensions（Intel® AMX）加速器，可改善 CPU 上的 AI 功能。因此，它非常適合包括影像識別、推薦系統與自然語言處理的工作負載。Intel 也利用 Intel Xeon 8480 處理器上更高的核心數量與記憶體頻寬，並且採用 Intel 最佳化的最新 TFS。
Pisetzky 表示，Intel®AVX-512 加速器可增加 CPU 的暫存器大小並加速處理過程。「透過 Intel AVX-512，我可以在每個 CPU 的每核心上每秒執行更多要求，還能為伺服器加載更多負載。」 儘管競爭對手可能為每個晶片提供更多核心，但如果沒有 Intel AVX-512 指令集，核心數量需要更高才能達到相同水準的效能。「因此，您要關心的不只是核心數量，就連核心的用途也該瞭若指掌。」
「有一個 Intel 這樣的硬體夥伴真是一大福音，他們具備專業知識和工程能力，可提供許多解決方案，並且瞭解如何在未來的多年將這個硬體的用途發揮到極致，」Pisetzky 表示。他補充說明，在最新一代 Intel 平台上進行最佳化有助於 Taboola 縮短回應時間、改善模型準確度，並且隨著伺服器效率的提高而將營運成本降至最低。
「我們的商業模式只有在發布商和廣告商成功時才有效，」Pisetzky 表示。「我們希望客戶獲致成功，而與 Intel 合作確實有助於我以客戶為中心開展業務。」
Intel® 技術亮點
- 在第 4 代 Intel® Xeon® 處理器上進行最佳化、減少回應時間並改善模型準確性
- Intel® Advanced Matrix Extensions 改善 CPU 上的 AI 功能
- Intel® AVX-512 支援每核心每秒處理更多要求