要打造值得信賴的品牌,就必須制定精心設計的內容策略。內容製作和媒體一致性必須確保品牌安全性,並且適合目標受眾。但龐大的數位內容與各式各樣的通路,讓公司幾乎無法確保所發佈的內容始終符合品牌標準。
Seekr 透過 SeekrAlign* 協助廣告業解決這項難題,這套解決方案利用專屬的評分與分析技術,協助品牌找到最合適的線上內容,同時以負責任的方式拓展觸及範圍。
Seekr 率先於市場推出的 AI 解決方案在 Intel® Tiber™ AI 雲端中,透過 8 節點的 Intel® Gaudi® 2 AI 加速器叢集進行建置、訓練及部署,迅速獲得各行各業頂尖品牌客戶的青睞。從 Moderna、SimpliSafe 到 Babbel,各家公司紛紛意識到運用 AI 解決方案來應對企業挑戰的價值。Intel Tiber AI 雲端的 AI 加速平台引領這一趨勢,讓公司透過最新 Intel 軟硬體具成本效益的叢集,加速並擴展 AI 策略。
AI 的挑戰與機會
錯誤資訊、幻覺和不當內容會迅速損害品牌信任度。即使無意間和包含高風險內容的平台產生關聯,也可能危及品牌聲譽。因此,許多公司會仔細篩選所發佈的內容。但這種做法不但耗時、昂貴又不可靠,而且非常主觀。
播客就是其中主要的使用案例。播客近幾年來人氣急遽上升,對許多公司來說,播客已經成為內容策略和廣告收益核心的一環。不幸的是,品牌一直以來都難以掌握播客領域,因為直到現在,除了依靠人力之外,還沒有其他可靠的方式能夠評估單一集數的內容。
SeekrAlign 讓公司能夠快速、準確篩選數十萬個播客,解決了這項難題。播客廣告代理商 Oxford Road 執行長 Dan Granger 表示:「Align 結合世界級的工程和創新、透明的評分機制,簡化尋找安全又合適播客的流程,讓品牌能夠精準操作,放心拓展音訊行銷活動,更清楚、更快速達成目標。」1
Align 簡單好用的儀表板可以在 0-100 分之間,對播客內容進行評分。這項名為 Seekr Civility Score™ 的專利評分系統採用 GARM 安全框架,為行銷人員與廣告商提供客觀標準,來判斷內容安全性和合適度。Seekr 總裁兼技術長 Rob Clark 表示:「只有結合卓越的運算能力和創新的信號偵測技術,才能解決這項大規模挑戰。」Civility Score 把數十項考量因素整合成單一指標,為品牌帶來更多合適的機會,並觸及更廣大的受眾。」2
Align 平台已評分超過 2,000 萬分鐘的播客內容,預計 2024 年底會達到 4,000 萬分鐘。另外,該平台也為超過 8,000 集播客提供即時評分,總計超過 1,000 萬分鐘的音訊內容。Clark 表示:「只要以負責任且透明的方式應用 AI,就能解決實際業務挑戰,而這項技術仍將持續發展與進步。」「我期待透過持續創新延續這項成功,包括開發進階的大型語言模型,協助解決一些最棘手的社會問題,並以驚人的速度和準確性推動業務成長。」3
提供高效能同時降低雲端運算成本
Seekr 精密的 AI 工作負載需求需要強大的運算能力。在以前,這種運算能力需要大量的基礎架構投資和高昂的雲端成本。但透過 Intel Tiber AI 雲端,Seekr 能夠以極具成本效益的方式存取頂尖的 Intel 軟硬體。對於 Seekr 這種快速成長的公司來說,能夠在節省資本支出的同時,利用最新的 AI 加速技術提昇營收,無疑是非常有吸引力的選擇。
Clark 表示:「透過和 Intel 的策略合作,讓 Seekr 能以最佳的價格與效能,運用搭載數千顆最新 Intel Gaudi 晶片組成的超級電腦,在高頻寬互連的支援下,建立基礎機型。」Seekr 值得信賴的 AI 產品結合「AI 優先」的 Intel Tiber AI 雲端,可以減少錯誤和偏差,讓各種規模的組織都能夠存取可靠的大型語言模型和基礎模型,在受信任的硬體上提高生產力還有推動創新。」
「透過和 Intel 的策略合作, Seekr 能夠運用搭載數千個最新 Intel Gaudi 晶片的超級電腦,用最有競爭力的價格和效能來建置基礎模型⋯⋯」
靈活的 AI 解決方案,帶來值得信賴的成果
端對端大型語言模型開發工具組 SeekrFlow* 專門利用可擴充和可組合的管道,建置符合原則的大型語言模型,為這項創新解決方案奠定基礎。SeekrFlow 專為發揮最高效率和靈活性而設計,讓開發者能夠利用可擴充與可組合的工作流程,來訓練和建置大型語言模型。整個大型語言模型管道透過 API 管理,還能利用自訂元件加以調整。運算圖規格(如資源和依賴項)靈活,可以支援無數種配置選項。
SeekrFlow 的工作流程經過編譯後,會產生一個版本化、可重複執行且可重現的可執行檔。這項工具組還整合強大的對齊演算法,確保大型語言模型的行為符合既定的標準、意圖、規則或價值觀。這些大型語言模型也受益於 Seekr 強大的推斷管道,讓平台能夠大規模進行音訊轉錄、分段標記還有評分。這些自訂大型語言模型經過最佳化後,會被導入簡單好用的 Seekr Align 平台,用來提供快速、準確的數位內容評估。
Seekr 在 Intel Tiber AI 雲端的部署
Seekr 先前利用區域主機代管供應商,託管 GPU 和 CPU 系統的伺服器設備。自主管理的運算基礎架構用在大型語言模型和多模態模型的開發,而且支援 Seekr Align。
隨著客戶規模的成長和大型語言模型部署規模擴大,Seekr 希望透過價格更低、效能更好的雲端服務供應商來拓展業務。Seekr 在 Intel Gaudi 2 上成功完成大型語言模型的微調與推斷基準測試後,決定採用 Intel Tiber AI 雲端作為首選運算基礎架構,用於支援大型語言模型開發和生產部署。
圖 1-3 顯示透過軟體最佳化,及使用 Intel Tiber AI 雲端環境所提升的效能。
Seekr 計劃分階段部署,將公司的解決方案平台移到 Intel Tiber AI 雲端。這間公司利用我們雲端中的各種 AI 最佳化運算執行個體,最佳化應用程式負載的部署成本/效能,包括:
- Intel Gaudi 2 加速器:支援 SeekrAlign 解決方案的 7B 大型語言模型模型,部署在 Intel Gaudi 2 系統的叢集上,執行敏感內容分類和風險評估。
- Intel® Data Center GPU Max 系列 1550:Seekr 採用 Intel® Extensions for PyTorch*,在搭載 Intel GPU 的系統叢集上進行轉錄和分段標記處理。
- Intel® Xeon® 可擴充處理器:Seekr 採用第 4 代 Intel® Xeon® CPU 系統的叢集,用於應用程式監控、儲存管理,還有向量和反向索引資料庫服務。這些系統叢集支援 Seekr 的擷取式增強生成服務和 SeekrFlow,透過可擴充和可組合的管道,來建置符合原則的大型語言模型。
- 計畫包括在今年稍晚採用第 5 代 Intel® Xeon® 可擴充處理器。
正如 Seekr 的 AI 研究與開發主管 Stefanos Poulis 所說:「Seekr 和 Intel 的協作釋放在混合運算上執行 AI 的潛力。」Intel GPU 和 Intel Gaudi 2 晶片用在大規模訓練和服務大型、中型的轉換器。與市場上其他晶片相比,我們觀察到模型訓練和推斷效能有所提升。大型語言模型推斷方面的改善更是明顯,Intel HPU 和 GPU 的大容量記憶體讓我們能夠調整特定工作負載的參數,譬如說批次大小。在軟體層面,各種 Intel 擴充功能幫我們把 ML 堆疊順暢轉移到 Intel 硬體上。
在接下來的 Intel Tiber AI 雲端整合階段中,Seekr 計畫運用大規模 Intel Gaudi 2 叢集,搭配 Intel® Kubernetes Service,來訓練自家的大型語言模型基礎模型,同時增加 CPU 和 GPU 的運算能力,擴展可信賴的 AI 服務產品。
SimpliSafe® 使用 Seekr 的大型語言模型解決方案 SeekrAlign,可觸及更廣大、更精準的居家安全受眾。
SimpliSafe® 是一款屢獲殊榮的居家安全解決方案,致力於為客戶提供最新、最卓越的技術,「讓每個家都能擁有安全保障」。智慧居家產業日新月異,SimpliSafe 身為業界先行者深感自豪,這份情感也延伸至其支援性業務功能,包括測試新興的行銷技術,以協助公司精準、高效地拓展市場版圖。此外,建立並維持客戶信任是 SimpliSafe 拓展客群策略的關鍵。公司憑藉創新產品與服務,以及精心設計的廣告策略實現這項目標。
SimpliSafe 利用 SeekrAlign,透過適當的內容通路,在合適的時機觸及潛在客戶。透過 SeekrAlign,SimpliSafe 可以即時存取數千個播客的內容評分,並且能夠深入分析對話細節。Seekr 所採用的大型語言模型內容分析能力,超越市面現有的解決方案,協助 SimpliSafe 發掘適合品牌的內容,有效觸及目標受眾。
「信任和安全是 SimpliSafe 品牌的核心,找到與價值觀一致的解決方案,對我們來說非常重要。搭載 Intel Developer Cloud [Intel Tiber AI 雲端] 的 Seekr 正是這樣的平台,讓我們能夠更有效解決大規模監控 Podcast 的問題,確保我們的廣告投放符合客戶特性。透過 Seekr,我們可以找到符合品牌安全性的播客,精準觸及目標受眾,近一步把 SimpliSafe 的居家安全解決方案,介紹給更多屋主。」
—SimpliSafe 客戶開發總監 Nicholas Giorgio
更新資訊
關於新創公司適用的 Intel® Liftoff 計畫
Intel Liftoff 是一款免費的虛擬計畫,可協助早期 AI 與機器學習新創公司創新及擴展規模。Intel 於 2022 年推出這項自定進度的計劃,讓新創公司能夠突破程式碼障礙、釋放效能潛力,並將構想轉化為可拓展規模且引領產業的 AI 公司。