2024年7月23日──英特爾發布與國際奧委會（International Olympic Committee，IOC）合作的更多細節，透過產業應用導向的生成式AI（Gen AI）檢索增強生成（RAG）解決方案，進一步展示如何透過搭載Intel® Gaudi®加速器和Intel® Xeon®處理器的開放式AI系統，協助開發者和企業因應AI熱潮所帶來的挑戰。
「與國際奧委會的合作展現英特爾致力提高AI可用性的決心。藉由建構開放的競爭環境，鼓勵創新和創造力，英特爾協助開發者和企業打造客製化AI解決方案，帶來實際的應用成果。英特爾也透過開放且協作的生態系，改變幫助運動選手的方式，並與合作夥伴一起創造更多的可能性。」
為奧運選手打造的AI聊天機器人
取得奧運參賽資格對選手而言只是開始，為幫助全球11,000名來自不同語言和文化的奧運選手導航場館路線，並遵守賽事規範，奧委會與英特爾合作開發了一款AI聊天機器人──Athlete 365。這款聊天機器人採用由英特爾Gaudi加速器和Xeon處理器驅動的RAG解決方案，能夠回應運動員的問題並進行互動，並於運動員在巴黎奧運選手村停留期間按照需求提供相關資訊，讓選手得以專注於訓練與競賽。
布署生成式AI解決方案時會面臨成本、規模、準確性、開發要求、隱私與安全性等挑戰。其中，RAG對生成式AI工作負載來說相當重要，它能夠讓企業安全地利用專有資料，提高AI輸出的及時性和可靠度，進一步提升AI應用的品質與實用程度，這對於現今以資料驅動的世界而言相當重要。
英特爾透過與AI平台、開放性標準以及強大的軟體生態系共同合作，使開發人員能夠針對企業需求開發客製化生成式AI RAG解決方案。此次合作也展現了英特爾致力於提供開放、多供應商、穩健且可彈性組合的生成式AI解決方案。
生成式AI RAG解決方案的運作原理
為實現輕鬆布署RAG應用，英特爾與產業夥伴合作打造一個開源、可互通的解決方案。該生成式AI解決方案，是一種建構在開放企業AI平台（Open Platform for Enterprise AI，OPEA）專案基礎之上的產業導向、開箱即用、生產就緒的RAG解決方案。在為企業資料中心提供簡化的RAG解決方案布署方法同時，該生成式AI整合解決方案整合了來自多個OEM系統和產業合作夥伴提供的一系列元件，能支援高度靈活性和客製化。
此生成式AI整合解決方案，把基於OPEA的微服務元件整合到可擴充的RAG解決方案中，以用於布署英特爾Xeon和Gaudi AI系統。可無縫擴充Kubernetes和Red Hat OpenShift等成熟的編排框架，並提供具安全性和系統遙測功能的標準化API。
- 透過開源軟體堆疊打破專用限制：幾乎所有大型語言模型（LLM）都是基於由英特爾Gaudi和Xeon提供支援的高抽象框架PyTorch進行開發，簡化在英特爾AI系統或平台上進行的開發。英特爾與OPEA合作開發用於RAG和LLM布署的開放式軟體堆疊，使生成式AI整合解決方案最佳化，並使用PyTorch、Hugging Face服務程式庫（TGI和TEI）、LangChain和Redis Vector資料庫建構。
- 滿足開發者需求：OPEA為企業提供開源、標準化、模組化和異質的RAG流程，專注於開放性模型的開發，以及對各式編譯器與工具鏈的支援。這樣的基礎加速了針對獨特垂直應用案例的容器化AI整合和交付。藉由打造一個位於技術堆疊最前端、具備各式細節且可組合的框架，OPEA釋放了AI全新的可能性。
借助生成式AI整合且全面的企業AI堆疊，英特爾提供完整的解決方案，可解決在企業和資料中心內布署和擴充RAG和LLM應用的挑戰。利用英特爾支援的AI系統、平台以及OPEA中達成最佳化的軟體，企業能以更高效率、更快速度充分駕馭生成式AI的潛力。
未來進展
增加最新AI運算技術的可用性，是企業在利用生成式AI實現關鍵業務成果時面臨的挑戰。英特爾透過與產業合作夥伴和客戶的策略合作，為生成式AI和RAG解決方案所驅動的AI服務持續創造新的機會。
英特爾致力於安全、負責任地推動AI的發展，並宣佈與Google、IBM和其他產業夥伴合作，成立安全AI聯盟（CoSAI），目的在於強化AI開發和布署過程中的可信任度和安全性。
即將在9月24日至25日於美國加州聖荷西舉辦的年度Intel Innovation大會上，英特爾將透過Granite Rapids和Gaudi 3進一步展示AI系統的領先地位和合作夥伴動能。
The Small Print:
Intel technologies may require enabled hardware, software or service activation.
No product or component can be absolutely secure.
Your costs and results may vary.
Intel 並不控制或審核第三方的資料。You should consult other sources to evaluate accuracy.