TECHnalysis Research：AI 電腦的機會
發揮電腦上 AI 的全部潛力
AI 的爆炸性成長在科技業投下令人欣喜若狂的震撼彈；雖然喜出望外，人們也愈加發覺雲端可能不足以執行所有 AI 應用程式。除了有限基礎架構的侷限，許多公司也考量到將資料傳送至公用雲端的安全與隱私問題。一鍵進入 AI 電腦。過去一年推出多款全新電腦 SOC（單晶片系統）架構，可用來以更強大且高效的方式執行 AI 工作負載。一個強而有力的例子是全新的 Intel Core Ultra 處理器，其中包括更靈活的 CPU、更強大的 GPU，以及名為 NPU（神經處理單元）的新型元件，專為多種類型的 AI 工作負載最佳化。這份 Intel 贊助的白皮書由 TECHnalysis Research 的 Bob O’Donnell 撰寫，探討當今 AI 電腦的機會（真正千載難逢的機會）並闡述電腦為何以令人振奮的方式脫胎換骨、華麗重生。
到目前為止，AI 支援的運算一直聚焦於雲端執行的應用程式與服務。然而，直接在電腦上執行這類應用程式具有巨大的優勢。請考量以下事實：
近來技術日新月異、瞬息萬變。開放原始碼基礎模型的萎縮，加上模型量化等技術進步，讓裝置上的 AI 解決方案突然變得可行。事實上，裝置上的創新步伐甚至比 GenAI 發展的整體速度更快。
現有的雲端基礎架構已無法支援需求。裝置上的 AI 熱潮有很大一部分源自非常實際的問題。最值得注意的是，人們普遍認為鑑於 GenAI 工具令人驚豔的採用速度，以及大量上線的新產品和服務，現有的公用雲端資料中心基礎架構根本無法支援預期的需求。
在本機執行時，效能與輸出更為優異。直接在電腦和其他用戶端裝置執行AI 應用程式不但可行，而且在許多情況下，在本機執行時，效能與輸出更為優異。
更強的隱私與安全。若能利用裝置上的資料，而不將資料傳送至公用雲端環境，則資料就更加安全。
4 個重點摘要
平衡 SOC 的重要性。2023 年推出數款全新電腦 SOC（單晶片系統）架構，能比前幾代更強大且高效地執行 AI 工作負載。新款 Intel Core Ultra 處理器等晶片現在包含更靈活的 CPU、更強大的 GPU，以及名為 NPU（神經處理單元）的新型元件，專為多種類型的 AI 工作負載最佳化。
合適 AI 軟體工具的重要性。除了系統層級的增強功能，從特定的應用程式獲得最佳效能通常需要直接與軟體開發者合作，確保他們的程式碼針對特定架構最佳化。這正是 Intel 的規模及其龐大在職軟體開發者的優勢所在，因為他們能夠接觸許多從事 AI 支援之電腦應用程式的 ISV（獨立軟體供應商）並與其合作。
電腦 AI 應用程式不斷精益求精。幾款利用 AI 功能的電腦應用程式與系統級功能已上市。Microsoft 的 Windows Studio Effects 功能經過專門最佳化，可在配備這些功能的 NPU 上執行，提供增強的影片背景模糊，並改善了即時訊息功能中的音訊降噪。
電腦就此脫胎換骨。從晶片架構令人振奮的進展，到基於電腦的軟體應用程式與工具的重要發展，電腦正以嶄新的方式重生，讓人興奮不已。
「開放原始碼基礎模型的快速演變和縮小，加上模型量化等技術進步，轉瞬間讓許多業界觀察人士認為需要數年才會在用戶端裝置發生的事，在未來幾個月內化為可能。」
TECHnalysis Research，Bob O'Donnell
「繞著成本、安全性和效率打轉的問題無不在在表明，在雲端執行所有或大多數的 AI 工作負載，根本不是永續的長期選項。因此，裝置上的 AI 解決方案馬上變得不可或缺，確保 AI 支援的應用程式能氣勢如虹、持續不墜。更多的 AI 工作負載必須移至電腦。」
TECHnalysis Research，Bob O'Donnell