總結
AI Sweden 是瑞典國家應用 AI 中心 在全國各地和蒙特利爾均設有辦事處。它匯集了公共和私人部門以及學術界的 130 多個合作夥伴。瑞典政府及其公共和私人合作夥伴為該中心提供資金。他們攜手投資生成工具與資源,加速 AI 使用,造福瑞典公民、社會與全球競爭力。
該集團的其他專案包括開發原型生成式 AI 解決方案,協助公共組織在全國協作。例如,在公共醫療保健環境中,數位助理可能會減少搜尋及擷取資訊的時間,讓員工有更多時間進行實際患者護理和人際工作。AI Sweden 的概念驗證解決方案與 Intel 合作,利用配備 Intel® Xeon® 處理器、Intel® Gaudi® 2 加速器以及檢索增強生成架構(RAG)的現場伺服器,讓虛擬助理的回應更準確也更實用。
挑戰
瑞典市政當局可得益於數位助理,協助政府工作人員提高效率,並緩解公共部門目前勞動力短缺的狀況。AI Sweden 的工作也針對共同解決方案,為政府實體提供長期價值,促進全國合作。
AI Sweden 的 AI 轉型策略師 Jonatan Permert;Kungsbacka 市政府的數位長 Iwona Carlsson。
為了取得成功,生成式 AI 助理必須為使用者的自然語言查詢提供特定且相關的答案。AI Sweden 的原型系統採用 RAG 方法,使用員工註釋的內容,提升數位助理回應的品質與有效性。
在解決方案協助公共組織探索資源共享的價值之前,AI Sweden 必須確保安全措施符合當地與歐洲法規,例如歐盟的一般資料保護條例(GDPR)。因此,虛擬助理的前端與後端技術仰賴端對端加密。
利用 AI 的強大力量,加速貫穿整個企業的應用。探索搭載 Intel® Xeon® 的 AI 能如何為您效勞。
解決方案
AI Sweden 正在執行一個多階段、多年的專案,開發由瑞典創新局 Vinnova 及專案合作夥伴共同資助的原型數位助理。Intel 是實現專案的關鍵合作夥伴。
解決方案基礎架構以安全性為設計重點,可在內部運作。支援概念性驗證系統的伺服器,仰賴 Intel Xeon 處理器和 Intel Gaudi 2 加速器,為團隊提供優異的性價比。
「我們需要強大的 AI 基礎架構,才能執行龐大的語言模型。與 Intel 團隊密切合作,部署及最佳化 Intel Gaudi 加速器,讓我們的原型專案得以實現。公共領域的通用數位助理,可為員工帶來日常助益。希望我們的工作可以作為其他國家/地區應對類似挑戰的範本。」—瑞典國家應用 AI 中心 AI 轉型策略師 Jonatan Permert
AI Sweden 也需要具備安全隔離區中的加密儲存與記憶體等功能,以滿足瑞典嚴格的隱私權要求,並維持安全機制與存取控制。Intel® Trust Domain Extensions(Intel® TDX)透過虛擬機器(VM)內的硬體層級隔離,提供額外的機密運算保護層,保護文件、資料與應用程式免遭未經授權的存取。
如果市政府需要額外的安全措施,則可調整伺服器基礎架構以滿足這些需求。有了符合法規的安全規範,即使管理員也無法存取系統傳遞的個人醫療資訊,確保隱私以符合歐洲、國家和地方規定。
Intel 的開發支援協助 AI Sweden 最大化硬體功能,進行軟體調整,以及協助評估資料集的初步測試。這項流程可協助最佳化系統,以容納日益增加的使用者。
透過 Intel® 元件與專業知識的協助,驗證概念的 AI 助理現在可處理建立文件、改善書面語言或填寫申請表等任務。由於市政當局僱用多元化的人力,且並非所有人都能流利使用瑞典語,因此該解決方案也能管理英文內容和查詢。計畫包括支援更多語言。
「在我們的早期測試中,生成式 AI 幫助公共員工快速找到相關資訊,所需時間遠低於手動傳統方法。」「鑒於目前技術工人短缺,我們的原型虛擬助理可以節省現有員工的時間,讓他們專注於最重要的工作活動。」—Jonatan Permert
AI Sweden 和相關市政機構將在概念驗證系統展示其潛力的同時,規劃多種使用案例。例如,如果政府官員需要做出關鍵決策,數位助理可以協助整理最相關的背景資訊。
結果
雖然原型數位助理仍在開發中,但初步結果顯示出極大的潛力。早期測試與非正式意見回饋顯示解決方案仍有望達成目標。測試系統的政府員工發現,與文字相關的任務具有節省時間和結果更準確等優勢。
瑞典的勞動力短缺使得數位助理對該國格外具有價值。例如,在政府設施中,生成式 AI 承擔耗時且重複性的工作,員工可以將更多時間分配到需要人類專業知識和互動的工作活動中。
數位助理也能適應以支援資源較少、預算較少且專業知識較少的小型公共組織。AI Sweden 計劃在不久後的未來將測試流程擴大至一千名使用者。隨著時間的推移,數位助理可啟發其他國家/地區,探索 AI 在政府領域的潛力。
這款虛擬助理支持瑞典維持數位主權以及進行技術投資的目標,使公共部門員工的工作更輕鬆、更有效率。該解決方案也支持瑞典的民主理想,即透明、誠信和增加更廣泛代表性的機會。
重點精華
- AI Sweden 與政府機構合作,開發出可協助政府工作人員處理重複性任務的數位助理原型,讓他們專注於工作中更需要人際互動的面向。
- Intel Xeon 處理器和 Intel Gaudi 2 加速器構成了原型架構的基礎,並提供必要的安全功能、擴展性和效能。
- 若要讓 RAG 解決方案對使用者有價值,需要進行大幅度的調整。透過員工註解的內容,數位助理可提供更適用且更準確的資訊來回應查詢。
- AI Sweden 設計原型旨在符合 GDPR 與瑞典全國性的規範等歐洲資料隱私權要求。安全記憶體隔離區、加密儲存裝置與 Intel TDX 的組合,為多層次安全防護奠定了基礎。
- AI Sweden 建置與測試概念驗證系統的經驗,可作為其他希望實作類似解決方案的國家/地區的範本。