AI推論躋身企業重要應用系統,F5最新報告點出多模型並用治理風險,以及身分管理成為企業採用AI代理的最大顧慮
根據該公司的最新年度應用策略現況調查揭露,高達78%的企業正自行在公司內部營運AI 推論作業(亞太、中國和日本地區企業的比例為50%);每家企業在正式環境或進行主動評估過程中,平均採用7個AI模型(亞太、中國和日本地區企業為3到4個);為了調適與延伸AI模型的應用,52%的企業採用串連(chaining)或調度指揮(orchestrating)多個模型的作法;而且,已有64%的企業允許AI調整政策或組態設定。
基於上述結果,F5認為,AI不再是企業的實驗項目,而是正式環境的工作負載,需如同所有關鍵任務系統進行嚴謹維運管理,而且隨著AI成為企業營運核心,企業勢必傾向於設法獲得更高的自主控制能力,而非單純追求便利性。
企業AI活動集中在推論,治理與資安議題將日益受到重視
企業如何運用AI?F5這份報告提到,正在執行AI推論的企業比例已超過四分之三,而且AI推論是其主要的AI活動類型,超越AI模型訓練與調校。此外,企業營運的AI推論服務平均數量為兩項,五分之一的企業甚至表示,他們營運的AI推論服務達到三項以上。
關於AI的供應形式,企業使用雲端服務供應商的公有執行個體,比例為59%;使用雲端服務供應商的私有執行個體或企業自行管理本身擁有的執行個體,比例也差不多;僅依賴公有AI即服務(AI-as-a-Service)的企業,比例是36%;完全不用公有AI即服務的企業為8%,完全不用AI推論服務的企業僅3%。
對此F5表示,大部分企業正在建立多元的AI應用模式組合,若要達到這項要求,企業針對AI模型需要精密的路由(routing)、撤回(fallback)與政策控管能力,以管理成本、準確度與可用性。
值得注意的是,雖然有88%的企業面臨AI相關的資安挑戰,但98%企業正在為代理式AI做準備,而且許多企業仍大規模採用AI,並且是經由AI管理業務,而不只是單純使用。
F5認為,這個現象顯示企業AI已從創新應用轉變為基礎設施,也象徵企業AI經濟從建置階段轉向營運階段。從另一個角度來看,企業勢必更重視AI 系統的營運治理,將AI推論視為受政策控管的正式工作負載,並將其整合至企業既有的應用系統管理層級,符合相同的架構、安全性與擴充性需求。
6成企業將AI用於IT營運自動化,因此AI的安全性確保對企業越來越重要
關於企業IT營運採用AI的狀況,F5的調查結果顯示,有一半以上的企業不只是參考AI提出的建議,而且以不同方式將其用於IT營運自動化。
以保守的使用方式而言,仰賴AI生成的建議引導人員行動的企業,比例已逼近60%;在更進一步的使用方式上,例如運用AI自動調整政策與設定的企業,以及運用AI加速自動化處理的企業,各自的比例皆達到三分之二。F5認為,上述情況再度反映AI是企業正式環境的工作負載,因為AI已融入並活躍於企業IT營運控制循環,而不再是實驗性質的技術。
或許有人會質疑,將AI用於IT營運自動化的處理真的適合嗎?F5也對此進行調查,他們觀察到兩個現象。一是完全自主的執行,僅限於影響程度可被測量又可被撤銷的營運任務,而且通常是與成本控制或應用程式效能有關的作業,例如為了提升使用者體驗而進行的流量調整與最佳化;而在應用程式安全、合規性及業務風險決策方面,多數仍由人員負責監督與控制。
因此,F5認為,在目前的IT 營運應用當中,AI的執行權限與能力仍受到一定程度的拘束,並未取代人為監督或主導權,但由於它負責執行決策以強化控制循環,已悄悄重塑決策者對於自動化、可觀察性,以及現代系統日常運作的思考方式。
而在AI架構的營運工作當中,應用程式交付與資安防護服務能夠對其產生最大影響的環節,絕大多數企業指出是AI推論相關的能力,而且,他們認為最有價值且優先需要的功能,都與使用者如何保護輸入AI的活動有關,例如輸入的過濾、程式碼與提示注入的防禦、記憶內容的整合(Memory merging)、提示字句的處理,以及輸出的適度處理(Output moderation),避免發生「垃圾進垃圾出」的情況。換言之,這些迫切的功能需求,也代表企業都非常在意AI輸入與輸出的內容安全,以及AI推論處理資料的記憶安全。
多模型成企業主流AI應用,在應用程式安全性與治理面臨挑戰
前面提到,F5最新調查指出企業平均同時營運或積極評估多達7個AI模型,其實,企業這麼做的目的是基於技術與業務或策略層面的考量,比例分別是90%與79%,滿足API相容性、可用性(容錯),以及成本最佳化、取得與使用開放原始碼的AI模型、合規要求,以及資料主權等需求,並非為了新奇或單一模型無法勝任工作等因素。
換言之,多模型推論讓企業能夠依據功能、敏感程度及政策等因素,執行路由請求,以便在受監管的環境中,能以與處理應用程式流量相同的方式來處理AI推論流量。不過,F5認為,當企業將「策略多元化」與「取得開源模型」列為採用多模型的理由,也進一步證明多模型AI實質上是風險管理,而非實驗。
而且,在多模型並用的狀態下,企業AI推論作業開始呈現分散式系統的特性,而非單一端點運作。F5認為,跨多模型的AI 推論,會帶來與所有分散式生產工作負載同樣的架構與安全挑戰,主要障礙不再是AI模型本身的能力,而是組織與架構的擴充性。原因在於,分散式推論的重心從模型本身轉移到負責形塑(shaped)、路由(routed)、限制、監控的系統上;而且,如同分散式應用程式的部署,若要管理這些系統可能需要使用多種工具,而增加複雜性。
關於超過一半(52%)企業表示,正在串聯或調度指揮多個AI模型,F5 技術營運長Michael Montoya認為,此舉將帶來新的資安風險,像是路由操弄(routing manipulation)、因多個AI模型串聯而導致的資料外洩,以及無法對多個模型強制實施統一的政策。
新的職責領域也隨著許多企業採用多個AI模型的狀況而產生,例如模型感知型驗證(model-aware authentication)、語義濫用偵測(semantic abuse detection)、基於詞元的成本治理(token-based cost governance)等。而且,這些新穎且陌生的工作,一方面反映多模型應用為企業帶來的AI安全性危機,另一方面也跨越既有平臺團隊、資安團隊或應用團隊的既有職權範圍,企業通常會成立專屬團隊去負責處理,但若缺乏整合或匯聚,所產生的複雜性與安全風險也將更加分散,而且在企業應用程式的交付、安全、可靠性及治理層面,會不斷重複出現這些挑戰。F5根據本身掌握的資料表示,企業相關的整合進度落後,即便推論已成為對業務至關重要的運作環節,能夠透過單一AI管理入口簡化開發者工作流程的企業,比例僅28%,其餘仍經由分散的控制介面進行管理。
對此,F5警告若企業導入AI發生失敗、停滯不前或成本過高的狀況,真正原因是低估 AI 帶來的營運負擔、系統複雜度及安全風險。
他們提醒決策者,不能只是導入因應單一議題的解決方案、僅適用部分AI產品組合的預設服務,以及針對AI問題的傳統解決方案,否則 AI的複雜性將超越企業營運與保障安全的能力。相對地,決策者應有意識地整合管控措施,並賦予團隊跨多個AI模型的可觀測性(observability)與資安防護能力,組織便能從多模型 AI當中,獲得等同現行混合多雲應用程式部署的效率、效能,以及創新優勢。
日益增多的AI代理帶來身分存取與控制問題,近8成的企業已意識到這類風險
關於部署AI需克服的障礙,根據F5的調查顯示,近9成的企業認為,前兩大分別是運算資源的成本與獲取足夠的專業技能。
而隨著代理式AI大量增加與普及,身分與存取管理已成為首要關注事項,77%的企業預期會在AI代理的身分與存取控制面臨問題,因此,接下來最常見的挑戰在於如何管理身分的爆炸性增長,比例為43%,其次則是身分憑證遭竊,以及傳統 IT 和安全模型未設計處理代理式AI的各種能見度與安全問題。F5警告,若組織未能謹慎管理其AI的採用,將面臨重大阻礙與損害的風險。
在F5今年最新發布的調查當中,還有一些與身分有關的結果。首先,是有98%的企業正在積極規畫修改其對外的應用程式(external-facing applications),以供AI代理存取,其中近半數(47%)正在建置具備身分感知能力的基礎設施(identity-aware infrastructure),最常見的做法是透過進階負載平衡器等工具,基於機器或AI代理的身分來執行路由和管理流量。




Comments (0)