AI蔚為全球風潮,已躋身當代應用系統的主流架構,尤其頂尖AI模型的發展吸引各界目光,然而,企業為了要持續營運與控管IT,必須既「瞻前」又「顧後」,該如何迎接這種前所未有的挑戰?首先,我們要理解兩者的差異。
F5亞太地區、中國和日本首席技術長Mohan Veloo表示,傳統應用程式具有確定性(deterministic),這意味著當你輸入某個特定的內容,通常可以確定輸出結果。例如今天你提出一個問題,傳統應用程式的系統就會給出一個答案;若明天提出相同問題,系統仍會給出相同的答案,而你也會預期它會給出相同的答案。
AI驅動(AI-driven)的應用程式則不同,它們具有機率性(probabilistic),因此其結果取決於模型、資料及提示詞,而且出現越來越多相關的AI代理、第三方服務、API,更重要的是,它們都具備思考能力。因此,你今天提出一個問題,它會給出答案;但若明天提出相同問題,答案可能會不同。
綜合亞洲各地高階主管的意見,Mohan Veloo認為企業導入AI的企圖本身並不是問題,每個人都想這麼做,然而,有企圖心與真正執行狀況之間確實存在落差,而且主要會展現在營運的紀律上。
包括臺灣在內的許多公司雖然正在進行小規模導入(pilots),但當大家想要將AI小規模導入轉為正式運作時,這與傳統應用程式的作法是截然不同的。因為,若要將AI小規模導入專案轉為正式運作,必須釐清責任歸屬、檢視模型治理機制,還必須關注執行時期的能見度(runtime visibility),資安的考量也會隨之改變。
對此,Mohan Veloo提出解釋。他說,在資安方面,必須密切關注執行時的動態,因為AI驅動的應用程式運作並非總是確定性的,可能會發生變化,所以企業需要檢視API與資料控制等機制,而且如今越來越需要檢視經濟模式(economic model)。舉例來說,當企業執行AI代理,這些AI代理可能會消耗大量token,結果收到帳單時,可能會很驚訝地發現:AI代理執行這項特定動作,怎麼花費這麼多成本?
基於上述觀察,Mohan Veloo也提醒企業,應體認AI應用程式不只是具備更聰明介面的軟體。理由在於,AI應用程式具有機率性,它們能夠進行推理、存取資料,並自主決定採取的行動,意味著企業的應用程式營運,必須從監控、正常運作時間、延遲等層面,轉向實際的行為治理,而這會是嶄新的議題,也是應用程式維運人員必須學會如何處理的課題。
雲端原生是發展AI原生的基礎,缺一不可
過去有越來越多公司為了推動IT轉型,積極導入雲端原生(Cloud Native)架構,但近期崛起的AI原生(AI Native)或AI驅動的IT營運模式,不只包含提示詞(Prompt)與推論(Inference),也涉及應用系統的調度指揮(Orchestration),與雲端原生架構之間顯然也有密切關係,若已擁抱雲端原生的企業現在要轉型為AI原生企業,是否比較容易?若非如此或發展的成熟度不足,是否會遇到較大的阻礙?
Mohan Veloo認為,要實現「AI原生」,就必須具備「雲端原生」。「雲端原生」是基礎,但這並不意味應用系統必須在公有雲上運行,也可以部署在企業內部的私有雲環境,「AI原生」則是建構在「雲端原生」之上的一種新型商業能力。
雲端原生為組織提供運行多種技術的基礎,涵蓋分散式應用程式、自動化流程、API、容器、可觀測性、政策即程式碼(policy as code)、具有韌性的架構(resilient architecture),以及跨多環境的統一部署,企業若要運行AI,這些要素全都要具備。因此,AI原生僅是在此基礎上增添幾項功能,例如模型路由(Model routing)、GPU、推論管理、資料管線流程、AI代理、AI護欄,以及特別重要的成本治理。
Mohan Veloo也呼籲企業須重視IT預算配置,他發現許多組織正急於投入資金,以便展開AI先導試用,然而,短短幾年內,從無到有的AI投資已占公司年度技術預算的40%,但總體預算金額本身仍維持不變,導致其他計畫如雲端服務的採用受到排擠,無法獲得足夠的資金。
另一項企業導入AI面臨的重大挑戰,在於缺乏一致性。Mohan Veloo說,許多公司都會啟動小規模的AI試用計畫,經過一段時間的發展,可能運作得非常順利,但當他們開始將這樣的AI應用系統投入正式環境(production)時,無法安全地擴展執行規模,因為其採用的雲端前端基礎架構(cloud-front foundations)是支離破碎的,例如身分識別、資料、API、可觀測性(observability)、安全性……等,都可能與正式環境的相關配置不一致,所以AI試用計畫無法在正式環境運行。簡而言之,若企業的雲端基礎架構尚未完善,固然可以執行AI試用計畫且運作正常,但想要將其投入正式環境時,就會遇到問題。
然而,類似的問題過去在雲端服務崛起之際就已經出現,當時大家爭先恐後地建置自己的雲端環境,Mohan Veloo感嘆地說,至今仍能觀察到這種現象,企業也因此累積大量的架構負債(architectural debt),如今在AI領域,我們正目睹同樣的情況再次上演,例如每家企業都爭先恐後地採用自己認可的AI服務與模型,有些人選擇Google的Gemini,有些人偏好Anthropic的AI技術,有些人使用微軟的解決方案,有些人則採用開放權重模型(open-weight model)。
對此,Mohan Veloo建議,不應任由每個業務單位建立專屬的AI技術堆疊,因為這會造成問題,更重要的是,應確保企業專注於如何一次建好可共享的AI能力(building shared capabilities once)。因為所有企業都需要共通的控制層,用以處理模型路由、AI護欄、資料管控、效能評估、遠端監測,以及成本管理,若要達成這些目標,就需要具備上述能力的雲端基礎架構。
AI導入面臨多種層面的一致性議題愈發重要,因為並非每家企業都會採用單一的頂尖AI模型(Frontier AI Model),畢竟成本極高,所以,許多公司正著眼於本地推論(Local Inference),並關注開放權重模型,而且,當前所有中國模型正變得非常流行,很大程度上是出於成本考量,以及合規要求的主權管控考量。Mohan Veloo表示,先前與臺灣企業資訊長進行圓桌會議時,了解到企業若屬於醫院這類受監管的產業,就無法將病患資料上傳至雲端,然而又希望運用AI,因此必須在本地部署,企業在IT基礎架構與AI技術堆疊的配置上,也將面臨巨大的挑戰。
對此,Mohan Veloo建議,不要將AI策略僅圍繞單一模型來制定企業架構和策略,應以「控制」為核心來建構。換言之,企業要掌控資料、身分識別、API 成本,並確保當模型變動或市場變化時,你的架構仍具備足夠的應變能力。
他的理由是市場變化太快了。就在六個月前,大家還在說:「嘿,未來屬於 OpenAI。」後來大家卻說:「噢,必須要部署了。」現在有很多中國模型紛紛湧入市場。大家可能會想:「我為什麼需要尖端模型?中國的模型表現同樣出色,為什麼要花錢……」
Mohan Veloo以先前他造訪澳洲所得知的狀況為例,說明這個決策考量。目前最好的AI模型Anthropic Fable,每輸出100萬個token要花50美元;但如果在AWS運行中國最知名的AI模型DeepSeek,每輸出100萬個token只需1美元,價差非常巨大,前者貴了50倍。(編按,AWS的Amazon Bedrock於雪梨雲端區域供應的DeepSeek v3.1,每輸出100萬個token為1.7304美元,DeepSeek v3.2為1.9055美元)。
釐清盲目追逐頂尖AI模型的迷思,務實評估需求、成本與安全性等因素,取得平衡
近期隨著直覺式AI程式開發(Vibe Coding)風潮普及,「SaaS已死」與「軟體將被AI取代」等論調,一再受到熱議,今年多家大型AI業者爭相推出頂尖AI模型,紛紛展示發現大量資安漏洞的能力,使得外界再度擔憂獨立軟體開發商(ISV)的未來發展,由於F5本身也是軟體廠商,他們如何看待頂尖AI模型帶來的衝擊?
Mohan Veloo表示,很多人認為必須採用最頂尖的AI模型,但可能未意識到採用頂尖AI模型的代價不菲,利潤較高的科技公司的確能採用頂尖AI模型,因為它能讓工程團隊更快地找出錯誤、生成測試案例,並加速開發進度,然而,我們必須自問:真的需要頂尖AI模型嗎?
對大多數企業而言,例如許多製造業公司的利潤非常低,可能無法負擔尖端模型的採用,或難以讓每個員工配備尖端模型,因此,選擇AI模型時必須非常謹慎。因此,關鍵並不在於詢問哪種模型最好,Mohan Veloo認為,企業首先要思考的問題應該是:是否需要使用AI模型?第二個問題則是:如果企業確實需要AI模型,因應不同的工作負載、資料分類、風險等級、地理區域、成本,以及最重要的——營運需求,哪一種模型最適合?舉例來說,當企業在工廠執行一項特定任務,可以評估是否需要用到頂尖AI模型?或使用能完成任務的小型語言模型就夠了?
關於企業對商用軟體的使用需求能否由AI滿足,很多人都想知道這個問題的答案,Mohan Veloo坦言來自CRM和ERP盛行時代的自己屬於傳統派,他相信非常具體且針對特定領域的應用系統仍具有極高價值,不應忽視廠商在經營企業級應用程式方面擁有長達數十年的豐富經驗,而且當中有許多解決方案正在加入AI功能,也有很多企業級IT供應商正在整合AI,他不認為企業會在一夕之間接受,也不會說:「好,我們淘汰 SAP ERP,改用Claude運作吧。」因為那將會是一場災難。
頂尖AI模型引發的另一項爭議是安全性,2025年9月底F5併購CalypsoAI後,隨即推出綜合AI安全指數(CASI)排行榜,持續分析當前多種熱門AI模型的不同風險,目前有越來越多業者與組織發表AI模型的能力評估報告,顯然整個IT產業對於AI模型能力的探索都有濃厚的興趣。
Mohan Veloo認為,我們不僅對閉源模型進行評估,對開源模型的評估也日益增多,現在越來越多的企業正在採用開源模型,這已成為趨勢,其中一項理由在於,開源模型能提供頂尖AI模型 90%的功能,且成本僅為其百分之一,因此,如果自己是資訊長(CIO),會建議採用開源模型。然而,若觀察F5的CASI評測結果後,會發現開源模型的安全性表現通常不如閉源模型,所以企業需要在兩者之間取得平衡,他提醒,雖然採用開源模型成本較低,但同時也必須確保具備適當的防護措施與安全工具,以便保護企業的應用系統。
AI資安不可輕忽雖然是大多數人的共識,部分企業仍認為:「我在資安能力上已經投入了數十億美元,為什麼還需要再花錢在AI資安?」Mohan Veloo以先前說明傳統應用程式與AI驅動的應用程式的差異,回答這個問題。他強調,AI資安與傳統資安截然不同,因為傳統資安的作法相對具有確定性,AI資安的作法則是更傾向機率性,企業需要理解提示的輸入、語言的使用與產生的影響,還需要了解如何保護自己,因此兩者有極大的差異。在此同時,加強教育、讓人們理解這些挑戰與AI的獨特之處,如何保障AI安全將成為越來越重要的議題。
Comments (0)