新聞

他這麼做是為了幫助大家輕鬆理解AI治理的意涵，因為上述3種分析模型對多數企業而言過於複雜，尤其是中小型企業，而非試圖築起高牆，企業若能依此概念實踐AI治理，就能同時符合 ISO與NIST的 標準，以及雲端控制指標。Jayant Dave表示，企業面對AI風險管理需求的框架，通常採用NIST AI RMF或ISO/IEC 23894作為治理整體AI風險的基準，再將CSA AICM疊加上去，因為它專門處理雲端 AI 部署的特定安全控制需求，而上述的雲端控制指標是指與CSA AICM一致的CSA STAR for AI認證。

AI是一把雙面刃，想要妥善控管面臨多種挑戰

目前AI的實際使用方式與成效是一體兩面，若能妥善管理，它能使很多事物變得更美好，相反地，則可能釀成災難。Jayant Dave表示，所以，我們站在哪一面，就顯得格外重要，舉例來說，在銀行業任職16年的他，曾見過AI在詐欺偵測的表現遠勝以往，但也體認到人類已難以精準辨識深偽（Deepfake），須靠AI協助達到更精準地偵測；而在生產製造領域中，預測性維護至關重要，現有AI模型能妥善管理這些狀況，有助於提升企業營運效能；反之，若缺乏管理，便會陷入影子AI等問題，此外，提示詞（prompt）也是資料外洩的另一個潛在風險點。

以AI治理的角度而言，也可區分為檯面上的已列管AI，以及檯面下的未列管AI（影子AI），Jayant Dave表示，確實存在一般的AI輔助操作（copilots）或資料的AI輔助操作（data copilots）這類企業主動採購或建置的AI系統，然而，現狀是40%至60%的AI系統處於無人治理的狀態，企業並不知道它們在系統環境究竟在做什麼。

造成這種情況的原因主要有四個方面。就已列管AI而言，2025年眾人討論的重點在於，所有AI決策高度依賴「人類介入」（Human in the loop，HitL），但在詐欺偵測應用案例中，重點其實已經不是「人類介入」，而是「AI介入」，而且，靜態治理已無法繼續適用，因為AI模型的演進極為快速。

若從未列管AI的角度來看，回顧過去幾個月以來的IT與商業應用趨勢，所有發展都圍繞著工作流程，而且AI已逐漸融入其中。由於AI的執行與本身的更新速度太快，人類審核與系統運作已經無法跟上模型的動態更新步伐，這些狀況都是我們必須處理的。例如，在當前紅隊演練的應用中，若企業仍採用靜態的評估模式，無論間隔三個月、六個月或九個月的定期評估，都已過時，相反地，我們必須針對更多模式持續、動態地進行評估。

供應鏈風險也是該領域的另一個重要議題，如今相關問題變得更加嚴重，因為AI不僅放大了機會，也放大供應鏈的API 風險，而這正是治理缺口的所在。Jayant Dave表示，2026 年許多攻擊者正針對由AI模型支援的工作流程發動攻擊，而非AI模型，因為AI模型與AI代理已融入我們的工作流程，以支援各個環節，而這些正是遭受攻擊的關鍵領域。

安全、防護、治理容易混為一談，需要釐清差異才能明確分工

想要妥善使用AI，我們往往會關注如何做到安全（Safety）、防護（Security）、治理（Governance），Jayant Dave提醒，我們必須非常清楚理解它們的差異，而且，三者必須環環相扣才能妥善運作，但很多企業尚未充分理解上述區分，混淆的狀況很常見。有些公司雖然將AI治理交由風險長處理，但很多風險長實際上卻在執行資安長的工作。

所謂AI安全，是指AI應該符合商業預期，AI的行為與AI作業模式是否一如預期，涉及幻覺、偏見、對齊等議題的處理，主要負責人員是AI/ML工程與資料科學團隊。

AI防禦側重防禦內外部的敵對者，關注重點在於能否抵禦包括內部與外部的攻擊者，主要負責人員是資安長（CISO）與資安維運團隊。

AI治理正是確保安全與防護能全面運作的關鍵齒輪，涉及權責區分、政策與持續監督的工作，主要負責人員是風險長（CRO）、董事會，以及法規遵循團隊。

面對AI治理的需求，當責（accountability）與監督（oversight）機制，將發揮關鍵作用。Jayant Dave肯定當前臺灣處於非常獨特的地位，首先，臺灣今年1月正式公布並施行的人工智慧基本法，核心就是治理；第二，臺灣既希望採用以歐盟為基礎的模式，也參考以美國為基礎的模式，在這兩者之間，尋求精妙的平衡點，因此，治理是人工智慧基本法後續24個月的調適期發揮作用之處；第三，臺灣不再僅基於安全與防護進行考量，而是著眼於如何全面治理AI架構。

推動AI治理可從5個步驟著手

企業想要實施AI治理，將占比高達40%至60%的影子 AI轉為受管控的 AI，該如何進行？除了研究複雜的框架、ISO 標準及 NIST 準則，再設法規畫與執行解決方案，Jayant Dave提出5個簡單易懂的基礎步驟，而且，現在就可以開始行動，不必等待政府發布AI治理規範

第一步：了解企業正在使用的各種AI應用與服務

關於AI治理的推動流程，Jayant Dave表示，我們需要找到單一的「真相來源」，而這正是關鍵的整合環節。

為了取得企業內部使用AI的唯一的真相來源，他列出下列作法：

（一）透過財務或購買資料，掌握企業已採購並註冊使用的AI；（二）透過IT資產管理與各種資料對齊的方式進行確認；（三）透過AI資安解決方案與網頁Proxy記錄的端點活動，也就是上網行為的使用記錄，了解使用的服務、傳送的資料、流量類型，以識別當中的資安風險；（四）透過訪談業務單位的高階主管，得知使用AI的狀況；（五）透過雲端平臺的稽核，由於許多AI應用都透過雲端平臺提供，因此，可從中了解企業AI的使用方式。

基本上，經由目前部署在系統環境中的控制措施，能告訴你正在使用何種類型的AI，它們還能揭示透過這些AI 模型實際傳遞的具體前後文脈絡。

Jayant Dave表示，一旦我們能正確執行這五項措施，將能掌握90%至95%的AI應用，這將立即成為單一可信來源。經過多家大型企業的概念驗證（POC），企業察覺到正在使用的AI，其實有70%至80%是未知的。因此，只要企業正確執行其中兩項措施，便能揭露「影子 AI」的真相。

第二步：進行客觀的風險評估

找出所有AI系統之後，我們需要將這些AI系統區分到不同的風險類別，知道AI使用相關的風險，並聚焦系統一旦失效時可能產生的衝擊，以及失效發生的機率，得到客觀的評等。

面對任何 AI應用，無論人工智慧基本法所規範的AI或其他 AI，只要涉及關鍵決策，例如醫療保健、重大的信用決策、關鍵的金融基礎設施（交易）等，Jayant Dave認為，當中使用的AI模型都必須具備完全的透明度、當責、人類監督，以及明確的監控機制，都要有完善的真人監督和文件記錄及定期監控，且絕無例外。同時，系統必須配備緊急關閉機制（Kill Switch），以防萬一發生問題，因為能否暫停系統運作，至關重要。他預估，未來幾個月隨著臺灣市場的持續發展，我們將看到更多針對或觸及關鍵基礎架構的AI而制定的法規。

簡而言之，關於影子 AI的顧慮就存在於這些層面的考量，一旦確認有員工正在使用影子 AI，企業就能著手建立五天內完成審批的流程。

當大眾都為Anthropic或OpenAI的AI技術有多麼出色而興奮，Jayant Dave坦言，身為組織的網路安全防禦者，他只關心兩件事：影響程度（impact）與發生機率（likelihood），先前針對任何科技領域與技術都曾這麼做，只要能把上述兩件事做好，就能從保有安全距離（風險評估）的角度來駕馭AI的力量。

換句話說，他特別關注的是：如果系統失效、AI出問題，會造成什麼樣的衝擊？發生的機率有多高？透過這樣的觀點進行分析，我們就可以得到資安風險的評級。

第三步：建立企業的AI風險登記表

關於AI風險項目的確立，相關的作業程序，已經在很多企業採用的治理、風險及法規遵循（Governance, Risk, Compliance，GRC）平臺，實現高度自動化的處理，不再是手動操作。

以風險類型而言，Jayant Dave總共列出7種，並談到目前新增的資料風險與模型風險，他說每個模型都伴隨著不同的風險，而且，適用臺灣的模型，並不代表在香港或日本同樣能成功。

若要更徹底掌握風險的性質及因應之道，我們需要建立AI風險登記表（AI Risk Register），在此之前，我們必須找出正在運行的 AI 系統，然後執行客觀的風險分類，接著將這些資訊納入風險登記表。

舉例來說，當臺灣金融業向金管會申報時，他們不會詢問資產與流程的盤點，而是要求查看風險登記表。基本上，所有監管機構只問一件事：請出示風險登記表，並說明評分情況。

而在完成AI風險登記表的過程中，總共有10個項目需要定義。Jayant Dave特別提醒達成這項工作的三大黃金法則。

• 每項風險的負責人（Owner）不能是一個團隊。

一般而言，IT團隊負責修復（fixing）與修補（patching），資安團隊也負責修補，因此，必須明確指定各個風險項目的負責人。以AI領域為例，假設企業有個AI輔助操作系統，它可能存在多重風險，例如資料風險或模型風險，企業必須明確指派一名負責人來處理，而非交由一個團隊。

以AI輔助操作系統來說，它有模型的風險，也有資料的風險，但如果是一個團隊負責，就無法更明確要求個人找出問題及解決問題，因此，每一個風險只能夠有一個人負責。

• 需要為每個風險建立書面說明。

在填寫AI風險登記表時，我們必須釐清問題會造成的危害、背後的原因，以及何時修正。如同上述，我們必須在每個風險的負責人，必須明確指明一個人；而在風險的因應方式上，我們可以採取「接受」、「拒絕」、「迴避」、「轉移」——以接受為例，我們要寫下理由，表達我們為何接受這項風險。

依此完成登記表後，一旦AI風險出現，負責人可以了解其所屬的類型、造成的傷害與原因、可能性與影響程度，知道誰負責及如何因應。

• 審查日期是確切的承諾，而非僅是意圖。

若是關鍵AI系統，Jayant Dave建議，在3至6個月內，至少建立最低限度的補償性控制措施（compensating control），若我們接受這樣的要求，持續推動相關的工作，等到審查的考驗正式展開時，就能非常清楚必須遵循的部分。

第四步：建立AI治理委員會

治理是許多組織缺乏的環節，因此，企業的AI治理工作持續推動需要成立委員會（Committee），Jayant Dave列出組成這個組織的三道防線負責人員。

第一道防線是業務與技術人員，負責確保AI提供的系統服務符合業務所設定的目標，例如CISO團隊負責進行攻擊者影響評估，AI/ML工程團隊負責確保模型能如預期運作。

資料架構師也是重要成員。Jayant Dave表示，根據Gartner的預測，到了2030年，33%的IT人力將專注於資料衛生（Data Hygiene）維護，開發人員未來也將確保資料衛生得以維持，原因在於模型漂移（Model Drifting）現象非常普遍。

AI治理委員會的第二道防線是風險、法務與政策遵循人員（Risk, Legal& Compliance），包含風險長、法規遵循與隱私保護主管。至於第三道防線，則是組織內部的稽核部門，其職責由金融監督管理委員會（FSC）這類監管機關規定，而且是無表決權的成員，要確保相關的報告可以上報到董事會，簡而言之，這群人不是董事會成員、沒有投票權，卻可以直接通報董事會，從評估角度來看，他們是能夠針對關鍵AI做出決策的關鍵角色。

關於AI治理委員會設立的主要目的，除了審查所有AI系統的上線與否，還要有風險長與內部稽核人員的最終簽核，因為這些人員如果發現有重大問題，將有權限立刻暫停AI的系統。Jayant Dave強調，在任何時刻，對於任何可能對業務造成危害的AI，都應配備緊急關閉機制，以便能立即暫停運作。由於模型運作與演進的速度極快，這些緊急關閉機制至關重要，而且，最終將由AI治理委員會做出決定。

第五步：處理影子AI

最後一個階段是處理影子AI的問題，Jayant Dave認為不該立即停止影子AI，因為這麼做反而會製造更多風險，迫使最懂得使用AI、最有工作效率的員工，成為違規的人。他說，一旦驟然禁止會有兩種結果，一是組織中最聰明的人才正在使用AI，企業可能會因此失去這群人，而非不願使用AI的人；一是被禁用的AI解決方案將轉入地下，員工開始改用其他工具，因為他們知道已被偵測到，IT部門可能更難管理。

基於上述理由，Jayant Dave建議企業應採取有架構、有系統的方式逐步開放這些「影子AI」，因為我們希望將它們轉變為「獲准使用的AI」，並且立即公開容易上手的AI工具。例如針對低衝擊、低風險、無安全疑慮，以及容易得到成果且特別容易管理的AI應用，企業可提供快速批准的程序，有些企業的做法則是先推出核准的工具清單，告訴員工現在可以使用的AI應用。

Jayant Dave以自身經驗為例說明，他在花旗銀行工作16年，公司最初只允許使用Microsoft Copilot，後來開放使用GitHub Copilot，接著是Google 的Gemini，最後是Anthropic的AI服務，因為員工們都在使用這些工具，所以，他建議企業應針對「低垂的果實（可快速取得成果的、風險低的AI服務）」，設置5天內即可完成審批的流程。

根據他的觀察，目前在臺灣的銀行若要審批一項新技術的使用，至少需要九個月，時間大多花在風險評估與報告對接（reporting alignment），然而，在AI急速發展與普及的此刻，這樣的決策實在太曠日廢時，企業需要為 AI 建立更快的審批流程，將其納入整體框架，並且在此基礎上建立培訓機制，提高使用AI的效率，使其更有結構，進而利於治理。

AI治理的建立是具體而可行的，能在三個月內、分三個階段完成

除了透過5個步驟說明實施AI治理的方式，Jayant Dave提出90天解決問題的三階段執行規畫，具體描繪企業推動AI治理的時程。

第一個階段為期30天，工作重點在於增加企業現行AI應用的能見度（Visibility），例如盤點企業使用的AI服務、確保採用適當的盤點方式、指定AI治理的監督與負責人，以及能在7天內建立的風險評分系統。第二階段同樣為期30天，工作重點在於建立架構（Structure），例如起草AI治理委員會的章程與AI風險登記表、召開首次會議，並且公布核心政策，促使委員會開始運作。

第三階段也是30天，工作重點在於落實治理，例如每季進行評估、向董事會匯報、列出核准的工具清單，進而彌補「影子 AI」的缺口。

Jayant Dave表示，當我們掌握AI應用的能見度之後，即可建立明確的職責分工架構，進而建立季度與月度的治理協調機制。有了這些資訊，一旦企業的AI系統做出錯誤決策，對於該負責的人員、能否暫停運作、是否有緊急關閉機制等問題，都會有答案。