近期頂尖AI模型服務失控事件引發關注，日前造訪香港的SailPoint執行長暨創辦人Mark McClain表示，AI不會也不該停下發展的腳步，關鍵在於設法提升AI安全性。他也談到該公司提倡的適應性身分，這是為了因應動態環境即時處理需求而發展的身分防護機制。最後，為了讓大家理解AI與安全性之間的關係，他特別用F1賽車為喻，指出煞車是否完善，是影響跑車能否發揮速度的關鍵，AI也是如此。
當AI不夠安全變成危機，延緩發展只會讓惡意行為者更囂張，整個產業都必須努力確保安全性，而非因噎廢食
今年各種頂尖AI模型紛紛問世，吸引所有人的注意力，然而，隨後發生AI模型服務意外存取多個企業IT系統的案例，使得大家開始討論是否該延緩AI發展的速度。
對此，Mark McClain認為AI的發展不會停止。目前大家對AI的普遍共識是，我們需要OpenAI、Anthropic及其他大型語言模型（LLMs）的供應商，確保他們在各自的環境提供更好的工具，但無論從何種角度來看，如果放緩AI的採用步伐，反而讓惡意行為者更容易得逞，這對大多數人來說似乎不是一個好主意，因此，他表示，整個產業都必須持續投入並付諸行動，無論是頂尖模型公司這類負責設計技術的企業，還是所有致力於保障AI環境安全的人，應持續關注AI代理與AI技術的發展。
Mark McClain說，任何認為這類事件會停止發展AI的想法，不太可能成真。例如，在AI代理駭入Hugging Face的事件與幾起類似案例之後，Anthropic或OpenAI都表示，將暫緩下一代模型的開發速度，以確保其具有一些防護措施（guardrails），但他不會將此稱為「暫停」AI的使用，就像許多軟體開發者常說的：「如果一個軟體還沒有準備好，就不應該公開發布。」另一句老話也可以形容這種失控狀況，就是「它還沒有準備好登上大舞臺」（It's not ready for prime time）。
如果軟體容易被濫用，也表示尚未準備好投入實際應用，所以，放慢模型發展速度是合理的，但這跟「整個世界都應該暫停採用AI」是完全不同的事情。因為大多數人都認為：「被封印在瓶中數百年的強大精靈已經被釋放出來了」（The genie is out of the bottle），你不可能再說：「我們今後不要發展AI了。」因為現實是我們必須把AI做好，必須用正確的方法做AI，必須為它建立適當的防護措施，這需要很多角色共同參與，並非只有頂尖模型的公司。
代理式AI促使動態環境的即時處理需求大增，SailPoint提出適應性身分的因應之道
根據Mark McClain的了解，Hugging Face遭駭事件當中，攻擊者確實取得新的憑證，但為了達到目的，攻擊者必須入侵系統管理員的帳戶並拿到權限，才能建立新的憑證，而這個行為也暴露出建立新憑證的防護機制存在缺陷，整起事件是由一連串本應被阻止的環節所造成的多階段失誤，例如有些部分在於根本沒有防護措施，有些則是防護措施遭到惡意AI代理突破，當系統管理員的相關防護機制失效後，系統便會發放新的憑證，攻擊者接著便趁機大肆作惡。
Mark McClain認為，AI能夠建立新憑證這件事的發生，不僅突顯攻擊行為發生在代理式AI環境的情況，也使大家體認到：唯有同時理解身分憑證可能儲存的位置及其產生方式，才能有效防護，但這終歸是系統未能阻止此類情況發生而導致的失誤。
就身分識別的設計而言，Mark McClain認為，即使採用基於「最小權限原則」的零信任模型，AI仍能找到非法滲透系統的方法，因為既有的身分管理機制是在尚未考慮到AI代理的時代所建構的，因此，我們必須具備多種解決方案。尤其Mythos這類頂尖AI模型問世後，它們非常擅長揭露現行系統的漏洞所在，我們將看到AI找出許多舊版行動應用程式、大型主機應用程式或其他系統的問題，並進一步探討彌補漏洞及調整系統的方式，因此，人們必須回頭檢視舊有的環境，並提供先前根本未曾具備的防護措施。
為了因應既有權限控管無法涵蓋到更動態的身分與存取需求，Mark McClain特別介紹SailPoint發展的「適應性身分（adaptive identity）」，協助企業即時調整身分安全措施。
之所以要建構這個概念，主要是因為我們將生活在極其動態的環境中，必須根據情境和意圖，釐清特定身分試圖達成的目的，了解它是否正在突破其界限，以及阻止其行動的措施，然而，這也將帶來許多挑戰，因為我們須設法發現與記錄所有情況，若有廠商能運用相當先進的技術來建置系統，並為客戶解決迅速浮現的問題，即可建立成功的事業，而這正是SailPoint正在努力做的事。
在適應性身分的早期概念驗證階段，SailPoint就能協助客戶發現原本渾然不知的風險，接著提供基礎架構，透過政策管理風險，並提供工具以偵測惡化狀況，進而解決問題。Mark McClain表示，上述做法也是SailPoint近期主打的身分治理三大關鍵環節：發現、治理、保護。而在企業身分治理策略方面，SailPoint將廣泛使用AI代理來減輕身分管理負擔，並加速身分管理作業。
縱觀SailPoint過去的解決方案，Mark McClain坦言，SailPoint開發的產品原本是偏重管理導向的（administratively oriented），僅以人類能處理的速度進行變更，隨著代理式AI的盛行，SailPoint目前正在推動公司營運及產品層面的典範轉移：新身分的授權與既有身分的變更，必須每小時、每天或每週處理一次，轉變為以微秒為單位的即時處理——當AI代理或身分驗證面臨挑戰或遭到入侵時，必須立即變更並加以限制，邁向即時的AI代理動態管理。
他預告，SailPoint將運用AI代理來達成這樣的要求，而且旗下的多項產品都會有AI代理，並將其普遍部署在客戶的環境，以此偵測所有異常訊號，並根據這些資訊決定該如何調整。
Mark McClain認為產品與技術轉型的確是挑戰，卻是不可避免的。如果企業要採用代理式AI技術，就必須轉向新的管理模式，但許多企業的IT基礎架構非常複雜且具有多個層次，從大型主機到最新的SaaS應用程式，幾乎應有盡有，現在也轉向更注重即時處理的思維模式，由於SailPoint長期協助企業管理這些能力，因此也必須朝這個方向轉變。
話雖如此，有些人可能會認為這些防護措施微不足道，事實上，試圖控制AI代理很難，而且會相對限制AI代理的能力，因為任何創新技術的發展與普及，往往必須在用戶的便利性與安全性之間取得平衡。Mark McClain認為，關鍵在於提供一種「無摩擦」的安全防護——不是完全無摩擦，但要盡可能無摩擦，使用者可以繼續使用AI，但必須能夠察覺系統何時越界，並加以控制。
事實上，這是不可避免的，因為採用任何創新技術，往往會面臨一些限制。其實，在各家企業的AI導入過程中，都能觀察到這種現象，有些處於先期導入階段，有些則正在部署，但應用AI的範圍仍相當有限，主要是因為大家非常擔憂風險控管措施是否足夠完善。雖然企業鼓勵使用者進行相關操作，但目前使用者通常只能在自身環境的限制範圍內操作。Mark McClain預測，當企業進一步擴大企業級AI的部署，例如利用AI優化業務流程，這些部署將受到極為嚴格的審查。因此，企業固然想運用這項技術，但資安團隊可能仍因風險過高的考量，而不願輕易放行，因此，企業正處於「邊緣中的邊緣（the edge of the edge）」。
的確，目前所有企業都在這股矛盾中掙扎，一方面感受到加快採用AI的壓力，另一方面，隨著Hugging Face這樣的案例與資料外洩事件不時爆發，也突顯某些管控措施尚未到位，Mark McClain表示，企業與SailPoint的對話，便聚焦於「協助建置管控措施」，這樣才能加速前進。
對於這樣的合作，Mark McClain特別用賽車與煞車來說明，也精準呈現AI未來發展與安全控管之間的密切關係。
為了讓賽車以更快的速度行駛，完善的煞車系統是相當重要的，他說，如果賽車選手在F1賽道上不信任自己的煞車，就不會以每小時200英里的速度衝進彎道，因為當你無法煞車並順利過彎時，就無法繼續駛向下一段賽道，所以，若要贏得一級方程式（F1）比賽，參賽者必須擁有快速、出色的煞車系統，以及卓越的引擎。商業世界也是如此，你必須擁有卓越的引擎才能跑得快，但在遇到問題時，更需要出色的煞車系統，因此，你必須設法克服問題，繼續前進。
Comments (0)
Sign in to comment