新聞

微軟與Nvidia於10月16日共同發布開放權重AI模型風險管理指引，文件名稱為Risk Management for Open-Weight Models in Enterprise。這份指引將相關風險歸納為網路安全（Cybersecurity）、資料保護（Data Protection）、內容風險（Content）、人類與AI互動（Human-AI Interaction）及偏見（Bias）等5大類、30種類型，並提出風險評估、防護措施及持續監控等管理建議。

這份指引強調，模型權重是否開放並非判斷AI系統風險高低的唯一依據，企業仍需根據模型特性、實際用途、部署方式及防護措施評估風險。例如，企業使用開放權重AI模型協助程式開發，可能產生含有安全漏洞或惡意功能的程式碼；若將模型用於AI代理，則需注意模型可能產生不當的工具呼叫，以及代理存取權限過大等問題。此外，還需注意訓練資料或個人資料外洩、模型遭竊，以及多租戶環境的資料隔離失效等問題。由於開放權重模型不一定附帶完整的安全防護功能，企業自行部署時，可能需要建立身分驗證、存取控制及輸入與輸出過濾等措施；即使使用託管服務，也應確認服務供應商提供哪些防護措施，以及哪些措施仍需由企業自行負責。

開放權重模型方便企業依需求調整，但修改模型也可能削弱原有的安全防護。企業對模型進行微調、量化或合併後，即使模型仍能正常完成原定工作，也應重新測試，確認相關防護是否仍然有效。從外部取得模型時，企業則應透過數位簽章等方式驗證模型來源及檔案完整性，降低使用遭竄改模型的風險。模型上線後，還需持續監控輸入資料、輸出內容及工具使用情況，並留意新出現的攻擊手法與執行環境漏洞，適時重新評估風險及調整防護措施。

微軟與Nvidia已在GitHub公開這份指引及相關風險分類資料，並開放外界提出修改建議及補充資料。這份指引參考ISO/IEC 23894、ISO/IEC 42001、ISO/IEC 42005及美國國家標準暨技術研究院（NIST）的AI風險管理框架，協助企業將相關風險管理工作納入既有制度。這份指引目前主要聚焦模型層的風險管理，兩家公司後續將進一步提出涵蓋模型執行環境、模型與外部工具整合的運作框架，以及應用程式層的管理建議。