新聞

IBM旗下企業開源軟體業者Red Hat（紅帽）宣布成立AI安全與治理協調（AI Safety And Governance Orchestration）開源社群專案asago，協助企業將AI治理政策落實到正式環境。

依Red Hat公布的規畫，企業匯入AI治理政策後，asago將運用IBM Research建立的AI風險知識庫IBM AI Risk Atlas，將政策要求對應至既有AI風險框架、標準與法規，作為後續產生安全測試與防護措施的依據。

確認需要處理的風險後，asago將依照AI系統的實際用途產生並執行安全測試，檢查系統是否出現有害行為，再根據測試結果建議安全護欄或其他防護措施。asago最後會把選定的措施轉換成可供Kubernetes、Terraform及Ansible使用的部署設定，支援企業內部、多雲及混合雲環境。

上述流程也會持續保留稽核紀錄，讓企業與稽核人員查明每項防護措施所對應的政策要求、風險項目、測試結果及採用理由。Red Hat指出，asago延續該公司與Nvidia身為開放安全AI聯盟（Open Secure AI Alliance）成員所推動的相關工作，並將整合既有開源工具，不另行開發已有的AI安全功能。

asago目前仍處於專案成立階段，完整自動化流程仍待後續開發。參與單位包括微軟、Nvidia、麻省理工學院林肯實驗室（MIT Lincoln Laboratory）及艾倫圖靈研究院（The Alan Turing Institute）等企業與研究機構。專案採用Apache License 2.0授權。