新聞

AI安全稽核與保險業者Artificial Intelligence Underwriting Company（AIUC）宣布完成4,000萬美元A輪募資，將利用這筆資金把目前針對企業AI代理的安全稽核及標準制定工作擴及頂尖AI模型，同時發展相關保險業務。

AIUC目前透過自家制定的AI代理評估標準AIUC-1，針對企業使用的AI代理進行安全與可靠性測試。AIUC表示，測試會依AI代理的實際應用情境調整，涵蓋約5,000種風險與攻擊情境組合，用來檢驗AI代理面對越獄、AI幻覺及資料外洩等情況時，是否出現安全或可靠性問題。目前Cursor、Fin、ElevenLabs、Harvey、KPMG、Lovable及UiPath的AI代理或相關產品已取得AIUC-1認證。

AIUC-1認證並非只測試AI代理本身。英國標準協會（BSI）說明，這項認證除了由AIUC執行技術測試，也由BSI針對企業的AI治理、政策及營運控制措施進行獨立稽核。這項認證還包括每季進行對抗性測試，以及每年針對治理及安全控制措施進行稽核。

AIUC完成AI代理測試後，會產出約100頁的評估報告。根據TechCrunch報導，報告會說明AI代理在哪些應用情境下能安全、可靠運作，以及測試發現的安全與可靠性問題。AIUC共同創辦人Rune Kvist表示，AIUC也會利用AI協助進行測試及資料分析，但最終稽核結果仍由人員確認。另一名共同創辦人Rajiv Dattani過去曾擔任AI安全研究機構METR營運長，目前仍是METR董事；Kvist則曾任職Anthropic。

AIUC也把認證機制與AI代理保險結合。語音AI業者ElevenLabs今年取得AIUC-1認證，並取得相關保險。SiliconANGLE指出，相關保險承保範圍包括AI代理向客戶提供錯誤資訊等風險。