新聞

隨著《人工智慧基本法》於今年1月正式上路，各目的事業主管機關近期陸續發布AI應用指引，例如衛福部、NCC均已率先展開行動，先前數位發展部預告將制定相關框架，以便各部會參考，如今這套「人工智慧風險分類框架」正式於7月7日發布，預計將帶動更多部會加速推出AI應用指引。

關於「人工智慧風險分類框架」的發展，數位發展部指出，此框架是依據《人工智慧基本法》第16條訂定，供目的事業主管機關訂定AI風險管理規範之用，同時作為產業界及社會大眾理解我國AI風險治理體系之參考文件。

對於各目的事業主管機關（主要）與產業界而言，此框架的重點在於第三章節的人工智慧風險分類框架操作流程，當中提供4大建議步驟，涵蓋：（一）盤點應用情境：掌握所管產業現有或未來可能導入的AI應用場景；（二）識別風險：識別產業AI應用中潛在的風險類型；（三）評估風險：針對識別出的風險類型，進一步評估該風險類型的影響程度；（四）應對風險：依據判定結果強化或規劃妥適的管理作為。

至於AI風險類型表，先前數發部政務次長侯宜秀透露，AI風險分類框架草案區分成三大類風險。如今正式內容已底定，彙整現階段各種已知風險，歸納為3大類型與20項子類別。

第一類風險是：AI系統本身之技術設計缺陷，共8項。涵蓋：AI系統的安全漏洞與攻擊、缺乏透明性或可解釋性、AI行為偏離人類意圖與社會價值、AI具有危險的能力、影響隱私與違反個人資料保護法規、侵害智慧財產權疑慮、不公平的歧視或偏見、錯誤或誤導訊息。

第二類風險是：部署後操作及人機互動問題，共6項。涵蓋：過度依賴與不安全使用、喪失人類自主性、生成違法內容、詐欺與深偽技術濫用、用於網路攻擊、AI Agent自主代理之授權外行為。

第三類風險是：社會結構與環境衝擊，共6項。涵蓋：企業及國家間競爭秩序失衡、權力集中與利益分配不公平、不平等加劇與就業品質下降、人類在經濟與文化上之創作價值受損、環境傷害、認知作戰與資訊主權。

數位發展部強調，此框架將成為政府跨部會溝通的共同語言。藉由提供一套共通的評估標準，協助各機關訂定以風險為基礎的管理規範，並依循標準化流程，全面落實AI風險的識別、評估及應對。