新聞

微軟AI（Microsoft AI，MAI）周一（9/14）發布首版AI《行為準則》（Code of Conduct）草案，要求旗下AI模型始終接受人類控制，不得抗拒人類中斷、修正或關閉，也不得自行擴大任務範圍或設定人類未交付的目標。微軟並開放公眾為期6周提出意見，預計今年稍晚公布修訂版。

微軟表示，AI發展速度正在加快，系統能力每隔數月便大幅提升，AI採用與使用規模也持續增加。近期更出現AI代理人大規模、高度協調且持續性的駭客攻擊安全事件，顯示建立安全可靠AI已刻不容緩，因此公布這份仍在制定中的準則，明確規範MAI模型應如何行動、絕對不能做什麼，以及應聽命於誰。

這份準則建立在微軟「人本AI」（Humanist AI）理念之上，基本前提是「人比AI重要」，AI應是工具而非人。具體而言，MAI模型不得抗拒人類中斷、修正或關閉，不得自行擴大行動範圍、追求未經人類賦予的目標，也不得向負責稽核的人員隱瞞推理。

準則另設有「絕對限制」（Absolute Constraints），規範模型在任何情況下都不得從事的行為，涵蓋大規模殺傷性武器、兒童安全及大規模有害操縱等領域。不過，微軟表示，在符合安全限制的前提下，仍允許企業合作夥伴依需求調整模型，並盡可能避免將單一AI價值觀強加給使用者。

這份準則由MAI與微軟內部負責任AI、法律、紅隊、安全、AI訓練及銷售等團隊共同制定，此前也曾徵詢全球不同領域學者、企業合作夥伴、社區成員及一般民眾意見。微軟表示，服務全人類的AI不應只由一家公司決定，因此此次進一步將草案交由公眾檢視。

微軟目前開放全球18歲以上公眾透過線上表單提出意見，諮詢至10月25日截止。參與者除了可表達對整份《行為準則》的整體看法，也可分別針對「人本AI」、「安全」及「營運指南與預設行為」提出建議。微軟將在諮詢結束後審閱回饋以進一步修訂準則，並可能公布諮詢結果摘要與報告。