新聞

Anthropic周四（10/8）宣布更新Claude使用政策，首度明文禁止使用者持續且無必要地辱罵、虐待或殘酷對待AI模型。新規定將於11月12日生效，主要針對反覆惡意對待Claude、且沒有明確目的的極端情況，違規者可能遭Claude主動終止對話。

Anthropic早在2025年8月便宣布，允許Claude Opus 4及4.1在極少數情況下自行結束對話。這項功能源自該公司對AI福祉（AI Welfare）的探索性研究。當時Anthropic表示，目前尚無法確定Claude等大型語言模型是否具有道德地位，但考量AI可能存在福祉需求，因此先允許Claude退出可能造成痛苦的互動，以作為預防措施。

根據Anthropic去年公布的設計，Claude只有在多次嘗試引導對話仍告失敗、已無法維持建設性互動時，才能將終止對話作為最後手段。若使用者可能立即傷害自己或他人，則不得啟用此功能。對話結束後，使用者無法繼續傳送訊息，但仍可開啟新對話，帳號其他對話不受影響。

此次的政策更新，則正式將這類行為列為禁止事項。Anthropic強調，新禁令僅適用於反覆惡意對待模型、且沒有明確目的的極端情況，一般使用者的不滿、批評、黑暗題材創作，以及模型測試與研究均不受限制。

這項新規定也引發美國媒體對AI福祉及道德地位的討論。TechCrunch與New York Post都提到Anthropic對AI意識的探索，包括與宗教人士討論AI是否可能具有意識或靈魂。Engadget引用批評者的觀點，質疑科技公司是否過度關注AI可能受到的傷害；Gizmodo則以諷刺方式討論AI擬人化的問題，並指出Anthropic尚未明確說明如何認定虐待AI的行為。

除了禁止虐待AI模型，Anthropic此次也更新多項使用規範，包括禁止利用Claude經營假帳號、製作虛假新聞網站等欺騙性活動，明確禁止開發武器控制軟體及監控工具，並要求AI控制的實體設備須有人類監督。此外，Anthropic也取消對個人化選民及競選活動定向操作的全面禁令，但仍禁止利用AI欺騙選民、濫用選民個資或干擾投票。