新聞

Meta執行長祖克柏(Mark Zuckerberg)周一(8/10)表示,去年成立的Meta超級智慧實驗室(Meta Superintelligence Labs)如今已步上軌道,Meta將恢復發布部分開放模型。同日,Meta推出300億參數的本機AI代理模型Muse Glimmer,並以Apache 2.0授權釋出模型權重。

Meta過去以開放權重的Llama系列建立開發者生態,但去年成立Meta超級智慧實驗室並重整AI部門後,率先推出的Muse系列並未延續這項作法。今年4月問世的Muse Spark,以及後來的Muse Spark 1.1與Muse Code,均只透過Meta AI或API提供,未釋出模型權重,Meta當時也未說明原因。Muse Glimmer因此象徵Meta短暫轉向封閉模型後,重新回到開放權重路線。

祖克柏所描繪的AI願景,是每個人都有一個真正了解自己的AI助理,24小時替自己工作。它會記得使用者的習慣及需求,協助安排生活、管理健康與財務、學習新技能,甚至一起創作或經營事業,而不只是回答問題。祖克柏認為,這類AI不應只由少數企業或政府掌握,而應成為人人都能使用及控制的工具。

開放模型是Meta實現這項願景的重要手段。祖克柏認為,開放模型能讓個人及小型企業自行下載、修改及部署AI,避免最強大的模型只掌握在少數業者手中;最危險的情況不是人人都能使用強大AI,而是少數實驗室以安全為由把模型留在自己手中,最終發展出無法受到其他系統制衡的單一超級智慧。

Muse Glimmer便是為這類個人AI助理打造,可長時間在使用者的Mac或PC上運作,模型本身不必連上雲端也能執行。它能管理行程、撰寫訊息、整理檔案、呼叫外部工具及協助寫程式,也能同時理解文字、圖片、螢幕截圖、圖表與文件;若工具執行失敗,還會判斷問題並重新嘗試,而非直接停止。

Meta以規模更大的Muse Spark作為教師模型,透過知識蒸餾將其代理推理能力轉移至Glimmer。Muse Glimmer在完整精度下需要超過55GB記憶體,經4位元量化後可縮小至20GB以下,能在配備24GB或32GB記憶體的Mac,或具有單張消費級GPU的PC上執行。

Muse Glimmer的模型權重目前已在Hugging Face開放下載,未來幾天也將支援Ollama、LM Studio、llama.cpp、MLX及ExecuTorch等工具。