Meta上週推出Mac版Muse App,並開放多模態AI模型Muse Spark Open的權重,同時與蘋果合作,讓這款大型模型能在Mac Studio上執行。
Meta執行長Mark Zuckerberg周四在X宣布透過和蘋果及新任執行長John Ternus的合作,Muse Spark Open模型可在Mac Studio執行。Ternus也回應,Mac桌機上可高效執行Muse Spark Open校正和擴充,Mac Studio持續推進桌機端AI的境界。
這是Meta和庫克(Tim Cook)時代的蘋果長久因App Store蘋果稅(Apple tax)和用戶隱私問題對立以來雙方首度合作。Muse AI個人代理人App也在App Store上架。
Meta上周推出的Muse Spark Open是一款開放權重多模態模型,主要針對程式開發與AI代理任務設計,參數量8160億,運算時啟動420億參數,脈絡空間100萬token。Meta建議開發者將Muse Spark Open整合至具備其他防護機制的AI系統,而非單獨部署。
Muse Spark Open可進行多步驟推理與規畫,並依序呼叫工具完成任務、程式撰寫及架構內的工作,因此能執行多步驟推理、端到端代理式任務、程式撰寫/除錯,也能在長時間執行的工作流程中使用工具,遇到錯誤時進行診斷與重試。多模態支援能詮釋截圖、圖表、文件、圖像、影音,部署在具備豐富資訊環境中,和用戶進行代理式對話。Muse Spark Open還能扮演其他模型輸出的評估者角色。
開放權重版具備多一層安全後預訓練,這使它單獨使用得以防止濫用,同時無需系統護欄。但如果針對某些特殊應用情境,Meta還是建議搭配額外的安全護欄。
Muse Spark Open現在可經由第三方推論平臺供應商以API提供使用,其權重則可由Hugging Face下載。可部署的平臺眾多,包括Google Cloud、AWS、模型託管平臺Fireworks及Baseten、無伺服器平臺Modal、Nebius或Nvidia Groq、Intel、AMD、Microsoft,及SGLang、Hugging Face、Unsloth、vLLM等框架。
Comments (0)
Sign in to comment