新聞

微軟上周公布自行開發的尖端模型MAI-Base-2,號稱在多項核心效能與基準測試上超越OpenAI的主流模型,且在推論與訓練過程中所消耗的算力僅需對手的1/4。

微軟6月公布第一款自有模型MAI-Base-1,以及以此為基礎的推理模型MAI-Thinking-1。最新的MAI-Base-2為一款混合專家(mixture of experts,MoE)基礎模型,總參數量達2.8兆,推論時啟動800億參數。MAI-Base-2是今年8、9月在1.6萬顆GB200 GPU上以38天訓練而成,訓練資料規模達50兆個token。

MAI-Base-2在微軟自有包括程式碼撰寫、問答、數理科學問題等評估測試中超越所有開放權重的模型,Kimi K3、Qwen3.8-2.4T-A95B和MiMo-V2.6-Pro-RL。其中,微軟宣稱,MAI-Base-2在預訓練階段使用的浮點運算量,比最強大的開源模型DeepSeek-V4-Pro-Base還省4到12倍。此外,比起MAI-Base-1,最新一代模型算力用量也節省了6.3到12.7倍。

微軟指出,MAI-Base-2的訓練資料來源都很清楚,預訓練是以有機資料為基礎,並非由其他模型蒸餾而成。這使其模型權重得以安心透過Foundry授權給受信賴的合作夥伴,也可提供企業客戶信賴模型滿足其需求。該公司相信,效能提升原因可歸諸資料相關性及品質、新的建模方法如採用Muon最佳化器(Optimizer)和改善執行與通訊問題,成功將特定MoE層的硬體浮點算力利用率(MFU)從傳統的24%提升至35%。

MAI-Base-2目前正在後訓練階段,完成後會先整合到微軟產品中,之後透過公司市集平臺Foundry提供給客戶。微軟已啟動MAI-Base-3開發,未來也會將這種資源節省的效益整合到其中。