Meta與AWS簽約，初期將採用Graviton千萬核心

本次簽約是雙方最新合作，也是長期合作的一環，一開始Meta將採用「數千萬Graviton核心」，未來可隨Meta AI容量需求成長擴充。Amazon表示，這合作反映AI基礎架構打造思維的轉變；雖然GPU對訓練大型模型仍然重要，但代理式AI興起推升CPU密集任務大量增加，像是即時推理、程式生成、搜尋和協調多步驟任務。

AWS指出，運行代理人運作的基礎架構需要能處理數十億互動，同時協調複雜多步驟代理人工作流程，Graviton系列正是為此設計，透過這項合作，Graviton將支援Meta代理人在內的多種AI應用的大規模運作。

彭博上週報導本案估計金額達數十億美元。

Graviton是Amazon 2018年推出的自研Arm-based CPU，在AWS上，運行在專用軟硬體的AWS Nitro System之上。Amazon指出，Graviton已佔了EC2近兩年新增CPU容量超過一半。去年12月宣布3奈米製程的Graviton 5晶片具備192核心及前代5倍大的快取，使核心間通訊延遲性減少33%。Graviton 5執行個體還支援Elastic Fabric Adapter（EFA）有助於加速執行個體間的通訊。Graviton5-based Amazon EC2 M9g執行個體效能比使用前代時提升25%。

去年媒體報導Meta和Google簽下價值百億美元的六年雲端合約。

Meta和AWS的最新合作是這家社群平臺龍頭為AI應用擴張運算容量計畫的一環。除了使用第三雲端及晶片基礎架構，Meta亟欲自行開發晶片。Meta 2023年發表第一代自研晶片MTIA（Meta Training and Inference Accelerator）100，迄今已經推出6代（MTIA 500）。

Meta兩週前宣布與博通（Broadcom）擴大合作，雙方將共同開發多個世代的自研AI晶片MTIA（Meta Training and Inference Accelerator），希望運用博通的晶片設計、封裝與高速網路技術，打造可擴展至多GW等級的AI晶片，降低對外部GPU的依賴。

Meta和AWS的共同對手，包括Google、微軟都有自研晶片的進展。Google有Axion CPU及AI加速器TPU，後者包括上週發表的第8代TPU（TPU 8i/8t）。微軟則有Cobalt CPU及AI加速器MAIA。