新聞

AMD在美國舊金山舉行年度的AI活動上，AMD執行長蘇姿丰正式對外發表新一代Instinct MI400系列資料中心AI加速器，採用CDNA 5架構及台積電2奈米製程設計，包括MI430X及進階的MI455X，鎖定HPC、主權AI發展，到尖端的模型訓練、大規模推論需求的AI基礎建設需求；AMD也在活動中同步揭露搭載Instinct MI400系列及最新EPYC處理器的Helio機櫃。

AMD執行長蘇姿丰表示，過去幾年資料中心的運算需求以AI訓練(Training)為主，但現則是以推論(Inference)的需求為主，2026年AI推論與訓練的運算需求約為6:4。

她表示，Agentic AI的趨勢進一步帶動更多的推論需求、更多的Agent及工具，這意謂著需要更多的運算資源，其中包括CPU來協助Agent執行多個動作。

因此，AMD預期資料中心的AI加速器市場，到了2030年將成長至1.4兆兆美元。顯示用於AI訓練及推論的加速器市場龐大的商機。

今年AMD Advancing AI活動的焦點，包括新一代資料中心AI加速器，以及鎖定AiI工廠高密度部署的Helio機櫃。

AMD指出，現今的AI基礎建設，包括先進的AI、自主AI發展、科學運算，不同的應用需要針對其需求優化的運算基礎設施，MI400系列資料中心GPU可搭配Helio機櫃架構，針對不同運算基礎設施需求提供彈性部署方式，包括高效能運算的研究機構，和推動主權AI、國家級基礎設施、超大規模AI工廠的建置需求。

MI430X針對自主AI發展、HPC；而進階的MI455X鎖定超大規模的AI工廠基礎設施，例如AMD剛宣布不久，將與Anthropic合作建置數個GW的搭載MI455的Helio機櫃。這些MI400系列GPU均能支援ROCm軟體，以提供程式設計模型、編譯器、函式庫、Runtimes和部署；AMD稱目前在Hugging Face已可支援超過300萬模型。

針對大規模模型訓練及推論需求設計的MI455X，採用2奈米製程設計，搭配CDNA 5架構，內含3,200億個電晶體，最多可支援432GB的HBM4記憶體，記憶體頻寬支援每秒23.3TB，支援MXFP8效能20PF(MXFP4效能為40PF)，在記憶體容量、記憶體頻寬、效能各方面要優於前一代的MI355X GPU。

相比於MI355X，MI455X在Token吞吐量最高提升34倍，Token成本最多可降低18倍，代表能以更快的回應時間、更好的經濟效益服務更多的用戶。

至於MI430X預計在2027年上半年推出，其HPC FP64運算效能可達288TF(比Nvidia Vera Rubin高出8.7倍)，並支援432GB HBM4記憶體，比Vera Rubin多出50%的記憶體容量，記憶體頻寬支援每秒23.3TB/s。

除了占據主角光環的MI400系列，AMD針對企業既有採用氣冷架構資料中心易於部署AI的需求(450到600W TDP)，發表一款Instinct 300系列加速器Instinct MI350P, 可支援2,600億的模型 。

鎖定大規模AI工廠的Helio機櫃

至於高度整合的Helio機櫃，AMD強調該機櫃的設計的目標是成為最高效能的AI Rack，包括採用CPU(代號Venice的第六代EPYC處理器)、GPU(搭載MI455X)、網路(Pensando網路技術)，可支援AMD ROCm軟體。其在CPU的核心效能、GPU運算、HBM4記憶體容量及記憶體頻寬，以及網路的橫向、縱向擴展頻寬等方面，宣稱要優於競爭對手，Helio機櫃已開始量產。

Helio機櫃在CPU方面，搭載第六代EPYC處理器，支援96個高頻率核心，搭配搭載MI455X，達到FP4運算40PF效能，網路方面採用Pensando及UALoE，可連接72顆GPU，網路縱向(Scale-up)頻寬可達到260TB/s。

以競爭對手Nvidia新近推出的Vera Rubin NVL72相比較，AMD稱Helio多出15%的AI運算，高出50%的記憶體總容量，以及多出50%的橫向網路頻寬。每美元的Token產出量最多提高30%，對AI的Token產出帶來更好的經濟效益。

在Helio機櫃方面，AMD宣稱Helio機櫃已獲得超大規模的AI業者採用，包括OpenAI、Meta、Anthropic、微軟及Oracle。

在今年的MI400系列之後，2027年將推出Instinct MI500系列，採用CDNA 6 GPU架構及下一代的HBM記憶體，提升CPU縱條擴展能力，以及新的銅纜與光纖高速連接技術；接下來會在2028年推出Instinct MI600系列，目前正在研發中。

相較於其他對手，AMD一向強調開放平臺的競爭策略，來鎖定AI工廠等大規模基礎設施的部署需求，該公司也稱OpenAI、Meta、Anthropic三家AI業者將會採用Helio部署GW規模的AI基礎設施。

至於Helio機櫃的網路技術，在前端(Front-End)採用第三代Pensando Salina DPU，可支援400Gb/s；縱向則採用第一代的UALoE，可連接72顆GPU, 支援260TB/s；橫向擴充則是第二代Pensando AI NIC，Vulcano，支援PCIe 6、UAL，可達到800Gb/s。

第六代EPYC處理器瞄準代理AI的不同CPU運算需求

AMD也在今年的AI年度活中正式發表代號Venice的第六代EPYC處理器，該款EPYC處理器型號為9006系列，第六代EPY處理器目前已開始量產。除了一般伺服器運算、雲端基礎設施採用，Venice也推出特定的處理器版本，專門鎖定正在興起的代理式AI運算部署需求。

AMD指出，新一代的EPYC處理器，主要瞄準代理AI在工作流程中的3項依賴CPU的工作，包括執行AI Agent、持續提供GPU等AI加速器需要的資料，以及支撐Agent存取的各種企業服務。

當AI Agent需要規畫任務、呼叫工具、執行程式碼、查詢企業資料庫或串接ERP、CRM等系統時，負責協調、調度與執行這些工作的仍是CPU，而GPU則專為大型模型推論等高密度AI運算使用。

代理AI改變資料中心內CPU與GPU分工

AMD指出，當AI從單純回答問題，發展為自主規畫、推理、執行任務並與企業系統互動的新型態AI，企業的資料中心運算架構需求也跟著改變。AI系統不只是依賴GPU進行模型推論，還要大量的CPU負責Agent的執行、工作流程協調、資料存取，以及持續為AI加速器提供資料，以降低GPU資源的閒置。

因此，資料中心運算架構從過去以CPU搭配GPU的模式，將會演變為三層式的代理AI架構，每層各有不同CPU運算需求。AMD認為，代理AI工作流程主要可分為三類CPU工作，包括負責執行AI Agent的「Agent Sandbox」、負責支援GPU叢集的AI主機節點「AI Host Node」，還有負責企業原有業務系統的「General Purpose CPU」。

三類CPU工作：

Running agents（執行Agent） ： Agent Sandbox CPU

Feeding accelerators（支援GPU） ： AI Host Node CPU

Enterprise services（執行企業應用） ： General-purpose CPU

而基於不同層級工作負載，需要不同設計目的CPU支援，AMD認為這不是一個CPU就能適用不同工作需求。

AMD將CPU依不同的工作任務，分為用於GPU Server的Host Node，當中的CPU支援GPU；另一個CPU工具任務則是在Agent CPU Server中的Sanboxes；最後則是用於一般企業應用的通用CPU Server：

因此，AMD EPYC處理器9006系列共提供4個版本。首先是EPYC 9006 SP7，為高密度的代理沙盒而設計，最多為256個核心及512個執行緒，強調在AI Host Node裡，可以5GHz的時脈、支援PCIe 6支援GPU，強調每瓦、每美元或機架下能執行更多的AI代理。

EPYC 9006 SP8則以高效率執行企業關鍵工作負載及代理沙盒為目標，提供8到128個核心，採低功耗設計，適用於邊緣運算，以及用電限制的小型叢集系統使用

EPYC 9006X SP7則支援更大的快取記憶體及頻寬為設計，鎖定HPC及科學研究需求，相較於EPYC 9006 SP7，某些型號能提供超過5GHz更快時脈及L3快取。

至於EYPC 9006 LP，原先代號為Verano，是專門針對下一代的機架級AI而設計，在AI Host Node裡，可結合LPDDR記憶體和5GHz高時脈， 在加速器密集的機架上使用，從單一節點到AI工廠，隨擴展提高利用率。

AMD宣稱Venice處理器在上述的三層架構中，例如在企業通用伺服器中，較於Nvidia的Vera CPU提升3.3倍的效能；在GPU伺服器中的AI Host Node中，相較於英特爾Xeon 6960P，在尖端模型提升1.8倍的每秒Token，在CPU伺服器的Sanbox中，比Arm的CPU帶來2.8倍的每瓦Agent數。