新聞

過去生成式AI基礎架構主要圍繞大型語言模型（LLM）推論，GPU成為AI資料中心建置的重心。但是，隨著企業開始部署能夠自主規畫任務、呼叫工具及串接企業系統的AI Agent，資料中心需要處理的不再只有模型推論，而是增加了Agent執行、工作流程協調、程式執行及多Agent協作等工作，也使CPU重新成為Agent時代的重要運算資源。看準這方面的需求，AMD在周一發表Agentic AI機櫃參考架構（Rack Reference Design）Helion，透過可彈性配置CPU與GPU的開放式架構，以因應不同類型Agent工作負載的需求。

Helion延續AMD先前Helios Rackscale Solution的開放架構理念，採用Open Compute Project（OCP）規範設計。和以固定配置為主的AI伺服器不同，AMD強調Helion可依工作負載調整CPU核心密度、效能、功耗及GPU加速資源的機櫃設計，讓合作的業者依不同應用需求規畫運算架構。未來Helion規格將提交給OCP社群，由其持續發展與採用。

AMD Compute & Enterprise AI資深副總裁兼總經理Dan McNamara指出，Agentic AI並非單一工作負載，而是涵蓋個人AI助理、企業應用、程式執行及複雜工作流程等不同場景，每一種應用對運算資源的需求都不同。

他表示，Agentic AI需要的是能適應不同工作負載的最佳化運算與基礎架構，為此AMD將EPYC處理器、開放軟體及彈性的機櫃設計整合在Helion中，讓業者能依據客戶需求打造系統，同時更有效利用有限的電力資源。

這次在OCP大會期間公布的Helion提供2種主要部署配置。一種為針對超大規模資料中心設計的CPU-only Rack，採用第6代AMD EPYC處理器，最多可達到32,768個CPU核心，主要負責AI Agent執行、工作流程管理及工具呼叫，至於LLMd 推論則交由獨立的GPU叢集處理。

另一種部署配置是企業版All-in-One Rack，將AMD EPYC CPU、AMD Instinct MI350P GPU，以及一般的運算節點整合在同一機櫃中，讓企業在單一平臺上同時具備Agent執行與模型推論能力。

從Helion機櫃的設計來看，反映Agentic AI基礎架構逐漸朝向CPU與GPU分工化的趨勢發展。相較於生成式AI初期多聚焦GPU推論，Agent系統除了模型推論外，還涉及任務拆解、工作流程協調、程式執行及多Agent協作等工作，CPU重新成為AI基礎架構的重要組成。

AMD提出的CPU-only機櫃，將Agent執行與模型推論拆分，由CPU與GPU各自負責不同工作，以提高整體資源利用效率；企業則可依需求採用CPU、GPU整合的部署方式，在既有IT基礎架構上建置Agentic AI平臺。

除了硬體配置外，Helion也採開放式設計，可支援風冷與液冷2種散熱方式，並相容開放軟體架構。AMD表示，目前Helion的機櫃配置已與多家合作的業者共同開發，預期會在今年11月推出相關產品，並將規格提交至OCP，希望藉由開放標準推動Agentic AI基礎架構的發展。