英特爾在OCP2026全球大會上發表其代理式AI基礎架構最新進展,包括Intel GPU D系列(代號Crescent Island)技術細節,還展示搭載Xeon處理器的新一代機櫃設計,以及支援異質運算的開放式軟體與硬體標準,瞄準支援代理AI的新一代企業資料中心架構。
相較於生成式AI以大型語言模型推論為主,該公司認為,代理式AI的工作流程更加複雜,不僅包含模型推論,還涉及資訊檢索、推理、工具呼叫、工作流程協調與任務執行等多個步驟,為此,資料中心不再只是追求GPU算力,而需要CPU、GPU與專用加速器共同分工。
英特爾資料中心系統與解決方案事業群副總裁Nicolas Dubé表示,開放模型讓企業擁有更多AI部署選擇,但若想要充分發揮代理式AI的能力,則必須依據不同工作負載配置最適合的運算資源,為此英特爾提出「Put Every AI Task in Its Place」。
在英特爾所提出的代理AI架構中,GPU主要負責大型語言模型推論與Token生成,而CPU則負責協調AI代理工作流程,包括資料處理、I/O管理、工具呼叫、資料傳輸與工作負載調度,讓GPU持續維持高使用率。英特爾認為,隨著代理式AI導入到更多的企業流程中,CPU將重新成為AI基礎架構的重要組成。
同步亮相的Xeon機櫃設計即反映這個目標。該機櫃採用Open Rack v3(ORv3)標準,部分Xeon 6+配置可讓單一機櫃部署超過4.6萬個CPU核心,整體功耗約133.45kW,以提高通用運算密度,支援大規模代理式AI部署。
英特爾進一步指出,未來資料中心衡量指標,不再是單一GPU效能,而是在符合延遲的要求下,單一機櫃能可同時支援多少AI Agents運作。
英特爾展示與不同業者合作的Xeon機櫃,專為代理AI的基礎架構設計:
發表GPU D系列,單張GPU可支援3千億參數模型
另外,英特爾還公布專為AI推論設計的Intel GPU D系列。該款GPU採用Xe3P架構,在350瓦功耗下,最高可提供480GB LPDDR5X記憶體、1.5TB/s記憶體頻寬及1.3 PFLOPS FP8運算效能,主要鎖定大型語言模型推論、長上下文及多租戶AI服務等工作負載。
一張GPU D系列最高可支援約3,000億參數模型,而8張GPU組成的系統則支援超過1兆的參數模型。此外,英特爾還強調GPU D系列採用了標準PCIe介面與氣冷式設計,不需要特殊的專用機櫃或液冷,可直接部署在既有資料中心,主打降低企業建置AI推論的成本與門檻。
除了硬體之外,另一焦點則是軟體。GPU D系列採用共通的Xe軟體架構,該公司強調能夠支援不同Intel GPU平臺間的應用程式轉移,並支援主流AI框架、推論服務引擎與開發工具,讓開發人員可在Xeon處理器與GPU間部署相同工作負載。
因應企業導入代理式AI的需求,該公司介紹Intel AI for Enterprise Agent Toolkit,支援程式開發代理、企業工作流程及多模態AI應用,未來也會延伸到Intel GPU平臺,提供跨CPU與GPU的異質運算能力。
而在硬體標準方面,該公司也和其他業者合作展示Open Adapter Card標準,以建立機櫃內部署的標準化加速器卡規格,提升不同廠商系統的機構設計、電力與管理介面的互通性,讓企業能在既有基礎架構上逐步導入AI加速器,不需重新建置新的資料中心。
目前Intel GPU D系列已開始提供樣品,英特爾強調會持續擴展GPU、Xeon、開放式軟體與OCP生態系,目的為企業在既有資料中心環境,以成本效益及能源效率來部署代理AI推論應用。
Comments (0)
Sign in to comment