資策會MIC：AI資料中心擴展瓶頸從算力轉向電力與散熱，基礎設施正面臨轉型變革

AI伺服器功耗飆升，資料中心面臨基礎設施極限

郭思偉指出，近十年GPU與AI伺服器的功耗大幅上升，單一晶片從400瓦、700瓦到1,200瓦，這意味著不只是伺服器、機櫃設計改變，連帶衝擊整體資料中心的電力與散熱架構。

這使得問題不再限於單一機櫃，而擴及整棟建築乃至區域電網。當電力需求與熱排放同步增加，資料中心營運者必須同時解決「如何供電」與「如何散熱」兩大難題。

舉例而言，在1U機架高度內，若晶片功耗在350瓦以內尚可使用氣冷，而超過此限制就必須使用水冷或液冷。由於資料中心的空間有限，不能因為散熱而減少機器密度，如何在有限空間內輸入更多電力並有效排熱成為關鍵。

高壓、穩定供電成趨勢，傳統48V架構面臨淘汰

由於模型訓練需要使用大量記憶體，模型訓練需要較長時間，在電源轉換或負載變動時若供電不及，可能導致訓練數月的模型毀於一旦，因此Nvidia建議高階AI伺服器需配備BBU(Battery Backup Unit)，高階系統配備BBU逐漸成為標配，目前BBU有2種方式，採用鋰電池或超電容，前者電量較大，但使用壽命較短，後者的電量較小，但比較耐用。

另外，在電力架構上，傳統48V直流供電已難以支撐高功耗AI負載。郭思偉指出，隨著單一機櫃功率從過去10kW、30kW，提升至未來可能上看100kW甚至更高，業界正轉向高壓直流（HVDC）架構。

郭思偉指出，目前HDVC有2派的技術路線主張，一派是微軟和Meta主張的正負400V，可延用現今較成熟的電動車零件，另一派則是Nvidia去年倡議的800V系統，效率較佳，但目前僅有少數電動跑車採用，仍在驗證階段，預期2025年至2026年將完成驗證，2027年前後有機會成為主流標準。

除了HVDC， 固態變壓器 (SST)因為體積更小、效率更高的優勢，預計將取代傳統大型線圈變壓器，改善精準的電力調度。

備援電力與供電模式全面重構

在供電架構轉型之外，備援電力系統也面臨變革。傳統UPS使用鉛酸電池與柴油發電機，因環保與碳排壓力逐漸被淘汰，取而代之的是鋰電池、儲能系統（BESS）及燃料電池等方案。目前已有UPS採用鋰電池，但相對的容易有燃燒爆炸風險，去年南韓政府的資料中心即因鋰電池管理不當造成資料中心火災，進而曝露南韓政府資料備份不足的問題。

同時，資料中心業者也開始探索新的供電模式，例如「Behind-the-Meter」直供電，直接從發電端供電給資料中心，以降低對既有電網的依賴。國外已有資料中心案例，直接採用自建發電設備，確保電力供應不受限制，Amazon買下核電廠旁土地建設資料中心，跳過脆弱的公共電網。。

郭思偉指出，這反映出電網建設速度難以跟上AI發展需求。

核能與再生能源成為長期解方

在能源來源上，郭思偉表示，目前業界尋求低碳能源解方，包括再生能源、氫能與核能，其中小型模組化核電（SMR）被視為兼具穩定供電與低碳排的潛力選項。

此外，大型科技業者已開始透過長期購電協議（PPA）提前鎖定未來電力來源，確保AI資料中心的能源供應穩定。

液冷成主流，但仍處於過渡期

在散熱方面，傳統空氣冷卻已接近極限。郭思偉指出，空冷大致僅能支撐每機櫃約10kW至80kW的熱負載，無法滿足高階AI運算需求，這使得液冷快速崛起。

目前主流為直接液冷（Direct-to-Chip），並持續導入微流道等技術提升效率。浸沒式冷卻雖具更高的散熱能力，但是因維護與成本問題，短期內仍難全面普及。

值得一提的是，冷卻液也出現變革，過去常用的氟化液因環境疑慮正逐步退出市場，替代方案尚未確定，化工與材料業者積極投入競爭。

郭思偉強調，短期內液冷仍將和氣冷並存，原因是液冷初期成本高，且需要基礎設施配合；短期間內，業者多採取能用氣冷的做法，以兼顧成本與市場接受度。但是液冷也在管線標準、漏水防護與維運機制等問題上已有改善，導入障礙正逐步降低。

用水也是問題

除了電力之外，資料中心也成「用水怪獸」，散熱也帶來水資源問題。資料中心大量用水進行冷卻，已在部分地區引發民眾關切。

對此，目前業界已發展多種解法，包括水下資料中心，引用海水冷卻，或是將資料中心鄰近水源，設置於河邊，方便取水冷卻、建置封閉式水循環系統，甚至透過空氣取水技術降低對自來水的依賴。

郭思偉指出，臺灣業者在液冷與電源供應鏈已具備完整布局，涵蓋水冷板、接頭、管線與CDU等關鍵元件。

隨著BBU可望成為高階AI伺服器標配，帶動電源廠與電池廠之間的合作，台廠在模組整合能力上具優勢，有望在新一波架構升級中受惠。另外，在高壓供電（800V）標準上，已有多家台廠參與國際聯盟，提前卡位未來規格制定。

郭思偉認為，AI資料中心正從單純的算力競賽，轉向電力與能源效率的競爭。當電網、能源與散熱能力成為限制因素，誰能有效解決這些問題，將是下一階段產業競爭的關鍵。