數據中心熱管理怎麼做？拆解高密度 GPU 散熱挑戰、方法與主流技術分享

現時 AI 模型訓練、推論與高效能運算（High-Performance Computing，HPC），需要大量平行運算能力，使 GPU 成為重要的運算資源；但當這些高功率設備集中部署，原本適用於傳統工作負載的冷卻架構，就可能面臨新的散熱挑戰。本文從高密度 GPU 的散熱技術及方法出發，協助企業從自身的設備需求與數據中心環境，規劃未來的冷卻系統部署與熱管理方向。

高密度 GPU 是什麼？

所謂高密度 GPU，並不是在描述一般桌面電腦裡的單張顯示卡，而是指資料中心、AI 伺服器或高效能運算（HPC）環境中，將多顆高功率 GPU 集中部署於伺服器與機櫃，形成高功率密度的運算環境。

它能為企業帶來哪些效益？

企業之所以採用這類架構，主要是因為 AI 模型訓練、推論與科學模擬等工作需要處理大量資料與複雜的平行運算。相較於僅依靠單一運算裝置，多 GPU 架構能將大型運算任務分配至多個部件同時執行，藉此縮短運算時間，並支援規模更大的模型、資料集與運算任務。

GPU 幾度算過熱？

那麼，多 GPU 架構幾度算是過熱？事實上，GPU 並沒有適用於所有型號的統一過熱溫度，不同產品會依晶片設計、功耗與使用環境，設定各自的最高工作溫度與熱降頻門檻。因此，判斷是否過熱時，應以個別規格與實際運作狀態為準，並無單一標準。

GPU 過熱會為數據中心帶來哪些影響？

GPU 過熱最直接的影響，是無法持續維持原本的運算頻率。當溫度逐漸接近設備設定的門檻時，系統可能啟動熱降頻機制（Thermal Throttling），主動降低 GPU 的運作頻率，藉此減少功耗與發熱，避免溫度繼續攀升。[1]

對於 AI 模型訓練、推論或高效能運算而言，一旦運作頻率受到限制，單位時間內可完成的運算工作便可能減少，進而影響模型訓練速度、推論吞吐量或整體運算任務的完成時間。

如何讓高密度 GPU 降溫？常見的散熱方法

隨著單台伺服器與機櫃承載的運算設備增加，冷卻方式亦需要依設備功率、機櫃配置及既有基礎設施進行調整。目前常見的高密度 GPU 散熱方法包括：

1. 氣冷（Air-Cooling）

氣冷是發展較成熟、相當普遍的方式，主要利用空氣作為熱量傳遞的媒介。設備運作時產生的熱，會先經由散熱介面材料與散熱器傳出，再由伺服器內部的風扇將熱空氣帶離設備，最後透過冷熱通道與機房空調系統排出。

2. 後門熱交換器（Rear-Door Heat Exchanger，RDHx）

後門熱交換器是在伺服器機櫃後方加裝一組冷卻裝置。當伺服器運作所產生的熱空氣從機櫃後方排出時，熱交換器會利用內部循環的液體吸收熱量，讓排回機房的空氣溫度降低。

這種方式的優點是不需要大幅改動原有伺服器，便能進一步處理機櫃排出的熱量，因此對於已經採用氣冷、但希望提升冷卻能力的數據中心而言，是一種可評估的升級方式。

3. 直接液冷（Direct-to-Chip，D2C）

直接液冷又稱冷板式液冷（Cold Plate Liquid Cooling），主要是在 GPU、CPU 等高發熱元件表面安裝冷板，讓循環液體直接吸收晶片產生的熱，再將熱量傳送至外部冷卻系統。

相較於先將晶片熱量傳遞給空氣，這種方式縮短了主要熱源與液體之間的熱傳路徑，因此特別適合處理高功率處理器所產生的集中熱量。

延伸閱讀：直接液冷 DLC 是什麼？解析直接液冷技術原理及趨勢

4. 浸沒式冷卻（Immersion Cooling）

浸沒式冷卻採取不同的熱管理方式，是將伺服器等運算設備置於不導電的介電冷卻液（Dielectric Fluid）中，使液體直接接觸電子元件並吸收設備運作時產生的熱量。主要著重於整體設備與冷卻液之間的熱交換，因此可降低對傳統伺服器風扇及大量空氣循環的依賴。

高密度 GPU 散熱可能面臨的挑戰

然而，運算設備越集中，也意味著功率與熱負載同步集中，使散熱能力成為高密度部署能否持續擴充的重要條件。常見的高密度 GPU 散熱挑戰包括：

1. 單機與機櫃熱密度大幅提高

由於 AI 模型訓練與高效能運算需要多顆運算元件協同工作，而一台伺服器除了主要處理器之外，亦包含記憶體、儲存、網路及電源等元件，運作過程中都會產生熱量。當更多高功率設備集中部署於同一台伺服器，或集中至單一機櫃，單位空間需要排除的熱量便會隨之增加。

2. 局部熱點與溫度不均

設備密度提高後，即使整體機房溫度維持在正常範圍，亦不代表每一台伺服器都處於相同的冷卻條件。設備的位置、排列方式、進氣條件與氣流路徑，均可能影響實際溫度。

例如，伺服器排出的熱空氣若重新回到設備進氣端，吸入的空氣溫度便較高；反之，若冷空氣未有效通過設備便直接流向回風區，亦會降低冷卻資源的利用效率。

因此，設備越集中，維持溫度均勻性的難度也會隨之提高。除了控制整體環境溫度之外，如何減少冷熱氣流混合、避免熱空氣回流，以及降低局部熱點，都是高功率運算環境需要重視的問題。

3. 熱負載增加氣冷擴充空間受限

傳統氣冷主要利用空氣帶走設備產生的熱量，因此當伺服器或機櫃的功率提高，需要排除的熱量增加，就必須提供更大的風量，才能維持設備所需的冷卻條件。

然而，氣流並不能隨著設備功率無限制增加。伺服器風扇的送風能力、機櫃可容納的風量、冷熱通道配置，以及機房空調可提供的冷卻能力，都有其設計上限。當熱負載持續增加，除了需要提高風扇轉速與送風量，亦可能必須同步調整風道、空調與機房配置，擴充難度隨之提高。

高密度 GPU 散熱技術趨勢：浸沒式冷卻的應用

面對前述的冷卻限制，資料中心的因應方式已不再只有增加風量。現時，如何讓冷卻介質更直接接觸設備、縮短熱量向外傳遞的路徑，已成為高功率運算環境的重要熱管理方向。浸沒式冷卻（Immersion Cooling）便是在這樣的需求下受到關注的高密度 GPU 散熱技術之一。

單相與兩相浸沒式冷卻

浸沒式冷卻的特色，在於讓設備直接與介電冷卻液進行熱交換，降低對大量氣流循環的依賴。而依照冷卻液吸收熱量後是否發生相態變化，又可進一步分為單相式與兩相式兩種：

單相浸沒式冷卻（Single-Phase Immersion Cooling）：在運作過程中，冷卻液會維持液態。設備產生的熱由介電冷卻液吸收後，再透過循環系統將熱量送往熱交換器，降溫後的液體則重新回到槽體內循環使用。
兩相浸沒式冷卻（Two-Phase Immersion Cooling）：利用冷卻液的相變（受熱汽化、冷卻後再變回液體）帶走熱量。當設備溫度升高時，周圍的冷卻液吸熱後會變成氣體，接著經過冷凝降溫，再恢復成液體繼續使用。

哪些資料中心適合評估浸沒式冷卻？

浸沒式冷卻並非所有資料中心都需要採用，企業仍應依設備功率、既有冷卻能力、未來擴充需求及維運條件進行評估。若設備長時間處於高負載運算，或原有氣冷架構逐漸接近冷卻能力上限，便可將此項技術納入規劃選項，例如：

AI 資料中心：大量部署 GPU 進行模型訓練、推論等運算任務，設備經常需要長時間維持高負載運作，可評估以浸沒式冷卻來降低對大量氣流循環的依賴。
高效能運算中心（HPC）：科學模擬、工程分析與大型資料運算通常需要大量處理器協同工作，對設備穩定運行與持續冷卻能力要求較高。
高功率 GPU 叢集／機櫃：當多台 GPU 伺服器集中部署於有限空間，單一機櫃需要處理的熱負載也會更加集中。浸沒式冷卻可直接透過介電冷卻液吸收設備熱量，提供不同於持續增加風量的冷卻方式。
既有氣冷擴充受限的資料中心：若新增運算設備後，既有風量、空調或機房配置逐漸接近原有設計能力，持續擴充氣冷系統的難度與成本可能隨之增加。此時可進一步評估浸沒式冷卻方案，確認是否升級既有設施。