隨著人工智慧(AI)運算需求快速攀升,資料中心散熱問題成為挑戰,過去AI伺服器多以液冷(Liquid Cooling)作為主要散熱解決方案,但現在市場出現新的技術選擇。
美國新創公司Akash Systems近期採用鑽石散熱(Diamond Cooling)技術,首次應用於搭載AMD Instinct MI350X。
與傳統散熱材料相比,鑽石具有極高導熱率,遠優於銅、鋁等金屬材料,逐漸被視為解決熱挑戰的重要材料。透過鑽石散熱基板(Diamond Substrate),可有效將晶片熱量快速導出,並可與現有的氣冷(Air Cooling)及液冷(Liquid Cooling)技術形成互補,該技術逐漸受到半導體與高效能運算(HPC)領域關注。
全球首款「鑽石散熱(Diamond Cooled)」AI伺服器本月問世。這款系統由神達控股旗下子公司神雲科技(MiTAC Computing)負責製造與部署,採用Akash Systems的Diamond Cooling技術,搭載AMD Instinct MI350X GPU。
根據公開資料顯示,透過鑽石散熱技術,GPU與高頻寬記憶體(HBM)溫度最高可降低10°C(18°F)。在標準資料中心環境溫度(約75°F / 24°C)下,每瓦浮點運算次數(FLOPs/Watt)最高可提升22%;在高溫環境(約 120°F / 49°C)下,AI Token吞吐量(Throughput)最高可提升15%。
另外,Akash今年2月已向印度最大主權雲服務供應商NxtGen AI PVT Ltd交付全球首批採用鑽石散熱技術的GPU伺服器,該系統採用NVIDIA H200,顯示鑽石散熱技術正逐步進入實際商用部署階段。

圖片來源:MiTAC Computing官網