2023.06.05 10:22 臺北時間

【Computex會後亮點1】比黃仁勳皮衣還「Cool」 AI加速伺服器廠看好液冷成新顯學

mm-logo
財經理財
AI熱帶動液冷降溫需求升溫,美超微搭載輝達最頂級H100伺服器的液冷機櫃,被黃仁勳大讚,背後供應商為雙鴻。
AI熱帶動液冷降溫需求升溫,美超微搭載輝達最頂級H100伺服器的液冷機櫃,被黃仁勳大讚,背後供應商為雙鴻。
為期4天的台北國際電腦展(COMPUTEX 2023)風光落幕,輝達(NVIDIA)創辦人暨執行長黃仁勳掀起的AI旋風餘威不斷,近5萬名參觀人潮湧向各電子大廠攤位朝聖最新AI伺服器,也讓高速運算系統引發的熱耗問題受到關注,討論多時的液冷(液體冷卻)技術躍上檯面。
本刊調查,包括美超微、廣達、技嘉、鴻海旗下的鴻佰,均紛紛透過水冷(水循環)或更先進的浸沒散熱在新品各顯神通,比起傳統的風冷或氣冷,「液冷」已成新顯學,背後推動的零組件台廠功不可沒。
工研院電光所組長王欽宏告訴本刊,液冷可說是此次Computex的熱門話題,關鍵原因,正是ChatGPT帶來的效應!
他分析,生成式AI刺激大語言模型(LLM)需求,裡面需要的晶片算力與資料量都比傳統伺服器暴增,大幅拉高晶片運轉過程的熱功耗(TDP)瓦數,但傳統利用風冷氣冷(風扇或冷氣)幫晶片/機房帶走熱能,在效率上已出現瓶頸,液冷絕對是未來新解。
「好的散熱處理,就像降血壓藥,可避免有AI腦袋的處理器中風(當機),否則,機器再聰明再厲害,跑不動也沒用。」高力熱能事業處行銷經理胡馥純生動的向本刊形容,她並表示,比起氣冷,高運算伺服器與資料中心建置未來若採用液冷,用電量明顯減少,更能降低電力使用率(PUE),而PUE在世界各國越來越受重視,也讓資料中心的PUE值成為現今節能環保重要指標。
高力副總王心五則向本刊說明,液冷在業界已討論多時,這次會展可以看到水冷與浸沒兩種解決方案,不少伺服器業者都雙雙投入,其中,水冷是利用水循環(Open Loop Rack)原理,透過有幫浦的冷水分配器(CDU)與冷水板(cold Plate)、水管串接後吸熱降溫;浸默將伺服器浸泡在不導電的冷卻液(礦物油),以流動循環方式帶走熱能。
業者也指出,水冷因可沿用原本的氣冷架構來改裝,建置成本比浸沒低,導入速度比浸沒快,挑戰在漏水檢測,值得注意的是,與輝達關係緊密的美超微,此次在Computex推出搭載輝達最頂規H100 8-GPU機櫃,就是採用水冷為主的液冷散熱。
AI熱帶動液冷降溫需求升溫,美超微搭載輝達最頂級H100伺服器的液冷機櫃,被黃仁勳大讚,背後供應商為雙鴻。
當美微創辦人梁見後一邊演講一邊秀產品的同時,還被後來站台的黃仁勳用台語大誇:「就水ㄟ!」梁見後也得意地說,這款散熱機櫃,可替公司每年節省高達百億美元的能源成本,相當於減少建造30座化石燃料電廠,藉此優勢要讓美超微領先站上AI浪潮。
專家指出,台灣伺服器零組件廠堪稱是這波推動液冷技術的幕後功臣,美超微這次推出的液冷機櫃,供應商就是國內散熱模組大廠—雙鴻,雙鴻董事長林育申鴻日前出席股東會不但證實此一合作,更重申今年是水冷伺服器導入元年。
更新時間|2023.09.12 20:46 臺北時間
延伸閱讀

支持鏡週刊

小心意大意義
小額贊助鏡週刊!

每月 $79 元全站看到飽
暢享無廣告閱讀體驗

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀