工研院電光所組長王欽宏告訴本刊,液冷可說是此次Computex的熱門話題,關鍵原因,正是ChatGPT帶來的效應!
他分析,生成式AI刺激大語言模型(LLM)需求,裡面需要的晶片算力與資料量都比傳統伺服器暴增,大幅拉高晶片運轉過程的熱功耗(TDP)瓦數,但傳統利用風冷氣冷(風扇或冷氣)幫晶片/機房帶走熱能,在效率上已出現瓶頸,液冷絕對是未來新解。
「好的散熱處理,就像降血壓藥,可避免有AI腦袋的處理器中風(當機),否則,機器再聰明再厲害,跑不動也沒用。」高力熱能事業處行銷經理胡馥純生動的向本刊形容,她並表示,比起氣冷,高運算伺服器與資料中心建置未來若採用液冷,用電量明顯減少,更能降低電力使用率(PUE),而PUE在世界各國越來越受重視,也讓資料中心的PUE值成為現今節能環保重要指標。
高力副總王心五則向本刊說明,液冷在業界已討論多時,這次會展可以看到水冷與浸沒兩種解決方案,不少伺服器業者都雙雙投入,其中,水冷是利用水循環(Open Loop Rack)原理,透過有幫浦的冷水分配器(CDU)與冷水板(cold Plate)、水管串接後吸熱降溫;浸默將伺服器浸泡在不導電的冷卻液(礦物油),以流動循環方式帶走熱能。
業者也指出,水冷因可沿用原本的氣冷架構來改裝,建置成本比浸沒低,導入速度比浸沒快,挑戰在漏水檢測,值得注意的是,與輝達關係緊密的美超微,此次在Computex推出搭載輝達最頂規H100 8-GPU機櫃,就是採用水冷為主的液冷散熱。
當美微創辦人梁見後一邊演講一邊秀產品的同時,還被後來站台的黃仁勳用台語大誇:「就水ㄟ!」梁見後也得意地說,這款散熱機櫃,可替公司每年節省高達百億美元的能源成本,相當於減少建造30座化石燃料電廠,藉此優勢要讓美超微領先站上AI浪潮。
專家指出,台灣伺服器零組件廠堪稱是這波推動液冷技術的幕後功臣,美超微這次推出的液冷機櫃,供應商就是國內散熱模組大廠—雙鴻,雙鴻董事長林育申鴻日前出席股東會不但證實此一合作,更重申今年是水冷伺服器導入元年。