2024.09.05 14:56 臺北時間

【半導體展熱點2】力積電攜手工研院強攻3D堆疊晶片 獲超微導入AI伺服器平台

mm-logo
財經理財
高頻寬記憶體(HBM)供不應求,力積電與工研院攜手打造3D多層晶圓堆疊技術搶攻3D AI市場。
高頻寬記憶體(HBM)供不應求,力積電與工研院攜手打造3D多層晶圓堆疊技術搶攻3D AI市場。
生成式AI帶動下,所搭配的高頻寬記憶體(HBM)因產能有限近期供不應求,為了緩解此一缺口,力積電今年於SEMICON Taiwan與工研院聯手發表以記憶體為中心的MOSAIC 3D AI晶片(Memory-cube Operability in a Stacked AI Chip;MOSAIC),因為大幅縮減了記憶體與運算晶片之間的距離,資料傳輸的頻寬不但是傳統AI晶片10倍、還能降低1/7功耗,成為3D IC封裝下頗具成本競爭力的解決方案,因此獲得美商超微(AMD)導入,針對下一代AI伺服器平台展開合作。
力積電副總經理暨技術長張守仁表示,目前AI搭配的HBM多半使用的CoWoS這類的2.5D封裝,效能很好,但成本、功耗還是有下降與改善空間,而力積電與工研院合作開發的3D堆疊晶片,非常適合接下來Chiplet之下的3D封裝。
「我們(MOSAIC)是以記憶體為中心的3D堆疊技術,跟工研院的合作,不只提供邏輯晶片上的客製設計,連記憶體也利用特殊規格來打造,再搭配晶圓堆疊(Wafer on Wafer),使得這個產品相較於2.5D的HBM多了10倍頻寬,但功耗只有1/7到1/8,是一個很好替代方案。」張守仁補充。
20240905ind001
高頻寬記憶體(HBM)供不應求,力積電與工研院攜手打造3D多層晶圓堆疊技術搶攻3D AI市場。
張守仁進一步指出,記憶體未來若要廣泛應用在大語言模型,頻寬要更增加,力積電推出的多層晶圓堆疊可望滿足,目前也將全力以銅鑼新廠為生產重心,搭配集團子公司如IP等資源打造完整生態鏈。
經濟部產業技術司司長邱求慧則說明,目前的生成式AI,多得靠高速頻寬記憶體才能跑得動,但成本相當高,產能也相當有限,MOSAIC 3D AI不但頻寬可比傳統HBM大增,還能確保AI算力,成本更比傳統的少了1/5,他推估在邊端的AI市場會很有價格競爭力,更透露目前也與超微正展開下一代產品的合作。
20240905ind001
力積電今年於SEMICON Taiwan與工研院聯手發表以記憶體為中心的MOSAIC 3D AI晶片,力積電副總經理暨技術長張守仁表示此3D堆疊晶片,非常適合接下來Chiplet之下的3D封裝。
據了解,MOSAIC 3D AI晶片針對目前市場一片難求的高頻寬記憶體(High Bandwidth Memory;HBM),提供AI產業更高效能、高彈性、高性價比的替代方案,結合邏輯與記憶體的創新技術,也一舉拿下2024 R&D100大獎,
而根據Fortune Business Insights預估,生成式AI市場規模,將從2024年的670億美元,增長到2032年的9,676億美元,年均複合成長率高達39.6%,截至目前為止,經濟部產業技術司積極投入AI人工智慧、HPC半導體、化合物半導體等前瞻技術研發,已投入超過300億元在相關領域,此次MOSAIC 3D AI晶片技術榮獲2024 R&D100大獎,不僅能顯著提升AI模型的運算效能,還能在成本和能耗方面提供更具競爭力的解決方案,為我國在全球AI產業競賽中奠定了堅實基礎。
更新時間|2024.09.05 14:56 臺北時間
延伸閱讀

支持鏡週刊

小心意大意義
小額贊助鏡週刊!

每月 $79 元全站看到飽
暢享無廣告閱讀體驗

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀