力積電副總經理暨技術長張守仁表示,目前AI搭配的HBM多半使用的CoWoS這類的2.5D封裝,效能很好,但成本、功耗還是有下降與改善空間,而力積電與工研院合作開發的3D堆疊晶片,非常適合接下來Chiplet之下的3D封裝。
「我們(MOSAIC)是以記憶體為中心的3D堆疊技術,跟工研院的合作,不只提供邏輯晶片上的客製設計,連記憶體也利用特殊規格來打造,再搭配晶圓堆疊(Wafer on Wafer),使得這個產品相較於2.5D的HBM多了10倍頻寬,但功耗只有1/7到1/8,是一個很好替代方案。」張守仁補充。
張守仁進一步指出,記憶體未來若要廣泛應用在大語言模型,頻寬要更增加,力積電推出的多層晶圓堆疊可望滿足,目前也將全力以銅鑼新廠為生產重心,搭配集團子公司如IP等資源打造完整生態鏈。
經濟部產業技術司司長邱求慧則說明,目前的生成式AI,多得靠高速頻寬記憶體才能跑得動,但成本相當高,產能也相當有限,MOSAIC 3D AI不但頻寬可比傳統HBM大增,還能確保AI算力,成本更比傳統的少了1/5,他推估在邊端的AI市場會很有價格競爭力,更透露目前也與超微正展開下一代產品的合作。
據了解,MOSAIC 3D AI晶片針對目前市場一片難求的高頻寬記憶體(High Bandwidth Memory;HBM),提供AI產業更高效能、高彈性、高性價比的替代方案,結合邏輯與記憶體的創新技術,也一舉拿下2024 R&D100大獎,
而根據Fortune Business Insights預估,生成式AI市場規模,將從2024年的670億美元,增長到2032年的9,676億美元,年均複合成長率高達39.6%,截至目前為止,經濟部產業技術司積極投入AI人工智慧、HPC半導體、化合物半導體等前瞻技術研發,已投入超過300億元在相關領域,此次MOSAIC 3D AI晶片技術榮獲2024 R&D100大獎,不僅能顯著提升AI模型的運算效能,還能在成本和能耗方面提供更具競爭力的解決方案,為我國在全球AI產業競賽中奠定了堅實基礎。