為了讓外界了解力積電競逐AI的具體作法,力晶集團創辦人兼力積電董事長黃崇仁向本刊秀出力積電達到AI平民化的祕密武器—3D AI加速器。
這顆大約新台幣一塊錢硬幣大小的晶片,在今年的台北國際電腦展上正式亮相,利用該晶片設計的監視器,可以大量又高速準確地辨識人臉,它採用了力積電40奈米邏輯製程,以及25奈米DRAM製程生產的2片12吋晶圓,以晶圓堆疊技術整合而成。
「這顆晶片價格是7奈米晶片的10分之1,你摸摸看它完全都不熱,功耗只要同類晶片的10分之1。」將這項應用展示給本刊,還要記者去摸晶片發熱程度的力積電主管笑著說。
為何力積電能做到平民化晶片?原來,力積電是全球唯一同時擁有記憶體與邏輯晶片製程技術的半導體公司,「我們還是全球第一家做堆疊技術的公司。」黃崇仁驕傲地透露。
不同於最近炒得沸沸揚揚的台積電先進封裝製程CoWoS(Chip on Wafer on Substrate)把中央處理器(CPU)、繪圖晶片(GPU)、DRAM等各式晶片以併排方式(side-by-side)堆疊起來,達到節省空間與降低功耗等目的,力積電開發出的晶圓堆疊技術(Wafer-on-Wafer,WoW),透過邏輯晶圓與記憶體晶圓堆疊的方式,省去了晶片間所需的傳輸介面,解決不同晶片之間的傳輸頻寬限制,讓影響AI運算效率最大的記憶體高牆(Memory Wall)完全被打破。
「我就是想把AI變成一般性、平民化,讓每台電腦、每隻手機都內建AI,這就要做到一顆晶片就是一台電腦(One Chip Computer),不只便宜又大碗,還不能像黃仁勳的AI晶片,要靠風扇來散熱,這樣才會真正普及。」黃崇仁笑著說。
本刊好奇,這項技術也能讓輝達、超微使用嗎?「像ChatGPT這種大型語言模型的AI晶片,還是要台積電這種重裝師來生產,力積電目前正在開發,記憶體堆疊更多層的第三代技術,希望未來能用在較小型的生成式AI應用。這也是像聯發科、世芯等IC設計業者,甚至全球新創業者們的機會。」黃崇仁分析。「畢竟輝達、超微的晶片都太貴,就算Google、微軟、Amazon等雲端大咖,未來也一定要找更便宜的晶片取代。」