近幾年新冠疫情爆發，企業為兼顧防疫與生意，設備大升級，如零售業添購可自動送貨上門的無人機，工廠則裝設幫忙瑕疵檢測的機器人提升產能，醫療現場人員上下班陸續改以臉部辨識取代刷卡，降低接觸風險，甚至未來登打病歷，也考慮改用語音輸入。
三趨勢加持 邊端崛起
你知道嗎？這些「智慧小幫手」之所以能運作，靠的是背後一顆顆具學習能力的AI晶片。過去，這種晶片只用在猶如超大電腦的雲端伺服器，雖然運算能力強，但往返間容易延遲且耗電；如今隨著5G建置加速，電信業開放式架構（Open Ran）的推波助瀾，廠商可自行購買白牌伺服器、交換器或小型基地台，再用手機、行動裝置連網，讓資料更靠近傳輸端以迅速執行，形成所謂的「邊緣AI」生態系。
小辭典 邊緣AI
邊緣AI就像住家附近的超商，雲端AI則是大賣場，需求不同、採買的地點也不同。而邊緣AI也如同大腦（雲端）延伸而出的神經系統，透過手機、電腦、行動裝置或5G基地台連網，就能處理緊急或特定需求的訊息，因具「快速、可靠、隱私」3大特性，非常適合有安全考量的電動車自動駕駛與智慧醫療場域；此外，智慧門鎖、人臉辨識、監控森林大火的無人機、送餐機器人，也是常見的應用。
談起邊緣AI的崛起，工研院電光系統所所長暨臺灣人工智慧晶片聯盟(AITA)副會長張世杰認為 ，網路資料量越來越大，在「即時性、可靠性、隱私性」三大趨勢加持下，AI勢必得從雲端延伸到「邊端」。
張世杰指出，以指紋辨識或人臉辨識為例，往往都需要即時性的判斷；此外，自駕車的AI也得即時運算，尤其是遇到較緊急的危險情況，若丟到雲端再回傳，可靠性與即時性都會打折。至於隱私性方面，則因雲端資料處理量大、傳輸長恐增添風險，資料若能靠近邊緣直接運算，風險較低。
「家裡監控小偷的攝影機，若影像得每分每秒傳到雲端判斷，其實非常浪費網路資源。」張世杰提出邊緣AI之所以存在的背景因素。然而，這不表示邊緣AI會取代雲端，「相反的，若在邊端加入一些判別功能的AI晶片，可省掉許多不必要的雲端運算。」
朝專用發展 大廠搶市
就如同城市裡有大賣場，也有隨處可見的便利超商，AI晶片在邊緣端的需求大量浮現，調研機構Omdia預測，全球邊緣AI晶片產值將從2019年的77億美元，成長到2025年的519億美元，未來產值上看新台幣1.5兆元；微軟（Micornsoft）更指出，2026年全球AI晶片有四分之三將為邊緣運算所用。
「雲端AI晶片長期皆由英特爾（Intel）、超微（AMD）等傳統處理器CPU大廠壟斷，進入邊緣AI後，這些科技巨頭不可能通吃。」華邦行銷副理金政道出他對市場變化的觀察，並進一步指出，邊緣AI晶片要的是省電、功耗低、傳輸快，算力不需像雲端CPU晶片那麼複雜，所以晶片類型也從通用朝向專用發展，這也讓谷歌、微軟等大廠，隨著自家資料中心的建立，紛紛投入開發邊緣AI晶片，甚至連蘋果（Apple）、華為、三星也為鞏固自身優勢加入戰局。
「這是台灣晶片業者滲透AI晶片市場的好機會。」TrendForce分析師曾伯楷認為，台灣半導體供應鏈完整，IoT製造經驗豐富，相對於已被大廠盤據的CPU / GPU市場，邊緣開發晶片的特性更有利晶片台廠串聯上、下游整合切入。
毫無疑問，在手機基頻處理器晶片拿下高市占的聯發科，被視為台灣半導體業者進軍邊緣AI晶片的領頭羊。事實上，隨著手機成長趨緩，聯發科2018年就開始著墨邊緣AI，內部至今建置近千名AI相關人才，傲視國內同業。去年，來自互聯網、AI處理器業務的營收占整體27％，年增43％，是公司成長第二高的業務。
今年3月，在「2022國際超大型積體電路技術研討會」上，聯發科資深副總陸國宏曾點出：「從雲到邊，是半導體下一個10年重要的成長機會。」而聯發科最新年報也向股東報告，邊緣AI會是發展重點。
聯發科布局 占得良機
會後，陸國宏特別向本刊補充：「這是大趨勢，跟以前的雲端模式很不一樣，台灣IC設計業者一定要做。」他透露，手機本就是聯發科核心業務，而公司目前邊緣AI最多的應用在智慧家電；此外，車用方面也很積極。
聯發科稱為邊緣裝置所打造的AI專用處理器為「APU」，今年5月，公司又推出最新雙核心APU的智慧物聯網平台「Genio」，主攻高階邊緣AI應用。一位不具名的國內伺服器業者對本刊透露，聯發科這幾年在APU的斬獲不少，包括以類似ODM模式與微軟邊緣平台Azure合作，共同開發智慧咖啡機，還打進谷歌開發的張力處理器（TPU）供應鏈。
「別以為這跟電子製造的ODM一樣，能替這種大公司開發AI晶片，算力再怎麼不比雲端，需要的複雜度也要靠先進製程才能製造。」1名IC設計同業評論，以7奈米開發一款AI晶片的前期成本動輒新台幣8億至10億元起跳，「沒有一定的量，一般公司也不見得吃得下來。」
這意謂小型IC設計廠無法在邊緣AI應用搶得商機嗎？對此，陸國宏對本刊提出他的想法：「小公司可以找ARM這種矽智財廠一起開發，但聯發科這種大廠，把它（邊緣AI）做起來更有示範性，可以推動其他公司跟進。」
先行者耐能 備受肯定
相較聯發科，2015年成立的耐能科技，投入邊緣AI處理器晶片的時間點更早，且一開始就直攻邊緣AI專用的神經網絡處理器（NPU），與傳統處理器廠正面對決。耐能規模雖無法跟聯發科相比，但憑藉優異的技術能力，仍獲台達電、鴻海、光寶、華邦等科技大廠青睞入股，股東陣容堅強。
「要做這件事，其實還滿大膽的。」談起投入邊緣AI的緣由，人在美國出差的耐能執行長劉峻誠透過電訪表示，AI在2015年還很冷門，隔年才因AlphaGo打敗圍棋棋王而聲名大噪。在此之前，從事AI研究的人常被笑是不是因為找不到女朋友才會專注於此。
曾在三星、高通（Qualcomm）工作的劉峻誠，當時主要負責未來4、5年才有機會商品化的前端技術研發。劉峻誠表示，自己早在2012年就從論文嗅到邊緣AI的未來，回台成立耐能後，曾寫了一本有關AI深度學習架構的教科書，除曾獲得Amazon評選為全球百大最具影響力的AI書籍外，還成為普林斯頓等名校線上課程教材。
目前，耐能的技術實力已獲得國際肯定，2020年，美國IoT知名權威雜誌《EETimes》，甚至將耐能與英特爾、德儀（TI） 並列為世界三大AI晶片廠。不過，面對這份殊榮，41歲的劉峻誠謙稱，自己只是邊緣AI界的小毛頭，「可能因為我們是這領域的先行者（Pioneer），才被國外認同。」
攻車用市場 積極研發
耐能深耕邊緣AI領域7年，業務已步上軌道。劉峻誠對本刊表示，車用產品方面，耐能正與鴻海MIH平台合作所需的車用AI晶片；此外，也透過台達電子公司打進豐田（Toyoya）供應鏈日本健伍（JVC / KENWOOD），提供行車記錄器以及先進輔助系統（ADAS）等AI辨識解決方案。至於伺服器方面，則與廣達旗下的雲達合作，拿到工業電腦大廠研華訂單。
除了上述戰果外，耐能在中國智能門鎖與日本車用前裝市場，也分別取得約3成與2成的市占率。劉峻誠表示：「去年營收約5億元，今年預計倍數成長；至於獲利，公司目前還在產品大量開發期，投片尚未達經濟規模，所以…」他話鋒一轉，特別強調：「要賺錢？少投一顆晶片就有了，但現階段，不能這麼保守。」
劉峻誠透露，耐能的NPU也可與國內外IC設計廠合作，耐能與義隆電子就曾針對中興巴士的先進輔助系統合作開發過產品。
至於義隆，這幾年相當積極切入車用市場，去年收購奇美車電逾3成股權，就是計畫結合發展中的AI相關技術在ADAS展開布局。據了解，義隆董事長葉儀皓曾於2019年以3千萬元支持「台灣人工智慧學校」成立，協助產業培育AI人才，葉認為，台灣在AI是小螞蟻，要跟盤據雲端的大象鬥，得靠邊緣運算。
晶片添AI 價格翻倍
不僅聯發科、耐能、義隆，國內還有許多半導體業者也紛紛在自身所熟悉的領域布局AI相關業務。
業界人士表示，像奇景在數位電視機控制器晶片導入AI，藉此提供高解析、高畫素功能；盛群也透過AI提供銀行驗鈔機防偽辨識。重點是，導入AI功能後，晶片價格可能提高3倍。
值得一提的是，邊緣AI晶片相當耗電，所以儲存資料的記憶體越靠近處理器，傳輸的耗能就越少，DRAM設計因此將不再走標準品模式。力晶集團副總譚仲民向本刊表示，旗下的力積電目前正與台積電合作，幫助朝邊緣AI轉型的愛普科技，推出邏輯與記憶體堆疊一起的3D晶片。
展望未來，汽車要走向全自動駕駛，非得裝上AI這顆腦袋，而邊緣AI不只在車子，包括伺服器、家電、穿戴裝置等也都少不了。曾伯楷提醒，AI從雲端到邊端大趨勢形成，台廠「生態圈」的打造極為重要，建議業者要不斷尋求合作夥伴，避免單打獨鬥，才能成為贏家。
