鮑志偉表示,生成式AI的應用模式多半文生圖、語音生文字,倘若要把這些內容套到邊緣AI,以交通為例,以往單純透過深度學習(Deep Learning)的邊緣AI,只是辨識車況、車速或車牌,再把這些辨識資訊送到後端資料庫進行統計;然而,導入生成式AI的交通分析,一旦發生車況意外,可透過影片傳輸如噪音的判斷分析出事故發生原因,接著還可提供是否處理的回饋建議,並以最即時的報告,讓警方派遣對應的人力到現場做出精準處理。
「以往我們用人(警力)去判別這些事故發生,現在有了生成式AI,可說是已經跨越一大步了。」鮑志偉更透露,目前合作的對象是韓國業者,近期也會擴展到台灣,也是研華內部很典型在生成式AI應用於邊緣服務的案例。
第二個則是農作物應用,鮑志偉說,邊緣AI在農業應用早已經相當蓬勃,特別是在像美國較大耕作地區的國家,導入率非常高;而過去的農業邊緣AI,可以辨識果實的成熟程度或用自動機器手臂去摘取取代人力,進入生成式AI,則可提升整個農作種植效率。
這是什麼情境?鮑志偉舉出,基本上就是透過一個鏡頭掃描整個果園生長狀態 系統就能生成果實成熟度與預期生產數量來進行統計,這些數據也會進入到後勤系統,類似一個預判性資料可提供下游果實成熟時間、預期出貨日期等,等於讓農作自動化又進入到另外一個層次。
最後是工地的應用,鮑志偉說,以前的邊緣AI在工地監控,多半是直接去辨識看工人有沒有戴好帽子、衣服有沒有穿對、有沒有進入不該進入的區域;進入生成式AI,除了上述功能,還可以觀測整片工地,預測接下來的施工進展是超前還是落後,同時提供人力派遣建議,進一步提高工人的投入效率。
「原本深度學習的邊緣AI是利用辨識去達到一些判斷模式;現在的生成式AI導入在邊緣則可以針對整個場域進行分析判斷,甚至提供方法,這是最大的不同。」鮑志偉下了結論。
目前研華在邊緣AI的布局,透過自研以及合作夥伴的搭建,從影像、感測(Sensor)到計算都有供應,等於從邊緣伺服器到上面的管理軟體一應俱全。
整體來說,鮑志偉預期,整個以深度學習為主的邊緣AI大量規模化會從2025、2026年進入爆發成長;生成式AI相關應用會晚個3年,約落在2029年,而無論如何,邊緣AI都一定會是研華緊抓的一大商機。