如果您曾住過台北寒舍艾美、台南晶英或高雄洲際酒店,一定對小美犀不陌生,透過對話,不只能在房內點播音樂、調控燈光、空調,若需要礦泉水或毛巾等備品也可下達指令,五分鐘後一開房門,就會出現一台由緯創打造的機器人送來。
「我們團隊一開始就瞄準語音自然語言(NLP)處理,並希望透過可預訓練的大語言模型(LLM),讓非結構性的語意產生有意義的資訊與分析。」談及小美犀的跟生成式AI有何關聯?廖先嫺娓娓描述團隊開發的技術想法,之後謙虛地指出,大語言模型是生成式AI核心,然而公司當初設定大語言模型並沒有料想到生成式AI會紅的這麼快,過程中,公司一路嘗試過法國的Bloom、Google的LaMDA與BERT等模型,最後以後兩者混搭來訓練出小美犀,直到今年4月再結合GPT語言模型,讓ChatGPT也能在飯店場域開展。
「過去的語言模型,可能因為資料庫裡沒答案,小美犀只有理解約34%,導入GPT後已大幅提升到95%,幾乎是無話不答,用戶體驗因此變得更好,尤其這波疫情後缺工,更是加速刺激飯店業者採用意願。」透過數據廖先閒佐證,升級後的小美犀,對一家兩百個房間的飯店業者來說,平均一個月可以協助回答250多個小時的電話,換算工作人力可抵掉1至1.5名。
「這些詢問的紀錄,也能透過AI生成出有意義的分析。」廖先嫺繼續分享另一項間接效益並舉例,位於苗栗一家飯店就曾回饋,有了這些紀錄才知道房間的羽絨枕頭過去3個月被詢問了9百多次,顯示受歡迎的程度。
廖先嫺坦言,ChatGPT的落地,讓公司在推廣業務的溝通更加容易,憑著公司在生成式AI早有技術布局,為了趁勝追擊,今年初再透過GPT-3推出「Vocol.ai語音協作平台」。
此時,廖先嫻拉下投影布幕開啟電腦直接向本刊秀出這項產品的介面,「與小美犀化身成一台音箱硬體很不同,Vocol .ai是一個線上軟體服務平台,舉凡企業會議、學校教學、醫療問診,除了可將語音轉為文字具備4種語言翻譯功能,還能提供摘要分析來生成記錄,同時提供多人協作確認最後的完整性。」他指出,上線至今已獲得1萬多人使用,同時也於11月導入11月打進醫療產業,全面導入奇美醫院協助文書紀錄。
眼看著雲端大廠谷哥語音助理或亞馬遜AWS的Alexa也積極搶攻生成式AI,廖先嫺不否認公司的定位與國際業者難免形成競爭,但內部認為,小美犀鎖定更特定的飯店業者服務,已經有產品區隔,Vocal.ai未來也將從2C轉為2B朝醫療、學術提供客製服務,藉著利基市場走出自己一片天。