2024.02.06 16:37 臺北時間

中研院AI稱「習近平是領導人」急下架 監察院出手了

mm-logo
時事
中研院去年發表的大型語言模型被抓包會稱國家領導人為習近平,今監委申請自動調查。
中研院去年發表的大型語言模型被抓包會稱國家領導人為習近平,今監委申請自動調查。
近幾年AI當道,尤其當Chat GPT被開發出來後,更是引發全球驚嘆與關注,然而去年10月我國中研院就發表了類似於Chat GPT的大型語言模型CKIP-Llama-2-7b,卻被網友發現該AI不僅使用簡體中文資料庫,還會回答「習近平」為國家領導人等,因此在上線3日後就下架。對此,今(6日)監察院則發布新聞稿,稱要申請自動調查。
監察院今發布新聞稿指出,AI現今普遍應用在各項領域,生成式AI也用於創造性的工作,然而我國在推動可信任生成式AI亦面臨多項挑戰,包括大型語言模型(LLM)繁體中文語料不足,可能被濫用或生成負面及偏見言論等,因此監委賴鼎銘、林郁容、葉宜津深表關切,申請自動調查。
監委表示,2023年10月國內研究單位釋出繁中優化大型語言模型(LLM)產生爭議內容,引發各界疑慮而下架,凸顯我國在推動LLM時繁中語料不足所產生之困境,及自主研發大型語言模型的重要性。
考量到LLM未來的普及性、影響力,以及所用資料之語言分布落差可能導致歧視性或偏見言論、虛假信息,監委將著手調查「政府機構對於推動健全LLM之關鍵要素,如語料取得、算力建置及測評,相關措施是否允當?政策是否積極?」等諸多疑慮。
更新時間|2024.02.06 16:37 臺北時間
延伸閱讀

支持鏡週刊

小心意大意義
小額贊助鏡週刊!

每月 $79 元全站看到飽
暢享無廣告閱讀體驗

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀