
因應全球AI科技發展趨勢與育才需求,中原大學與輝達(NVIDIA)3月簽署合作備忘錄並宣布成立NVIDIA -中原大學AI應用發展聯合服務中心並舉辦大型語言模型工作坊(Large Language Model, LLM),成為全台首場LLM ,樹立國內AI人才培育重要里程。
中原大學副校長洪穎怡指出,這次工作坊是今年全台第一場大型語言模型活動,共計20位教師、57位研究生參與,其中,包括10位外籍學生,因此授課採中、英雙語並行。
洪穎怡說,繼台大、清大及陽明交大後,中原是全台第4所與NVIDA合作AI University的大學,雙方將從研究、教學、產學三面向進行產學合作,中原將使用NVIDIA最新人工智慧技術與資訊以提升AI教學及研究的能量。
工作坊由NVIDIA 4位解決方案架構師(Architect)授課,介紹個人客製GPT大語言模型並連接到個人內容,包含文件、筆記或其他數據作法。NVIDIA架構師強調利用檢索增強生成技術(retrieval-augmented generation, RAG)加速,另外介紹NVIDIA NeMo點對點建構客製化LLM的平台,跟過去從頭訓練模型所需的數週或數月相比,NeMo LLM因為可以協助發展客製化模型,只需幾分鐘到幾小時即可完成。

輝達解決方案架構師以清晰易懂的方式讓中原師生更深入了解生成式大型語言模型和檢索增強生成技術,以及如何結合這兩項最新技術,跳過龐雜的訓練,也能產生更準確且豐富的回答。現場使用NVIDIA雲端計算資源,讓學員更深入了解生成式AI最新技術與趨勢。
大型語言模型是基於大量資料進行預訓練的超大型深度學習模型。基礎轉換器是一組神經網路,這些神經網路由具有自我專注功能的編碼器和解碼器組成;編碼器和解碼器從一系列文字中提取含義並理解其中字詞和片語間的關係。
大型語言模型非常靈活,一個模型可以執行完全不同的任務,例如回答問題、總結文件、翻譯語言和完成語句,著名的ChatGPT就是基於這種技術研發而成的生成式AI。
NVIDIA-中原大學AI應用發展聯合服務中心,未來將透過NVIDIA提供的最新GPU架構和技術以及有關NVIDIA高性能計算技術,應用於機器學習、醫療診斷、量子計算及大型語言模型等方面研究。中原大學表示,期待透過與NVIDIA合作,加速培養台灣AI人才,帶動產業發展。
延伸閱讀
- 中原大學 日本NIMS 薄膜技術科研合作
- 北市府X MTR X北科 驗證中文LLM
- GAI風靡全球 工研院:智慧通訊新未來
- 全球化顛滅中 關注AI與區塊鏈10件事
- 數位部AIEC北科啟動 10評測項目出爐