GAI驅動創新商機 產研共提落地4策略

邀請群聯技術長林緯(圖左起)、工研院產科所經理石立康、台智雲總工程師趙逢毅、工研院資通所組長李青憲等專家發表專題,協助產業掌握GAI產業趨勢與未來商機。
工研院6/19-20連續兩天在台大醫院國際會議中心舉行生成式AI驅動科技產業創新與機遇系列研討,上午邀請群聯技術長林緯(圖左起)、工研院產科所經理石立康、台智雲總工程師趙逢毅、工研院資通所組長李青憲等專家發表專題,協助產業掌握GAI產業趨勢與未來商機。圖 / 工研院提供

工研院為助產業掌握AI科技帶來的趨勢與商機,今(19)日起到明天,連續兩天在台大醫院國際會議中心,舉行生成式人工智慧(GAI)驅動科技產業創新與機遇的系列研討。工研院產業分析師團隊,剖析GAI科技應用議題與商機,如:電子零組件、半導體產業等應用趨勢與商機等。

此外,邀請工研院資通所、電光所專家以及台灣智慧雲端、群聯電子、芯鼎科技等業界AI指標廠專家與會,藉此提供多元思路,助力產業掌握發展趨勢與市場脈動,由於本次研討會聚焦GAI產業前景,吸引線上線下近五百人參與,備受關注。

上午登場的GAI科技應用4大關鍵議題,從生成式整體市場切入,聚焦目前已經成形的AI伺服器供應鏈與剛問市的各式AI PC產品,分析相關硬體發展方向與後市商機;分析產業GAI應用模式,區隔出適合本土應用的相關技術並提出發展GAI專屬領域應用的4項策略、應用與落地作法。

主權AI發展趨勢不變 全球需求續增

工研院產科所研究經理石立康以生成式AI市場全貌、供應鏈與未來商機探索發表專題,石立康認為,GAI技術開啟白領賦能新頁,教育程度越高者,未來在工作自動化提升程度將越高;同時也將從語言逐漸走向多模態發展。

台灣有無與倫比的生態系,做為垂直應用發展的堅實基礎。石立康說,AI雲端晶片由輝達獨領風騷,該公司也正與台灣生態系合作,從關鍵元件提供商變成高速運算系統的主要供應商;台灣已成AI伺服器供應鏈中心,電源供應、液體冷卻等次系統,未來還有很大發展空間。

石立康指出,在全球以「主權AI」,也就是各國應掌握自有專屬的大語言模型,做為核心科技的趨勢下,整體需求將持續不斷增長。在PC產業應用面,業界希望能將換機潮由原先的2025提前一年到2024發生,目前看來相當成功,唯ODM廠必須注意零組件的存貨管理。

AFS端到端AI服務 一站式解決方案

台灣智慧雲端總工程師趙逢毅,在GAI開源繁中模型最佳化與導入指引專題中指出,開源模型已進入GPT-4時代。GPT-4對語言理解與生成能力達到新高,具有處理多種數據形式的多模態能力,提升在複雜推理和邏輯推斷方面的表現,新的訓練技術使GPT-4能更高效學習,提升模型效率與效果。目前,開源模型能力已經可與閉源匹敵。

FFM家族模型,包括FFM-LLAMA 3 70B與8B,在多種自然語言處理任務中表現出色,特別是在繁體中文應用。FFM-Mixtral 8x7B與FFM-Mistral 7B針對特定應用場景進行優化;新的FFM-LLAMA 2 v2 70B、13B和7B模型,提升了準確性和效率。此外語言基模的Function Call功能,可以使模型直接調用各種API,實現靈活的應用整合與業務拓展,顯著提升業務效率與準確性。

為提高企業擁抱可信任的GAI 落地應用,台智雲(TWSC)與華碩合作推出企業級落地方案 AI Foundry Service(AFS)服務,藉由一個端到端的AI服務,為企業提供從模型訓練到部署的一站式解決方案,可望成為本土企業迅速導入GAI的最佳平台。趙逢毅強調,這項服務目前已受到國內外高科技與製造業龍頭肯定,快速導入既有企業流程以加快各項GAI 落地應用。

趙逢毅認為,開源模型進入多模態時代帶來了新機遇與新挑戰,FFM家族模型在繁體中文處理方面表現出色,AI Foundry Service提供全面AI解決方案,看好可以助力企業數位轉型。

 AI發展AI 助百工百業成功落地

工研院資通所組長李青憲提出以生成式AI的產業應用機會與落地推動作法。他指出,生成式AI浪潮下,工研院正積極協助國內產業應用與落地;同時與外部產學研單位構建本地生態系,瞭解業界需求。

目前除聚焦在地端專屬領域,也以GAI升級現有應用。工研院從目前五大類主要生成內容出發,並與超過十種以上產業的廠商合作進行技術擴散,建立典範案例,如:製程配方、3D模型建構、報告產製、監管合規等。

工研院未來也將與新政府的AI政策相對準,價值定位聚焦在產業自動化與企業決策兩類應用,敏捷整合最新國際模型、工具、技術等框架,以AI發展AI,滾動規劃調整,最終期能協助國內百工百業成功落地。

Phison aiDAPTIV+ 破除落地障礙

群聯技術長林緯認為,GAI技術普及面臨的最大挑戰在於高昂的部署成本。這一挑戰不僅限制技術的廣泛應用,也將成為許多組織採用這類先進技術的障礙,目前,群聯利用NAND Flash技術擴充高帶寬記憶體(HBM),推出aiDAPTIV+方案,從根本降低成本。

群聯不但找到GAI市場的特定需求,推出aiDAPTIV方案,同時發展新AI Workstation的產品概念,讓中小企業也可負擔合理硬體投資,執行大型語言模型等相關工作;這項策略不僅提升系統性能,也使GAI部署成本大幅下降,使推動技術能更普及應用。

 

延伸閱讀

 

發表評論

請輸入您的評論!
請在這輸入你的名字

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料