CPU/GPU 人工智慧 硬體

全球生成式AI每年成長近4成 台廠宜結合生態系發展垂直應用

全球生成式AI每年成長近4成 台廠宜結合生態系發展垂直應用
  • Published2024-06-25

生成式AI近幾年以高達35.6%的年複合成長率極速發展,Open AI、Google、Meta等大廠接連投入大模型的軍備競賽,各產業的應用也逐漸展開。而在今年COMPUTEX之後,圍繞在部署AI伺服器以自建模型訓練的聲浪更是日益高漲。工研院日前舉行生成式AI產業創新研討會,除了聚焦AI晶片、AI伺服器、AI PC及AI手機等相關硬體發展與廠商定位外,也分析在軟體平台與垂直應用方面,台灣產業可以深入發展的機會。

大廠寡占AI訓練晶片 台廠宜發展專用AI推論晶片

根據調研機構Marketsandmarkets的報告指出,全球生成式AI市場規模自2023年113億美元預估將成長至2028年519億美元,此指深度學習、生成式對抗網路(GAN)、Transformer models等服務。而在去(2023)年台積電法說會上公開的資料則指出,CPU、GPU、AI加速器等AI處理器在2023年佔台積電營收約6%,預估在5年內將以50%的年複合成長率攀升,營收比重將增加至11%~13%。兩者的數據顯示生成式AI不論是軟體服務或硬體市場,正迅速起飛。

工研院產科國際所研究經理石立康指出,整個生成式AI生態系由晶片廠、伺服器廠、軟體平台商及垂直應用業者等所組成,台灣業者應善用生態系優勢作為垂直應用發展的基礎。

首先以AI晶片來看,這個領域目前由輝達(Nvidia)佔據領先地位,輝達從GPU單晶片發展到超級晶片,從關鍵元件供應商轉為高速運算系統供應商。其GH 200超級電腦由256個GPU以每秒900 GB的頻寬互通,總計150 TB的記憶體容量,可打造大型模型。而其他晶片大廠也都投入自主晶片研發,石立康建議台廠可發展專用AI推論晶片,並著重低能耗、先進異質封裝等技術。

AI伺服器將1比1代換傳統x86伺服器

而在AI伺服器部分,去年全球的AI伺服器已佔整體伺服器總產值50%,其中AI訓練伺服器與AI推論伺服器分別約佔36%及14%。而出貨量也將從2022年107.5萬台預估成長至2027年的347.3萬台,年複合成長率達26.6%,其中目前台廠AI伺服器出貨量已佔全球近9成,成為供應鏈中心。石立康指出,雖然整體全球伺服器總出貨量成長趨勢未改變約為6%,但明顯的是AI伺服器對傳統x86通用伺服器已呈1比1代換。以零組件來看,「電源供應、液冷散熱系統部分,台廠有技術優勢,未來還有很大發展空間,」他說。

至於在COMPUTEX期間成為熱門話題的AI PC,各大廠集結生態系全力發展,以英特爾為例,目前已攜手20家品牌/代工廠開發80多款筆記型電腦。而AI PC的應用需求仍然有待探索,因目前使用雲端AI語言模型只需花費每月20至30美元,除非是有些具隱私與資安考量的應用必須在本地端運行,對AI PC需求較為明確。石立康建議,可發展特定行業專業工作者需要的文書助理軟體服務,類似Copilot特定產業版,將是可能的商機。

總之在輝達喊出「主權AI」後,預期各國將投入發展自己語言版本的AI基礎建設,未來仍有相當大的成長空間,台廠應加速佈局。下篇文章將繼續說明軟體平台商在生成式AI的創新發展,以及垂直市場應用的發展機會。

  • 首圖為工研院舉行「生成式AI驅動科技產業創新與機遇系列研討會」,邀請群聯電子技術長林緯、工研院產科國際所經理石立康、台灣智慧雲端趙逢毅、工研院資通所組長李青憲(由左至右)等專家共同參與。照片來源:工研院提供。
Written By
張 維君

媒體累積經驗超過15年。曾任電子時報記者、資安人雜誌副主編,擅長資訊安全、雲端運算、物聯網、企業IT應用、數位經濟等主題,關注個資外洩、駭客攻防等議題。擅長執行企業品牌宣傳、人物專訪、技術白皮書等編製。在媒體工作之前,曾任職鼎新電腦集團。

Leave a Reply

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *