生成式AI持續為廣達、技嘉等AI伺服器大廠挹注滿滿訂單，但除了硬體廠之外，更多資通訊業者關心的是如何切入這塊大餅。事實上從軟體、硬體、雲端到企業應用端等，許多業者已經積極與上下游合作夥伴組成生態系，其中除了AI基礎架構及模型與平台開發業者之外，生態系當中相當欠缺的當屬有能力整合產業應用需求，及AI軟硬體技術的系統整合業者。
台北市電腦公會日前舉辦產業座談會（影片），資策會產業情報研究所所長洪春暉表示生成式AI的發展從一開始在雲端進行AI訓練及推論，如今已慢慢過渡到在雲端訓練但在邊緣或地端推論，預計未來可望朝向不論訓練或推論均在邊緣或地端進行。
進一步來看目前企業如何使用生成式AI，直接購買軟體工具是投入成本最少、技術需求最低的應用方式，相對而言自建模型需要大量財力與技術，目前台灣企業沒有幾家能辦得到，有能力者也已發展出生態系，如聯發科達哥以及台智雲的福爾摩沙。而目前也有許多企業開始透過API來串接AI模型，與內部工作流程整合，而更有技術一點的則能調整開源模型，加入企業資料來微調並訓練，而這部分也多半需要第三方業者協助。
此一說法與iThome的CIO大調查結果吻合，該調查報告指出有25.6％企業直接使用雲端GAI工具（如ChatGPT）來提升人員生產力，有23%透過API串接這些服務，處理企業內部資料，也有1成企業已投入資源訓練適合自己產業的地端大語言模型。
此外，生成式AI也從只是單純的工具逐漸朝向能解決問題、使用工具的AI Agent來發展。洪春暉認為AI Agent落到各行各業的應用時，將帶出更為競爭與合作的產業生態，以及對於各產業應用的軟硬整合需求，而目前相關軟體工具整合的平台也較為欠缺。
在iThome的調查中，醫療業是所有產業中最多將生成式AI技術整合到內部流程當中的產業。洪春暉指出，舉凡彙整資料協助完成病歷報告草稿，或整合患者檢查數據作為醫師診斷參考等，都是常見的臨床輔助應用。而以智慧工廠應用來說，則可透過將相關系統數據匯入並建置對話式決策平台，來產出數據洞察，或是將產線資料上傳，讓AI釐清影響產線良率的關鍵因子。
而在製造業當中，所羅門耕耘AI視覺解決方案已久，在新平台中更串接多個機器人基礎模型、類神經網路等並加以優化，讓企業用戶在不需撰寫程式下，能以最少的樣本數據資料來學習並建置自有的客製化模型，提升產線上的瑕疵品檢測精準度，已成功切入傳產、高科技製造業、汽車產業等用戶。
綜觀而言，各產業在發展行業內的AI Agent都需要一定程度的專家介入，讓整體結果可以不斷優化提升、減少幻覺，也因此對軟體平台業者來說，不需全部通吃，專注特定產業來深入發展，就有無限課題可以挖掘。
- 首圖來源：depositphotos
