自從中國低成本的大語言模型DeepSeek推出並引發熱潮後,緊接著其他包括阿里巴巴、百度等也接連釋出開源碼AI模型。這些聲稱只需投入5百萬美金建置成本就能打造全模型訓練的LLM,立刻引起全世界關注。然而對企業而言,建置AI模型除了考量成本、效能外,更應重視隱私、資料保護與合理運用資源的永續性,尤其永續的AI將是2025年AI發展的趨勢重點。
台灣人工智慧實驗室(Taiwan AI Labs)創辦人杜奕瑾與群聯電子執行長潘健成,日前在「AI Expo Taiwan 2025」針對AI發展趨勢進行對談。杜奕瑾表示,今年很多歐盟企業來台尋找合作夥伴,就是因為台灣的LLM是強調隱私、重視人權的模型,且在資料安全保護措施上可以符合GDPR等國際標準,尤其金融與醫療的應用,更是特別重視隱私與資料保護的領域。
杜奕瑾進一步指出,過去大家在談可信任、負責任的AI,以及須符合監管需求,但在2025年更重要的是追求永續的AI,也就是在能耗方面需確保資源運用的合理性,不能讓AI耗電量持續攀升。而過去透過雲端服務來訓練大型語言模型顯然並非未來的發展趨勢,也因此台灣人工智慧實驗室推出的FedGPT是先訓練金融、醫療等專業模型後,再到企業去學習各別的規範與流程制度。這也是2024年底至今,越來越多的小型模型是透過模型蒸餾的技術在企業內部訓練、學習,這就是運用合理的資源實現多模態、多專家的AI模型,同時符合監管需求與節能減碳目標。
群聯電子執行長潘健成指出,群聯與台灣人工智慧實驗室合作,推出FedGPT與aiDaptive+軟硬結合的地端生成式AI一體機解決方案,讓企業不需把營業機密資料上傳雲端,直接在地端就可用企業內部資料訓練、微調模型並進行推理,讓AI模型的建置成本更經濟實惠,可以走入每家每戶,這就是民主式AI。
然而企業在建置AI的過程中遇到的另一挑戰,是AI人才欠缺的問題。企業必須有AI人才能將所累積的資料轉換成訓練AI模型的資料,因此群聯投入地端語言模型訓練的培力,透過開課培訓企業人才,同時也推出模型訓練專用的AI PC,以更低的成本協助企業或大專學校打造AI模型訓練環境。
- 首圖為群聯電子執行長潘健成(中)與台灣人工智慧實驗室創辦人杜奕瑾(右)於「AI Expo Taiwan 2025」對談。