日前輝達（Nvidia）執行長黃仁勳一席話「Blackwell晶片需求旺到難以置信」、「供應商陸續於第四季出貨」，立即帶動AI伺服器大廠股價大漲。而AI加速晶片供應端出貨的情形，恰好反映終端企業對於生成式AI技術導入的步調與需求。近日陸續有調研單位公布台灣企業AI導入調查報告，調查結果共同顯示，約近三成企業已將AI用於正式環境，正在試行或進行概念驗證（PoC）計畫者約25％。而在模型建置的方式上，則分別顯示有五成及25％的企業選擇以自行開發AI模型為主，值得企業與系統整合商關注。
近日Google Cloud、人工智慧科技基金會與未來商務展分別發布台灣企業AI導入調查報告（以下簡稱Google報告、未來報告），報告調查結果一定比例反應目前台灣企業對於AI導入部署的需求。以下深入說明：
1.企業AI導入比例
Google報告與未來報告同時指出，目前已近三成企業將AI技術導入正式營運環境中（各為29%、24%），正在試行階段或進行PoC計畫者為25%、23%，而尚未採行或正在探索中則為44%與53%。
2.導入項目
而在哪些應用導入AI技術方面，兩份報告前三名順序略有不同，但應用項目雷同。Google報告前三名為電腦視覺（辨識、偵測、追蹤與分割）佔51%、自然語言處理48%、自建生成式AI方案41%。而未來報告前三名則是生成式AI（利用預訓練數據模型生成圖、文、程式碼等）佔49%、客服聊天機器人30%、辨識型AI佔29%。
3.導入建置模式
至於上述AI專案的導入，企業是選擇自建系統或是採用平台服務，兩份報告大不相同。Google報告統計38%的企業是以自建為主搭配部分外購/外包，甚至16%受訪者選擇全部自建，兩者合計高達54%。其次27%受訪者為多數外購/外包加上少數自建，第三名請外包商提供整體解決方案為13%。而未來報告則顯示，從零到有自行開發AI應用者佔23%，而在公有雲平台或第三方平台上客製開發者佔42%，採購內建AI功能的套裝軟體服務則為28%。
4.運算部署環境
關於運算環境的選擇方面，Google報告指出選擇混合雲者佔23%，使用公有雲上的運算資源者佔22%，在企業內部的私有雲上有20%、地端伺服器則有17%。而未來報告顯示，選擇使用公有雲環境者38%，在私有雲環境建置者有42%，選擇在地端邊緣運算與地端伺服器則分別是23%、20%，此外也有20%選擇委外託管環境。
最後未來報告也提出建議，企業可以透過由淺入深的方式加快AI部署。從選購內建AI功能的軟體即服務開始，例如許多企業選擇AI程式碼生成器加速開發。或透過API將AI模型串接到企業內部使用，開發各種企業應用，但這需要內部有AI伺服器運算資源以及技術人才。再進階則是導入LLM大語言模型，匯入企業資料進行預訓練與微調，最進階則是從基礎模型開始完全都自行建置開發。
不同的建置模式對於所需技術人力與運算資源大不相同，企業需衡量內部資源，選擇自建、直接使用公雲平台上的模型或先從SaaS服務使用開始，不論選擇哪一種動手做就對了。
