Arm 控股有限公司近期在 Arm 全面設計（Arm Total Design）推出一週年後表示，參與 Arm 全面設計的企業，已迅速成長至超過 30 家，集結從 IC 設計到晶圓代工服務等各項專業能力，而安國國際科技、神盾科技（Egis）、熵碼科技（PUF Security）與 SEMIFIVE 則是最新一批加入此一生態系的企業。此外，Arm、Samsung Foundry、ADTechnology 與 Rebellions 公司透過這個生態系，將聯手發表 AI CPU 的小晶片平台，鎖定雲端、高效能運算以及 AI/ML 訓練與推論工作負載。
Arm 基礎設施事業部行銷副總裁 Eddie Ramirez 表示：「隨著對運算需求的提升，讓開發人員以高效能、功耗優化且易於取用的方式在全球最普遍的運算平台上輕鬆進行創新是極為重要的。」他指出：「Arm 運算子系統（CSS）與 Arm 全面設計正透過加速取得硬體以及軟體的進步，推動生態系統中的 AI 發展。我們正處於工程創造力與技術開發的新篇章，而 Arm 也持續致力於提供必要的工具與技術，推動 AI 和晶片創新邁向其新領域。」
全新 Arm 架構解決方案驅動永續的 AI 資料中心
Arm 全面設計激發全球協作，促成多項以 CSS 為核心的生成式 AI 運算解決方案誕生。其中一個絕佳實例是由 Arm、Samsung Foundry、ADTechnology 與 Rebellions 公司合作推出的 AI CPU 小晶片平台。這個平台鎖定雲端、高效能運算以及 AI/ML 訓練與推論工作負載，結合 Rebellions 的 REBEL AI 加速器與由 ADTechnology 採用基於 Neoverse CSS V3 的小晶片，該小晶片將使用 Samsung Foundry 的 2 奈米環繞式閘極（GAA）先進製程技術進行實作。預計它將提供無可比擬的效能與最佳的功耗效率，並在生成式 AI 工作負載（如 Llama 3.1 的 4,050 億參數大型語言模型）上實現 2-3 倍的效能優勢。
三星電子副總裁暨晶圓代工服務開發部負責人 Taejoong Song 表示：「AI 與高效能運算的設計，需要提供極大效能、高電晶體密度與能源效率的技術解決方案。」他指出：「Samsung Foundry 的 2 奈米 GAA 製程，其設計用意在於精準滿足最嚴苛的高效能運算與 AI 設計需求。我們很興奮能運用 Arm CSS 的彈性與 Arm 全面設計生態系的力量，打造 AI CPU 的小晶片平台，加速促使超大規模運算業者與雲端服務供應商採用我們最尖端的技術與設計解決方案。」
這充分說明 Arm 全面設計和基於標準的運算子系統，在加速 AI 晶片發展過程中的獨特價值。透過集結經過 Arm 優化的電子設計自動化工具、全球設計專業知識及晶圓代工服務等合作夥伴，Arm 簡化了 AI 加速器設計人員的整合流程。隨著 AI 工作負載快速演進，緊密耦合的 CPU 運算對於支援完整的 AI 堆疊可謂不可或缺，數據預處理、編排以及數據增強技術，例如檢索增強生成（RAG）等，都能因 Arm Neoverse CPU 的效能與效率中而獲益。Arm 已將對這些需求的支援內建於 CSS，並透過 Arm 全面設計使生態系夥伴開始享受這些創新帶來的效益。
為專用 AI 基礎設施樹立新標準
CSS 與 Arm 全面設計正在為永續的資料中心打造硬體基礎。Arm 全面設計已開始加速基於 Neoverse N 系列或 V 系列 CSS 的測試晶片與小晶片產品的開發。從雲端到邊緣的多元化小晶片解決方案，及其快速的開發進程，直接反映出 CSS 降低進入門檻的成果，使開發人員能廣泛地且優先地取得最新的 CSS 技術。
安國國際科技今天宣布將打造以 CSS 驅動的小晶片，目標鎖定 AI/ML 的訓練與推論使用場景。Alphawave 近期也宣布為 AI/ML、高效能運算、資料中心與 5G/6G 應用，推出運用 CSS 架構的自製先進運算小晶片。這些基於 Arm 的小晶片充分展現 Arm 生態系獨有的多樣性、靈活性及全球供應鏈的優勢。
此外，包括 Alphawave、益華電腦（Cadence）與 proteanTecs 等 Arm 全面設計的合作夥伴，也在先進製程節點上以 CSS 驗證他們的第三方 IP 產品，以確保符合 Arm 的規格與標準。這代表合作夥伴們可在先進的製程節點上打造基於 CSS 架構的客製晶片，且擁有無縫順暢、立即可用的軟體體驗。
軟體的就緒程度始終是釋放 AI 潛力的重要關鍵，而 Arm 在過去 30 多年中不斷投入資源，以確保在 Arm 平台上運行的軟體「立即可用」。如今，所有主要的框架與作業系統都能在 Arm 架構上運行。對於 Arm 全面設計生態系而言，這代表 Arm 合作夥伴推出的多樣化晶片解決方案，都能充分運用同樣充滿活力且高度整合的軟體生態系。此一持續投資的最新成果即是 Arm Kleidi 技術的推出。該項技術優化了 Arm 平台上的 CPU 推論能力，並支援如 PyTorch 和 Llama.cpp 等開源專案。這對於 Arm 全面設計的合作夥伴特別重要，他們無需依賴專用的加速器，即可運用 CSS 為邊緣 AI 打造小晶片。
- 首圖來源：Depositphotos
