阅读视图

发现新文章,点击刷新页面。

Arm 首推自有品牌 AGI CPU 晶片 攜手 Meta 搶攻代理式 AI 伺服器商機

Arm 歷史性地推出首款自主設計的實體矽晶片產品「Arm AGI CPU」,採用台積電 3nm 製程,搭載 136 個核心,效能較 x86 平台高出兩倍以上,並由 Meta 作為首發共同開發夥伴。

在過去三十多年裡,Arm一直以提供IP矽智財與運算子系統 (CSS)授權為核心商業模式,但這項傳統在今日 (3/24)正式被打破。Arm歷史性地宣布推出首款由官方親自操刀設計,並且投入量產的實體矽晶片產品——「Arm AGI CPU」。這款專為AI資料中心量身打造的處理器,將劍指近期快速崛起的「代理式AI」 (Agentic AI)基礎設施需求,更由Meta作為首發共同開發夥伴。憑藉台積電3nm製程加持,Arm AGI CPU標榜能提供比傳統x86平台高出兩倍以上的機架運算效能。

打破IP授權框架:為何Arm決定親自跳下來做晶片?

早在先前有不少傳聞時,Arm執行長Rene Haas在去年就已經證實將推出自有品牌晶片,並且在此次活動上正式揭曉。而要理解Arm為何跨出這歷史性的一步,必須先看懂「代理式AI」帶來的基礎設施變革。

Rene Haas在聲明中表示,AI已經徹底重新定義運算的建構與佈署方式。過去的AI基礎設施高度集中在GPU的「模型訓練」上;但隨著AI應用轉向佈署持續運行的「AI代理」 (AI Agents)時,這些系統需要不斷地進行推理、規劃、協調與資料搬移,導致AI系統生成的Token數量呈指數級增長。

根據預估,當企業大規模導入代理驅動的應用時,每GW (吉瓦)電力所需的CPU數量將暴增超過4倍。但在功耗限制下,傳統x86處理器的複雜架構與高能耗已經難以負荷。

因此為了協助合作夥伴加快佈署AI代理速度,Arm決定打破過往僅提供IP或CSS (運算子系統)的「慣例」,直接推出自有品牌實體晶片,為市場提供更具彈性且直接的硬體選擇。

136核心與台積電3nm加持:效能直逼x86架構的兩倍

作為首發之作,Arm AGI CPU在硬體規格與能效表現上展現極強的企圖心:

• 頂尖核心與頻寬:單顆CPU搭載高達136個Arm Neoverse V3核心,並且提供每核心6GB/s的記憶體頻寬與低於100ns的延遲表現。

• 極致能效 (TDP):功耗控制在300瓦 (TDP),同時每個程式執行緒均配置專屬核心,確保在持續高負載下提供決定性的效能,消除降頻與閒置執行的浪費。

• 超高機架密度:支援高密度1U伺服器機架。在氣冷佈署模式下,每組機架可容納高達8160個CPU核心;若採用液冷系統設計,則能推升至每機架對應超過45000個CPU核心。

這款晶片交由台積電以其先進的3nm製程代工製造。Arm強調,AGI CPU每機架效能是傳統x86架構CPU的2倍以上,這意味著在每吉瓦的AI資料中心建置中,將能為企業省下高達100億美元的資本支出。

科技巨頭齊聲力挺,Meta成為首發聯合開發夥伴

Arm這次親自跳下來做晶片,並未引發原有IP客戶的強烈反彈,反而獲得業界極度廣泛的支持。

Meta更成為該晶片的首發合作夥伴與共同開發者。Meta基礎設施主管Santosh Janardhan表示,Meta將利用Arm AGI CPU來優化其應用程式家族的基礎設施,並且將其與Meta自研的AI加速晶片「MTIA」協同運作,藉此實現在大規模AI系統中更有效率的運算調度,而雙方也承諾將在未來多個世代的產品路線圖中持續深入合作。

除了Meta,包含OpenAI、Cerebras、Cloudflare、SAP與SK Telecom在內的多家企業也均確認將導入此晶片,用於加速器管理、控制平面處理,以及雲端API託管等核心任務。

而在硬體系統端,Arm已經與華擎 (ASRock Rack)、聯想 (Lenovo)、廣達 (Quanta Computer)及Supermicro等OEM及ODM 廠展開合作,預計今年下半年將有更多系統投入市場。

此外,包含AWS、Google、微軟、NVIDIA (執行長黃仁勳亦對此發表祝賀),以及三星、SK 海力士 (SK hynix)等超過50家科技巨頭,也都對Arm擴展至晶片產品線表達大力支持。

分析觀點

外界最初擔憂,Arm自己賣晶片是否會與AWS、Google或微軟這些已經利用Arm架構自行開發自有設計CPU的大客戶產生利益衝突?

從結果來看,Arm將AGI CPU的定位精準切入「代理式AI」這個新興且需才孔急的特殊領域。對於像Meta或OpenAI這樣需要海量CPU來搭配自家AI加速器,卻又不見得想投入龐大資源去「從零設計通用CPU」的廠商來說,直接購買現成、已經將Neoverse V3效能榨到極限的Arm AGI CPU,是最具成本效益的做法。

同時,這也是Arm針對x86陣營 (Intel與AMD)在資料中心領域發起的一場「絕殺」。當僅有300W熱設計功耗的Arm晶片能透過台積電3nm製程,在相同機架與電力限制下塞入136個核心,並且提供兩倍於x86架構CPU的效能時,x86架構在AI時代「功耗比過高」的致命傷將被進一步放大,同時也象徵資料中心的運算主力,正無可避免地向 ARM 架構全面傾斜。

Arm AGI CPU 單機架容納 4.5 萬核心 高密度架構對抗 x86 代理式 AI 算力瓶頸

Arm 首款自製晶片 AGI CPU 正式亮相技術細節,採用液冷 200kW 極端配置可容納 336 顆處理器,單機架核心數突破 4.5 萬組,效能是 x86 架構系統兩倍以上。

接續揭曉跨足實體晶片製造的消息後,Arm雲端AI事業部執行副總裁Mohamed Awad隨
後針對此款處理器進一步說明技術解析。這款名為「Arm AGI CPU」的全新處理器,是基於Arm Neoverse平台所打造的量產級產品,主要為了解決「代理式AI」時代下,CPU成為資料中心協調運算過程中的「瓶頸」問題。

為此,Arm徹底重新設計伺服器的參考架構,透過極致的機架密度與多執行緒效能,標榜能提供x86架構系統兩倍以上的單機架效能,並且宣告AI雲端基礎設施正式進入「Arm原生」的全新發展。

代理式AI的崛起:為何CPU成為算力瓶頸?

Mohamed Awad解釋,過去運算的瓶頸在於「人類」——人類輸入指令的速度,決定系統運作的執行節奏。但在「代理式AI」時代,這個限制消失了,軟體代理會以24小時不間斷地自主協調任務,並且與多個大型語言模型進行互動,接著做出即時決策。

但在這種持續運作且極度複雜的環境中,CPU的角色發生質變,不再只是GPU的配角,而是必須同時管理數以千計的分散式任務、調度加速器、管理記憶體與儲存,甚至處理海量AI代理之間的「扇出」 (fan-out)協調任務。而當負載呈指數級飆升,傳統x86架構CPU在持續高負載下,往往會出現核心爭用與效能衰退等問題,而這正是Arm決定親自下場打造AGI CPU的核心原因。

為「機架級」效率而生:單機架最高容納45000組核心

為了解決這個痛點,Arm AGI CPU從運作時脈、記憶體到I/O架構,全都是為了支援「高密度機架佈署」與「大規模平行運算」而量身訂做。

Arm官方釋出了極度暴力的硬體參考配置:

• 1OU雙節點設計:這是Arm提出的標準氣冷伺服器參考架構。每個刀鋒伺服器 (Blade)包含兩個節點,配置兩顆AGI CPU、專屬記憶體與I/O埠,在單一刀鋒伺服器即可提供272組運算核心。

• 氣冷36kW機架:一個標準的36kW氣冷機架系統則可塞滿30個上述刀鋒伺服器,總計提供高達8160個CPU核心。

• 液冷200kW巨獸:Arm更與Supermicro合作,設計支援200kW液冷的極端配置,單一機架可容納336顆Arm AGI CPU,總核心數更能突破驚人的45000個。

Mohamed Awad強調,這套架構能提供超越最新x86架構系統兩倍以上的機架運算效能。其關鍵在於Arm Neoverse V3核心的「單執行緒」 (single-threaded)效能與更高記憶體頻寬表現,確保每一個執行緒都能完成更多工作,並且不會像x86架構設計在滿載時可能發生效能崩潰。

不僅是賣晶片,更要定義硬體標準

值得注意的是,Arm這次不僅僅是推出晶片,更是打算直接定義下一代伺服器的硬體標準。

為了加速生態系採用,Arm宣布推出符合開放運算計畫 (OCP)DC-MHS標準尺寸的「Arm AGI CPU 1OU雙節點參考伺服器」。Arm計畫將這套伺服器設計、支援的韌體、系統架構規格、除錯框架及診斷工具,全數貢獻給OCP開放運算社群。

目前,這款晶片已經獲得包含Meta、OpenAI、Cerebras、Cloudflare等業界巨頭的採用承諾,而合作夥伴華擎、聯想與Supermicro已經開始接受商業系統的訂單。

分析觀點

從技術解析可以看出,Arm AGI CPU是一頭徹頭徹尾的「效能怪物」,而其更直接瞄準傳統x86架構資料中心機架弱項。

Arm並未選擇在單顆CPU的絕對算力上與x86競爭,而是利用Arm架構的「高能效比」與「高核心密度」,直接將戰場拉高到「機架級別」 (Rack-scale)。

當雲端服務商在評估資料中心建置時,他們看重的是「在這個36kW的機櫃限制下,能塞進多少算力?」。在這一點上,單機櫃能提供8000組CPU核心,甚至多達4.5萬個不降頻的的Arm架構CPU核心,對比受限於發熱與功耗的x86架構系統,具備更高優勢。

更深層的意義在於,Arm正在收編那些無力自行開發CPU,卻又急需高效能協調器的AI新創與雲端業者 (如OpenAI、Cerebras)。透過直接提供量產晶片與OCP開放運算硬體設計,Arm等同於為整個AI產業鋪好了一條名為「Neoverse」的高速公路。

這不僅是Arm商業模式的重大轉型,更是x86陣營接下來在AI伺服器市場面臨的最嚴峻挑戰。

Arm 推出多款自有品牌 CPU 晶片 佈局 AGI 運算市場

Arm 宣布推出首款自有品牌晶片 AGI CPU,並規劃 2027 年推出 AGI CPU 2,未來將持續推出第 3 代產品,正式進軍代理式 AI 伺服器市場。

在公布首款自有品牌晶片「Arm AGI CPU」,並且說明其具體規格細節之餘,Arm執行長Rene Haas更透露計畫在2027年接續推出「Arm AGI CPU 2」,並且推進到第四代CCS運算子系統,同時也將在未來推出「Arm AGI CPU 3」,以及第五代CCS運算子系統。而在會後接受訪談時,Rene Haas更針對此次宣布佈局自有品牌晶片的想法與相關市場佈局。

從先前市場傳聞,到此次正式對外揭曉,Arm確認其首款自有品牌晶片「Arm AGI CPU」將鎖定代理式AI應用市場,並且鎖定提供傳統x86架構處理器難以對應的低耗電、高效能運算特性,同時也標榜不會像x86架構會有記憶體傳輸頻寬,以及在高度負載情況下會有性能輸出不穩定的情況。

從「畫設計圖」到「蓋房子」:Arm策略的三級跳

要理解這次的AGI CPU產品佈局,必須回頭看Arm過往的市場發展路徑。這不是一夕之間的決定,而是一場深謀遠慮的佈局。

初期:處理器IP設計授權

Arm過往的商業模式是純粹以「處理器IP設計授權」為主,就像是提供精密的建築設計圖,讓客戶買來參考蓋房子。

中期:CSS運算平台設計

後來為了降低客戶開發門檻、縮短產品進入市場時間,Arm推出了CSS (Compute Subsystems)運算子系統全面設計,像是提供「半成品」或「房屋模組」,讓開發者能更快速組建系統。

現在:提供完整自有設計晶片

而此次推出AGI CPU,則意味Arm正式具備提供「成屋」——也就是完整自有設計處理器晶片的能力。Arm雲端AI事業部執行副總裁Mohamed Awad表示,這是基於市場對於AI運算效率的極致追求,以及客戶對於更緊密整合解決方案的渴求。

▲左為Arm雲端AI事業部執行副總裁Mohamed Awad,右為Arm執行長Rene Haas

從整體來看,目前的Arm具備提供處理器IP、CSS運算子系統設計,以及完整處理器設計產品能力,可依照不同客戶需求提供更合適的解決方案。此次提出針對代理式AI打造的AGI CPU,更像是Google以Pixel系列手機作為示範,不僅能讓更多OEM、ODM廠商知道Android平台可以打造什麼樣的手機,而這些手機也能成為市場販售使用機種。

AGI CPU的主要應用場景與受益客群

這款晶片的核心設計,目標在於滿足「通用人工智慧」 (AGI)時代的運算需求,並且符合當前主流的代理式AI應用場景,其應用場景具備高度的垂直整合特性:

• 雲端資料中心與大型語言模型 (LLM)推論:AGI CPU設計重點在於提升運算效率與頻寬。

• 「代理運算」 (Agentic Compute)中心:Mohamed Awad特別提到「AI代理人」 (AI Agents)不眠不休運作的特性,而AGI CPU正是針對這類持續性、高負載任務最佳化。

• 系統級整合運算:透過CSS運算子系統的延伸,AGI CPU將可作為大型運算叢集中的「主節點」,負責協調整個機櫃中的CPU與多個加速器 (如GPU或ASIC特定用途晶片)之間運作。

▲Arm首款自有品牌晶片「Arm AGI CPU」

受益客群分析

目前看起來,諸如雲端服務供應商 (CSPs)如 AWS、Google Cloud、微軟Azure等,甚至包含雲端虛擬主機供應商如Cloudways,或是像Cloudflare等CDN內容傳遞網路商都是主要收益客群,能藉由AGI CPU更快執行速度、更低運作成本特性,進而獲取優化的硬體架構,並縮短服務上線時間。

另外,像是首波與Arm合作導入AGI CPU的Meta,其線上社群服務平台如Facebook、Instagram等,同樣也能藉由AGI CPU多運算核心、低耗電等特性,以更有效率形式運作。而像是AI運算、虛擬化應用服務,同樣也能藉由AGI CPU特性、結合Arm軟體框架提升運作速度。

而特定垂直領域的系統整合商,則可藉此降低進入門檻,進而更專注於加速器或周邊系統的差異化發展。

既有客戶的影響與競合關係分析

至於Arm推出自有CPU產品,對其既有的IP授權生態系是否造成影響,Rene Haas對此持樂觀態度,認為「市場機會足夠大」,而Arm的策略為提供包括IP授權、CSS設計,以及AGI CPU在內的多樣化「選項」,因此不認為會對目前合作客戶如Qualcomm、NVIDIA或Ampere業者產生影響,甚至樂見Arm能以此提供更多市場選擇。

不過,要說受到較大影響的客群,或許會是採用Arm提供IP授權的處理器新創,畢竟如果不是像蘋果、Qualcomm是藉由指令集授權打造高度客製化處理器,而是直接以Arm授權組合打造產品的話,或許會面臨直接購買Arm設計製造的處理器即可的問題。

至於針對推出自有品牌晶片,Rene Haas強調Arm對所有合作夥伴的承諾一致,維持公平的授權環境是Arm生態系存續的根基,藉此消弭客戶對技術路徑圖釋出順序是否「偏袒」自家團隊的疑慮,並且鞏固生態系的向心力。

後續佈局推測:重塑產業鏈的野心

在訪談中,Rene Haas並不諱言Arm後續發展野心,透露目前確實有在考慮針對AGI CPU以外用途構思產品,儘管強調並非此次發表會的溝通重點,但顯然也暗示日後可能在高效能運算 (HPC)、車用電子或邊緣運算領域,都可能會見到「Arm自有品牌CPU」的身影。

此外,Mohamed Awad也說明在整體運算中,GPU也是相當重要一環,但在此次訪談中,Arm並未表明是否也會在GPU市場提供自有產品設計,或許未來會有更進一步消息透露。

總結來說,AGI CPU是Arm展現其「垂直整合能力」的關鍵佈局,為需要快速進入市場的應用商提供利基,但似乎也迫使既有的大型處理器設計客戶重新審視與Arm之間複雜的「競合」關係。而目前的Arm已經不再是只滿足作為幕後設計者角色,而是以前所未有的姿態,走向運算戰場的最前線。

❌