四月我們迎來了AI芯片三連發(fā)！

4月9日Intel打頭陣，在Vision 2024活動中，發(fā)布了新一代Gaudi 3 AI芯片。同一天，Cloud Next 2024大會上，Google Cloud首度公開專為數(shù)據(jù)中心設(shè)計(jì)的首款A(yù)rm架構(gòu)CPU──Google Axion。隔天，4月11日Meta官方發(fā)文，展示新款自研AI芯片MTIA。

在這三款產(chǎn)品中，Intel新一代Gaudi 3與NVIDIA H100展開直接競爭。在AI模型算力中，Gaudi3 AI芯片的模型訓(xùn)練速度、推理速度都更出色，分別提升了40%和50%，平均性能提升達(dá)到了50%，能效更是提高了40%。更重要的是，Gaudi3 AI芯片的成本比H100更低，妥妥的性能更強(qiáng)，價格更低。

從官方公布的數(shù)據(jù)來看，Gaudi 3即使是面對NVIDIA的H200 GPU，表現(xiàn)也毫不遜色。在LLAMA-7B以及LLAMA-70B的部分場景與H200基本是伯仲之間，差距基本在10%以內(nèi)。

Intel在Vision 2024上也同步介紹了這款芯片的生產(chǎn)節(jié)點(diǎn)，計(jì)劃在今年第三季度向客戶發(fā)貨Gaudi 3 AI芯片，包括聯(lián)想、惠普、Dell和Supermicro等OEM廠商都會使用這款新品構(gòu)建系統(tǒng)。

但是Gaudi 3很難撼動NVIDIA在AI新領(lǐng)域的地位，即便加上AMD的Instinct MI300。

美銀分析師Vivek Arya發(fā)表研究報告指出，英偉達(dá)2024年AI加速器的占有率將超過75%，定制化芯片（如Google TPU、亞馬遜Trainium/Inferentia加速器、微軟Maia）的占有率為10~15%，而剩余的10~15%才是AMD、英特爾及其他未上市企業(yè)的天下。

盡管目前定制化芯片市場占有率不高，但幾乎所有服務(wù)商都在加速開發(fā)各類芯片芯片產(chǎn)品，Google也不例外。

在9日舉行的Cloud Next 2024大會上，Google Cloud首度公開專為數(shù)據(jù)中心設(shè)計(jì)的首款A(yù)rm架構(gòu)CPU──Google Axion，相較目前最新一代的同等x86架構(gòu)執(zhí)行個體，效能最高提升50%、能源效率最高提升60%。

Axion CPU正在支持YouTube廣告、Google Earth Engine等多項(xiàng)Google服務(wù)。Google Cloud表示,Axion基于開放架構(gòu)設(shè)計(jì),使用Arm技術(shù)的客戶可以輕松采用,無需進(jìn)行應(yīng)用程序重構(gòu)。

Google Cloud客戶可在旗下Compute Engine、Kubernetes Engine、Dataproc、Dataflow、Cloud Batch等云服務(wù)中使用Axion CPU。Google Cloud計(jì)劃于今年稍晚時間向客戶開放Axion CPU的使用。

此外，Google Cloud還推出了下一代AI加速器TPU v5p。單個TPU v5p Pod包含8,960個芯片，是上代TPU v4 Pod的2倍以上。

TPU v5p主要用于訓(xùn)練規(guī)模最大、要求最高的生成式AI模型。Google Cloud不會對外直接銷售Axion CPU和TPU v5p芯片，而是提供給企業(yè)客戶作為云服務(wù)使用。這樣做不僅可以減少對英特爾、NVIDIA等外部供應(yīng)商的依賴，還能更好地優(yōu)化硬件以滿足自家業(yè)務(wù)的特定需求，為客戶提供更具競爭力的云計(jì)算和AI服務(wù)。

相比Google在AI算力方面具有的規(guī)模，Meta的資源相對較少。不過，Meta在AI領(lǐng)域的投入也可謂闊綽。此前有報道稱，Meta一次性購買了35萬枚NVIDIA H100 GPU，每張售價數(shù)萬美元，這極大地提升了其AI算力水平，為Meta在人工通用智能(AGI)領(lǐng)域的研發(fā)提供了強(qiáng)大支撐。

Meta計(jì)劃將其計(jì)算基礎(chǔ)設(shè)施升級為“相當(dāng)于近60萬張H100的算力”。除購買GPU外，自研是另一條路徑。Meta基礎(chǔ)設(shè)施副總裁Alexis Bjorlin表示，自研硬件能讓公司控制整個技術(shù)棧，從數(shù)據(jù)中心設(shè)計(jì)到訓(xùn)練框架，這種垂直整合是實(shí)現(xiàn)AI研究突破的關(guān)鍵。

去年五月Meta官宣了第一代AI推理加速器MTIA v1，近期又發(fā)布下一代產(chǎn)品。新款MTIA芯片采用5nm工藝，擁有更多的處理核心，功耗也從25W提升到了90W，時鐘頻率也從 800MHz提高到了1.35GHz。

Meta表示目前已經(jīng)在16個數(shù)據(jù)中心使用新款MTIA芯片，與MTIA v1相比，整體性能提高了3倍。但Meta表示，這個提升是通過測試兩種芯片的 "四個關(guān)鍵模型" 性能表現(xiàn)得出的。

據(jù)Meta官方介紹，新一代MTIA的設(shè)計(jì)理念在于尋求計(jì)算、內(nèi)存帶寬和內(nèi)存容量三者之間的理想平衡。這一改進(jìn)不僅優(yōu)化了芯片的性能，更使得推理任務(wù)的執(zhí)行變得更為順暢。

科技大廠自研定制化芯片，一方面是可以和自身需求高度匹配，另一方面也是出于安全和經(jīng)濟(jì)性的考慮，拿NVIDIA H100來說，不僅售價不菲，而且還出現(xiàn)了產(chǎn)能的問題，而AI的發(fā)展有高度依賴算力支持。

所以科技巨頭內(nèi)部開發(fā)芯片的運(yùn)動正在增長。Meta正加入亞馬遜AWS、微軟和谷歌母公司Alphabet的行列，試圖擺脫這種昂貴的依賴。

然而，這并未對行業(yè)對NVIDIA AI加速器的巨大需求產(chǎn)生顯著影響。在AI熱潮下，NVIDIA成為世界第三大科技公司，僅次于微軟和蘋果公司。

其在2024財年的數(shù)據(jù)中心運(yùn)營商銷售額總計(jì)475億美元，高于前一年的150億美元。分析師預(yù)測，這一數(shù)字在2025財年將進(jìn)一步翻倍，來數(shù)年內(nèi)這一地位可能還會進(jìn)一步鞏固。

AI轉(zhuǎn)變PC處理器升級重點(diǎn)

AI技術(shù)的蓬勃發(fā)展不僅改變了服務(wù)器端芯片的走向，也正在深刻影響個人電腦(PC)處理器的發(fā)展。自蘋果M系列芯片率先集成神經(jīng)網(wǎng)絡(luò)處理單元(NPU)以來，其他廠商也紛紛跟進(jìn)。

AMD從銳龍7000系列筆記本處理器中開始加入NPU。而英特爾則在推出"AI PC"的概念時，明確將NPU作為硬性指標(biāo)之一。

NPU是專門針對人工智能和機(jī)器學(xué)習(xí)場景進(jìn)行優(yōu)化設(shè)計(jì)的處理器。相比通用的CPU和GPU，NPU在硬件結(jié)構(gòu)上做了針對性優(yōu)化，專注于高效執(zhí)行神經(jīng)網(wǎng)絡(luò)推理等AI相關(guān)計(jì)算任務(wù)。

過去幾十年里，PC處理器的發(fā)展一直圍繞CPU性能提升為主。但在AI時代，各類AI技術(shù)的爆發(fā)性增長，迫使芯片廠商不得不在AI能力上下大力氣。微軟推出的Windows Copilot等AI功能，對PC芯片的AI性能提出了更高要求。

為滿足這一需求，AMD計(jì)劃在即將推出的Strix Point APU上大幅增強(qiáng)NPU性能，甚至犧牲了部分CPU和GPU緩存空間。英特爾在Arrow Lake、Lunar Lake和Panther Lake等新一代芯片中也投入了大量資源，致力于提升NPU算力，分別達(dá)到約35 TOPS、105 TOPS和140 TOPS。

可以看出，AI PC正成為芯片廠商新的競爭焦點(diǎn)。NPU正從輔助性能向核心功能轉(zhuǎn)變，未來可能成為PC處理器升級的重點(diǎn)，取代傳統(tǒng)CPU和GPU性能的優(yōu)先地位。這一趨勢反映了AI正深刻改變著PC生態(tài)的技術(shù)架構(gòu)。

SoC是大勢所趨

NPU的加入也在影響芯片設(shè)計(jì)制造方式，SoC（System-on-Chip）在手機(jī)行業(yè)中已經(jīng)變得非常普遍，現(xiàn)在，這種集成設(shè)計(jì)的理念也開始滲透到個人電腦芯片的設(shè)計(jì)中，

SoC設(shè)計(jì)的優(yōu)勢在于可以將CPU、GPU、NPU等各種功能單元集成在一個芯片上，使內(nèi)存和處理器能夠更加緊密地集成，從而提高數(shù)據(jù)傳輸速度和整體系統(tǒng)性能。這正如蘋果M系列芯片所展現(xiàn)的優(yōu)勢：通過緊密集成內(nèi)存，可以顯著提升內(nèi)存帶寬。

Intel的Core Ultra和AMD的Ryzen 8000系列處理器都采用了SoC設(shè)計(jì)，充分證明了這一趨勢。這些新一代處理器集成了CPU、GPU、NPU等多種功能單元，并且多數(shù)與板載內(nèi)存直接連接，進(jìn)一步提升了系統(tǒng)性能。

不過，對于桌面PC來說，SoC設(shè)計(jì)還存在一些局限性。臺式機(jī)處理器往往需要更強(qiáng)的升級性，而SoC結(jié)構(gòu)不利于后續(xù)的硬件升級。因此，Intel和AMD在筆記本芯片上采用了SoC和傳統(tǒng)處理器+芯片組的雙線并進(jìn)策略，以兼顧不同市場需求。