Q324全球AI加速器收入飆升130%

  ICC訊  Dell’Oro最近發(fā)布的一份報告指出，由圖形處理單元（GPU）和定制加速器組成的加速器市場(chǎng)，在2024年第三季度的收入增長(cháng)了130%。美國的主要超大規模云服務(wù)提供商，如亞馬遜、谷歌、Meta和微軟，正積極擴展其基礎設施，以支持大型語(yǔ)言模型的訓練和推理，預計全年將部署超過(guò)500萬(wàn)個(gè)能夠進(jìn)行人工智能（AI）訓練的加速器。

  Dell'Oro集團高級研究總監Baron Fung表示：“隨著(zhù)超大規模服務(wù)商競相構建用于大型語(yǔ)言模型訓練和推理的基礎設施，加速器的需求呈現出驚人的增長(cháng)速度。除了商用GPU之外，美國的超大規模服務(wù)商也在增加使用定制加速器來(lái)建設AI基礎設施。隨著(zhù)大型語(yǔ)言模型規模的不斷擴大，對更大計算集群的需求也隨之增加，這促使超大規模服務(wù)商加快采用定制加速器。他們通常與博通和Marvell等芯片制造商合作開(kāi)發(fā)定制解決方案，旨在提高性能效率、降低成本，并減少對英偉達（NVIDIA）GPU的依賴(lài)?！?

  此外，該季度報告還強調了以下要點(diǎn)：

  - 2024年，服務(wù)器和存儲系統組件市場(chǎng)預計將增長(cháng)超過(guò)100%，其中加速器、內存和存儲驅動(dòng)器是推動(dòng)增長(cháng)的關(guān)鍵因素。

  - NVIDIA在組件收入方面占據主導地位，遠遠領(lǐng)先于其他供應商，三星和SK海力士則緊隨其后。NVIDIA幾乎占到了總收入的一半，而部署定制解決方案的超大規模服務(wù)商正在迅速趕上。

  - 2024年第三季度，智能網(wǎng)絡(luò )接口卡（Smart NIC）和數據處理單元（DPU）的收入幾乎翻了一番，這是由AI集群中網(wǎng)卡的強勁部署推動(dòng)的。

  - 預計到2025年，增長(cháng)速度雖然會(huì )有所放緩但仍將保持健康的兩位數增長(cháng)，年初可能會(huì )因庫存調整而導致通用服務(wù)器組件的增長(cháng)放緩。

  Dell’Oro曾在2024年8月發(fā)布對加速器市場(chǎng)的五年預測。報告稱(chēng)，由于超大規模云服務(wù)提供商和企業(yè)市場(chǎng)的人工智能相關(guān)數據中心資本支出激增，且在預測期內仍將保持高位，未來(lái)五年，加速器收入（主要由GPU和定制加速器組成）預計將以38%的復合年增長(cháng)率（CAGR）增長(cháng)。