Marvell CEO：2023-2025財年人工智能收入CAGR將超100%

  ICC訊（編譯：Nina）在5月底的第一財季財報電話(huà)會(huì )議上，Marvell總裁兼首席執行官Matt Murphy詳述了人工智能(AI)為公司帶來(lái)的巨大機遇：

  過(guò)去，我們認為人工智能只是云計算中的眾多應用之一，但它的重要性和機會(huì )已經(jīng)急劇增加。生成式人工智能(Generative AI)正在迅速推動(dòng)新的應用，并改變我們云客戶(hù)的投資優(yōu)先級。今天的人工智能工作負載需要真正龐大的數據集。

  為了有效地處理這些數據，人工智能數據中心的架構與標準的云基礎設施有很大不同。人工智能中的主要構建塊是一個(gè)包含多個(gè)加速器(如GPU)的系統，而不是將雙插槽服務(wù)器作為機架中的核心元素。在大型部署中，數千個(gè)這樣的系統相互連接，形成一個(gè)數據中心大小的人工智能集群?；ミB這些系統所需的帶寬比標準云基礎設施高出幾個(gè)數量級。

  比如說(shuō)，目前云數據中心中最新的雙CPU服務(wù)器可以驅動(dòng)高達200Gbps的IO，并包含支持該帶寬的網(wǎng)絡(luò )接口。相比之下，一個(gè)包含8個(gè)加速器的先進(jìn)人工智能系統可以驅動(dòng)近30TB的全雙工帶寬。這是將這些系統連接在一起所需帶寬的數百倍。請記住，領(lǐng)先的云數據中心將數千個(gè)這樣的系統連接到一個(gè)集群中，為其客戶(hù)提供最大的可擴展性，每個(gè)這樣的系統都能夠驅動(dòng)數十TB的網(wǎng)絡(luò )流量。

  為了在數據中心規模上創(chuàng )建盡可能大的集群規模，這些連接需要能夠在越來(lái)越遠的距離上運行。這些集群需要驚人數量的高帶寬連接，且所有這些高帶寬連接都需要在合理的功率范圍內以超低延遲和高可靠性提供。這種連接最好由全光連接的基礎設施提供，利用數字信號處理和低延遲、高容量的光纖交換機。這就是為什么我們將人工智能視為PAM4光學(xué)DSP平臺的強大增長(cháng)驅動(dòng)力。

  值得注意的是，這些DSP與各種網(wǎng)絡(luò )協(xié)議兼容，如以太網(wǎng)、InfiniBand和其他專(zhuān)有解決方案，以實(shí)現最大的廣度和靈活性。展望未來(lái)，我們看到這一趨勢只會(huì )加速。盡管當今最先進(jìn)的人工智能系統已經(jīng)在使用可用的最高帶寬接口，但您可能會(huì )驚訝地發(fā)現，當前人工智能實(shí)現的性能規模仍然受到網(wǎng)絡(luò )容量的限制。以我前面討論的8加速器AI系統為例。

  目前，這些系統通常包含4個(gè)800Gbps外部連接光接口，提供每秒3.2TB的帶寬。但這是在一個(gè)能夠驅動(dòng)接近10倍帶寬的系統中實(shí)現的。為了彌補這一差距，我們預計隨著(zhù)這些集群的規模擴大，每個(gè)人工智能系統的光學(xué)接口數量將繼續增長(cháng)。預計下一代加速器將具有更高的計算能力和更高的帶寬要求。

  考慮到人工智能基礎設施的發(fā)展速度，技術(shù)更新周期為18到24個(gè)月，而標準基礎設施的更新周期為4年多?？傊?，我們預計這些AI集群中的大量連接、更高速光學(xué)接口的日益采用和更快的更新周期將成為我們PAM4 DSP平臺的主要需求驅動(dòng)因素。事實(shí)上，在上一次電話(huà)財報會(huì )議中，我們指出，我們行業(yè)領(lǐng)先的800G DSP平臺的增長(cháng)幾乎完全是由AI應用驅動(dòng)的。我們還推出了業(yè)界首個(gè)1.6TB PAM4 DSP平臺，將當前一代的吞吐量提高了一倍。我們預計人工智能也將推動(dòng)這些產(chǎn)品的初步采用。

來(lái)源：Marvell官網(wǎng)

  此外，由于服務(wù)提供商在多個(gè)區域數據中心部署了推理(Inference)，這些數據中心需要通過(guò)數十公里的高帶寬、低延遲光鏈路連接。這項技術(shù)被稱(chēng)為數據中心互連(DCI)，而Marvell一直是該市場(chǎng)的先驅。我們?yōu)镈CI創(chuàng )建了業(yè)界首個(gè)可插拔模塊，目前我們最新的DCI產(chǎn)品線(xiàn)提供400Gbps的速率。

  我們已經(jīng)看到，人工智能云數據中心正在推動(dòng)我們400ZR解決方案需求的大幅增長(cháng)。我們DCI產(chǎn)品的另一個(gè)需求驅動(dòng)因素是，服務(wù)提供商正計劃在不同站點(diǎn)的集群加速器上實(shí)施下一代人工智能。人工智能也是數據中心內交換需求的關(guān)鍵增長(cháng)驅動(dòng)力。Marvell在低延遲、高容量交換機市場(chǎng)上的地位越來(lái)越高，我們看到市場(chǎng)對我們產(chǎn)品的強勁需求。

  我們最近發(fā)布了下一代51.2T Teralynx 10以太網(wǎng)交換平臺。平臺基于我們從Innovium收購的低延遲架構，并建立在Marvell領(lǐng)先的5nm技術(shù)平臺上。我們看到客戶(hù)對這種產(chǎn)品非常感興趣。我們預計人工智能將引領(lǐng)行業(yè)從目前的12.8T交換機過(guò)渡到51.2T，使網(wǎng)絡(luò )帶寬翻四番。

  我們預計51.2T的采用將成為網(wǎng)絡(luò )半導體市場(chǎng)的強勁增長(cháng)動(dòng)力。綜上所述，Marvell已經(jīng)在人工智能網(wǎng)絡(luò )連接領(lǐng)域建立了領(lǐng)先地位。我們預計，在人工智能投資不斷增長(cháng)的推動(dòng)下，PAM4光學(xué)、DCI和以太網(wǎng)交換解決方案將出現巨大增長(cháng)。也許，更令人興奮的是，Marvell有機會(huì )為我們的云優(yōu)化硅平臺解決人工智能計算問(wèn)題。

  正如前面所述，人工智能數據中心的架構是根本不同的。在標準云基礎設施中，大部分計算由CPU執行，而加速器主要用于卸載任務(wù)，如網(wǎng)絡(luò )和安全。相比之下，在人工智能基礎設施中，GPU等加速器是主要的計算引擎，而CPU用于控制目的，與標準云基礎設施形成了180度的逆轉。根本性的差異導致人工智能基礎設施中加速器與CPU相比的比例更高，加速器現在是主要的計算機會(huì )。

  鑒于此，再加上人工智能投資的急劇增加，正在推動(dòng)更高比例的增量計算TAM和云數據中心轉向加速器。今天，我們看到云客戶(hù)通過(guò)構建自己的定制加速器來(lái)增強他們的人工智能產(chǎn)品，以滿(mǎn)足他們的特定需求。這是Marvell云優(yōu)化硅戰略的核心部分，我們現在看到，在人工智能基礎設施中，定制計算擁有更大、更快增長(cháng)的機會(huì )。當我們之前在2021年10月的投資者日上討論我們的云優(yōu)化硅機會(huì )和收入增長(cháng)預期時(shí)，我們預計，一旦所有項目投入生產(chǎn)，首批Design Win的收入將增長(cháng)到每年8億美元。

  這些Design包括各種加速計算應用，包括人工智能、安全、存儲和視頻，以及一些網(wǎng)絡(luò )應用。今時(shí)今日，當我們看到由人工智能驅動(dòng)的同一組Design Win時(shí)，我們對其在整個(gè)生命周期的總收入預期顯著(zhù)增加。與此同時(shí)，人工智能在整個(gè)生命周期收入中所占的相對比例從我們之前預測的約20%增加到今天的一半以上。因此，計算人工智能應用現已成為Marvell云優(yōu)化硅平臺最大的收入來(lái)源和機會(huì )。

  隨著(zhù)人工智能需求的持續增長(cháng)，我們看到，隨著(zhù)時(shí)間的推移，這些云優(yōu)化Design Win的年收入將遠遠超過(guò)此前預計的8億美元。事實(shí)上，我們有許多與人工智能相關(guān)的定制硅產(chǎn)品，預計明年將投入批量生產(chǎn)。

  除了在人工智能網(wǎng)絡(luò )連接方面的強勢地位外，我們相信Marvell已經(jīng)做好了應對計算機會(huì )的準備。在過(guò)去的幾個(gè)月里，我們花時(shí)間仔細繪制了人工智能的收入圖，以跟蹤它的進(jìn)展。鑒于我們已經(jīng)取得的巨大進(jìn)步，包括最近客戶(hù)需求的增長(cháng)，我們預計人工智能應用帶來(lái)的收入將加速增長(cháng)。在2023財年，我們估計我們的人工智能收入約為2億美元，比前一年大幅增長(cháng)。

  該收入主要來(lái)自我們的PAM4光學(xué)和400ZR DCI產(chǎn)品。自3月初財報電話(huà)會(huì )議以來(lái)，這些產(chǎn)品的預訂量大幅增加。因此，我們預計Marvell的整體人工智能收入在2024財年至少會(huì )翻一番。展望2025財年，我們預計人工智能網(wǎng)絡(luò )連接將繼續實(shí)現強勁增長(cháng)。

  總的來(lái)說(shuō)，我們預計明年我們的整體人工智能收入將至少再翻一番。換句話(huà)說(shuō)，我們預測2023-2025財年人工智能收入的復合年增長(cháng)率將超過(guò)100%。未來(lái)，我們預計涉及視頻和圖像的生成式人工智能實(shí)現將為HDD和閃存的整體存儲和EB增長(cháng)提供推動(dòng)力。