ICC訊(編譯:Nina)LightCounting(LC)發(fā)布了2023年7月《超級數據中心光學(xué)報告》(Mega Datacenter Optics Report)。
爭奪人工智能(AI)霸主地位的競賽已經(jīng)開(kāi)始,對被淘汰的恐懼正在推動(dòng)大量人工智能投資。Meta在其最新財報電話(huà)會(huì )議上的評論清楚地說(shuō)明了這種情況:“我們只是不知道這些AI驅動(dòng)的功能會(huì )以多快的速度擴展,我們希望有足夠的能力,以防它們迅速擴張?!?
目前尚不清楚將有多少資金投入AI基礎設施,但英偉達2023年4月的電話(huà)財報會(huì )議暗示了它的規模。英偉達預計2023年第二季度的收入將環(huán)比增長(cháng)50%,這主要得益于AI集群的GPU和基于GPU系統的銷(xiāo)售。沒(méi)過(guò)多久,金融分析師就將GPU的銷(xiāo)售與光收發(fā)器的未來(lái)銷(xiāo)售聯(lián)系起來(lái),并得出了非常高的數字。其中一些報告估計,未來(lái)5年光收發(fā)器的累計收入將達到1000億美元或更多,而這只是針對AI應用。
下圖顯示了LC對以太網(wǎng)光收發(fā)器銷(xiāo)售的預測,其中包括對AI集群光連接對該市場(chǎng)的貢獻的估計。未來(lái)5年,用于AI集群應用的光收發(fā)器的總銷(xiāo)售額將達到176億美元,相比同期所有其他應用以太網(wǎng)收發(fā)器285億美元的收入,這確實(shí)是一個(gè)非常大的數字。
來(lái)源:LightCounting
這倒也不算意外。谷歌報告稱(chēng),在2019-2020年,它在AI集群中部署的光學(xué)器件數量超過(guò)了其他數據中心基礎設施。LC估計,2022年,部署在AI集群中的光收發(fā)器已經(jīng)占總市場(chǎng)的25%,這還不包括有源光纜(AOC),有源光纜是英偉達系統中光互連的主要解決方案。
AI市場(chǎng)份額上升的另一個(gè)因素是計算集群和支持它們的光學(xué)器件的投資減少。ChatGTP在2022年底成為頭條新聞的時(shí)機再好不過(guò)了。對即將到來(lái)的經(jīng)濟衰退的擔憂(yōu)和收入增長(cháng)放緩的最初跡象迫使所有領(lǐng)先的云計算公司削減支出,包括對數據中心的投資和對光收發(fā)器的購買(mǎi)。Meta將其對2023年部署200G FR4光學(xué)器件的預測下調了50%以上。在最新的財務(wù)報告中,該公司宣布今年的資本支出將再減少10%。盡管如此,它計劃增加在AI集群和支持它的400G FR4光收發(fā)器方面的支出。
最后但同樣重要的是:英偉達AI系統的新設計需要更多的光學(xué)器件。一年多前,該公司推出NVLink機箱交換機,其設計考慮到了800G光學(xué)連接。LC在一份研究報告中指出,與InfiniBand網(wǎng)絡(luò )相比,NVLink支持的GPU到GPU連接需要更多的帶寬。目前的估計表明,它的帶寬是原來(lái)的6倍。
英偉達系統以前的所有設計都使用InfiniBand網(wǎng)絡(luò )進(jìn)行光學(xué)連接,這些網(wǎng)絡(luò )大多是AOC。例如,LC估計去年部署的HDR(200G)InfiniBand系統需要50多萬(wàn)個(gè)200G AOC。2023年,這些系統的銷(xiāo)售額將快速攀升,可能需要多達100萬(wàn)個(gè)200G AOC和類(lèi)似數量的200G銅纜。
基于NDR(400G)InfiniBand的最新系統的銷(xiāo)量現在才剛剛開(kāi)始增長(cháng)。這些將主要使用可插拔的400G SR4以太網(wǎng)收發(fā)器,而不是用于InfiniBand連接的AOC和用于NVLink網(wǎng)絡(luò )的800G SR8收發(fā)器。假設NVLink網(wǎng)絡(luò )需要的帶寬是InfiniBand的6倍,一旦新系統的部署與當前基于HDR的系統數量相當,它們將需要200萬(wàn)個(gè)400G SR4收發(fā)器(每個(gè)AOC相當于兩個(gè)收發(fā)器)和600萬(wàn)個(gè)800G SR8模塊。但請記住,今年不會(huì )發(fā)生這種情況,但很可能發(fā)生在2024年或2025年。并非所有系統都將使用對非常大的GPU陣列最有利的光學(xué)InfiniBand和NVLink連接,許多規模較小的部署主要依靠銅纜布線(xiàn)。
谷歌正在使用TPU而不是GPU,但它也使用直接光學(xué)連接到TPU來(lái)構建非常大的陣列,達到數萬(wàn)個(gè)TPU。這對谷歌來(lái)說(shuō)并不是什么新鮮事,這就是為什么它在2019-2020年在其AI集群中部署了如此多的光學(xué)器件。谷歌最近還增加了部署800G FR8收發(fā)器的計劃,這反映在LC的最新預測中。
這份新報告詳細介紹了光以太網(wǎng)和DWDM收發(fā)器在美國和中國前五大云公司的銷(xiāo)售模型,包括:Alphabet(谷歌)、亞馬遜、蘋(píng)果、Meta(臉書(shū))和微軟;阿里巴巴、百度、字節跳動(dòng)、華為和騰訊。