iFOC 2023回顧 | 訊石吳娜：AI驅動(dòng)下光模塊市場(chǎng)需求預測

  ICC訊   9月4-5日，第21屆訊石光研討會(huì )(iFOC 2023)圓滿(mǎn)舉辦!本屆會(huì )議吸引了來(lái)自近700家企業(yè)的1000多位嘉賓出席，聆聽(tīng)行業(yè)專(zhuān)家學(xué)者及技術(shù)骨干的干貨分享及巔峰對話(huà)，共享光通信行業(yè)的前沿技術(shù)及市場(chǎng)信息。

  訊石信息咨詢(xún)高級分析師吳娜在9月5日的主論壇《算力光網(wǎng)與光纖通信技術(shù)發(fā)展》上發(fā)表《AI驅動(dòng)下光模塊市場(chǎng)需求預測》的主題演講。

  訊石吳娜

  ChatGPT掀起生成式AI熱潮，國內外企業(yè)紛紛加速AI布局。相關(guān)數據顯示，在過(guò)去8個(gè)月里，Hugging Face(正逐步成為全球最大的大模型庫)上的預訓練模型數量從此前積累的10萬(wàn)個(gè)增長(cháng)到了超過(guò)30萬(wàn)個(gè)。今年上半年，國內發(fā)布的各類(lèi)大模型數量超過(guò)100個(gè)，其中參數在10億規模以上的大約80個(gè)。根據OpenAI的研究，AI訓練所需算力增速超越硬件的摩爾定律。

  隨著(zhù)GPT-3等大模型參數增長(cháng)超過(guò)GPU內存的增長(cháng)，HBM(高帶寬存儲器)成為AI服務(wù)器標配。存儲龍頭SK海力士的HBM目前已發(fā)展到第五代HBM3E，最高每秒可以處理1.15TB的數據，進(jìn)一步拉大內存帶寬與網(wǎng)絡(luò )帶寬的差距。

  為解決網(wǎng)絡(luò )帶寬瓶頸，數據中心網(wǎng)絡(luò )架構需要變革。傳統樹(shù)形網(wǎng)絡(luò )拓撲中，帶寬逐層收斂，樹(shù)根處網(wǎng)絡(luò )帶寬要遠小于各個(gè)葉子處所有帶寬的總和。而胖樹(shù)則更像真實(shí)的樹(shù)，越到樹(shù)根，枝干越粗，即從葉子到樹(shù)根，網(wǎng)絡(luò )帶寬不收斂，可以提高網(wǎng)絡(luò )效率，加快訓練速度。這是胖樹(shù)架構能夠支撐無(wú)阻塞網(wǎng)絡(luò )的基礎。由于不做收斂，需要更多的光口來(lái)保證上下行速率一致，因此增加了光模塊數量。

  為縮小存儲帶寬和網(wǎng)絡(luò )帶寬的差距，英偉達引入了服務(wù)器間GPU All-to-all直連。在英偉達DGX H100集群中，不同服務(wù)器的GPU之間使用NVLink連接到NVSwitch進(jìn)行通信，因此新增了一套NVSwitch相連的光網(wǎng)絡(luò )系統，每個(gè)服務(wù)器有18個(gè)OSFP和NVSwitch相連，大幅增加了光模塊用量。

  AI應用掀起光連接需求新浪潮?，F階段，英偉達H100的需求火爆異常，訂單量已經(jīng)排滿(mǎn)到2024年。知情人士透露稱(chēng)，英偉達目前計劃將旗艦H100顯卡的產(chǎn)量至少增加兩倍，到2024年H100的出貨量將達到150萬(wàn)至200萬(wàn)塊，比今年預期的50萬(wàn)塊大幅躍升。

  從業(yè)內觀(guān)點(diǎn)來(lái)看：行業(yè)正處于與AI/ML部署相關(guān)的長(cháng)達十年的大趨勢的拐點(diǎn)。LC估計，未來(lái)五年，AI集群應用光收發(fā)器收入將占同期以太網(wǎng)光收發(fā)器總收入的38%。Coherent在其股東信函中估計，未來(lái)五年內，800G、1.6T和3.2T數通收發(fā)器市場(chǎng)的CAGR將超40%;到2028年甚至可能更早，與AI相關(guān)的800G和1.6T數通收發(fā)器出貨量將占所有數通收發(fā)器出貨量的近40%。

  當然新事物的誕生與興起，都伴隨著(zhù)一些質(zhì)疑和不確定性。比如，2023年6月，ChatGPT訪(fǎng)問(wèn)量首次下降，有人認為人們對ChatGPT的新奇感已漸漸消失;野村證券前分析師Richard Windsor表示，除非出現一個(gè)人們愿意每月花20美元購買(mǎi)AI應用的大眾市場(chǎng)，否則泡沫可能會(huì )迅速破滅，并波及相關(guān)企業(yè);由于不清楚生成式AI產(chǎn)品的擴張速度，Meta等Hyperscaler對AI投資還存在不確定…..等等。

  但亞馬遜云科技 CEO Adam Selipsky也表示：“生成式AI目前處于非常早期的階段，就像十公里比賽剛跑出幾步……它將給世界帶來(lái)突破式的變革，且有可能是自互聯(lián)網(wǎng)誕生以來(lái)最大的變革?；ヂ?lián)網(wǎng)使知識普惠化，生成式AI將使人工智能技術(shù)普惠化?！?

  在演講的最后，吳娜總結道： AI應用的興起與普及將驅動(dòng)數據中心網(wǎng)絡(luò )架構變革，從而促進(jìn)數據中心基礎設施投資增長(cháng)。AI應用需求將為光模塊行業(yè)帶來(lái)多少機遇，讓我們拭目以待!