LC：我們的行業(yè)正處于十字路口

  ICC訊（編譯：Nina）LightCounting(LC)對Photonics West的CPO論壇討論發(fā)表了評論。在今年參會(huì )者達到22000人的Photonics West會(huì )議上，光通信并不是討論中心。然而，在參與人數眾多的共封裝光學(xué)(Co-Packaged Optics，CPO)論壇上，大家提出了一個(gè)重要的問(wèn)題：如果網(wǎng)絡(luò )只占云數據中心總功耗的2-3%，我們?yōu)楹我獡?A href="http://joq5k4q.cn/site/CN/Search.aspx?page=1&keywords=%e5%85%89%e6%a8%a1%e5%9d%97&column_id=ALL&station=%E5%85%A8%E9%83%A8" target="_blank">光模塊功耗不斷增加?

  Coherent的Vipur Bhat展示了兩年前發(fā)表在《科學(xué)》(Science)雜志上的一篇文章中的數據，數據顯示，大家對數據中心日益增長(cháng)的功耗的擔憂(yōu)被高估了。這項研究比較了2010年和2018年所有數據中心的功耗，僅增長(cháng)了約8%。將這一趨勢推至2022-2023年，表明由于數據中心效率的持續提高，增長(cháng)幅度很小，為2-3%。

  這種改善主要有兩個(gè)原因：

  1. 將工作負載從企業(yè)數據中心轉移到由云公司運營(yíng)的大型數據中心，這要高效得多。

  2. 占90%功耗的服務(wù)器和內存的效率穩步提高。

  2012年，網(wǎng)絡(luò )消耗的電力僅占1%，2018年占2%，到2022年約占3%。我們需要在意它嗎?

  下圖展示了LC對云數據中心部署的光模塊功耗的計算(以年度部署計算，而不是累積計算)。請注意，縱坐標刻度是對數刻度。在對數刻度的圖表中，任何直線(xiàn)都該引起重視，因為它代表著(zhù)指數級增長(cháng)。等懷疑論者意識到這一點(diǎn)之時(shí)，解決電力消耗問(wèn)題可能為時(shí)已晚。

  根據這一分析，2018-2022年部署在云數據中心中的光模塊的總功率加起來(lái)達到330MW或1.2TWh，略高于目前云數據中心總功耗的1%。問(wèn)題是，到2028年，光學(xué)器件預計將占其中的8%以上。該分析說(shuō)明了可插拔光學(xué)器件的功率效率不斷提高：從100G模塊中的35pJ/bit提高到800G收發(fā)器中的20pJ/bit。

  到2028年，云數據中心的光學(xué)器件將占到總功耗的8%，我們是否應該對此感到擔憂(yōu)?是的，我們應該。云數據中心運營(yíng)商在為其設施提供更多電力方面面臨重大限制。如果光學(xué)器件消耗更多的功率，他們將被迫減少分配給服務(wù)器和內存的功率預算。

  一個(gè)更重要的問(wèn)題是，人工智能(AI)集群的設計受到光連接的高功率和成本的嚴重限制。英偉達聲稱(chēng)，如果不受功率和成本的限制，他們現在可以多使用32倍的光學(xué)器件。AI模型的執行需要大型GPU陣列，如果供應商能夠降低其功耗和成本，高帶寬光連接將是最佳解決方案。

  Ayar Labs、Broadcom、IBM和Ranovus的下一代CPO設計預計將達到2-3pJ/bit的能源效率。Rajeev Ram教授是Photonics West的全體會(huì )議發(fā)言人，也是Ayar Labs的聯(lián)合創(chuàng )始人，他聲稱(chēng)0.1pJ/bit是現有每通道200G技術(shù)可以達到的。他在麻省理工學(xué)院的團隊正在研究低壓調制器和改進(jìn)的探測器，目標是使互連功耗達到0.001pJ/bit或更低。麻省理工學(xué)院的一些解決方案將使用非常低的數據(Mbps)速率來(lái)降低功耗。Ayar Labs的方法也是基于使用較低速度(64Gbps)的NRZ光學(xué)器件來(lái)達到2pJ/bit。他們能否以112G每通道NRZ使功耗低于1pJ/bit還有待觀(guān)察。

  我們行業(yè)正處于十字路口。我們可以保持現狀，繼續使用可插拔光學(xué)器件，并逐步改進(jìn)它們。AI集群的擴展速度不會(huì )那么快，但會(huì )有其他方法來(lái)優(yōu)化AI模型，以滿(mǎn)足有限網(wǎng)絡(luò )帶寬的限制。另一種選擇是冒險開(kāi)發(fā)新的光學(xué)技術(shù)，采用新的封裝和光纖耦合設計，從根本上改善成本和功率效率。這種方法將極大地促進(jìn)AI的發(fā)展，并將我們的行業(yè)提升到一個(gè)全新的水平。這條道路令人興奮，但懷疑論者認為這非常具有挑戰性的。他們也沒(méi)錯，然而，錯過(guò)這個(gè)機會(huì )將是一個(gè)錯誤。

  原文：LightCounting :: Our industry is at a crossroads | https://www.lightcounting.com/newsletter/february-2023-our-industry-is-at-a-crossroads-269