2024芯?光論壇 | 分論壇一《AI大模型下短距光互聯(lián)技術(shù)》圓滿(mǎn)舉辦

  ICC訊  2024年5月14-15日，由華為海思光電主辦，ICC訊石承辦的“2024芯?光論壇：芯光耀智算 互聯(lián)暢未來(lái)”會(huì )議在武漢光谷皇冠假日酒店圓滿(mǎn)舉辦。本次大會(huì )匯聚了近500位光電子領(lǐng)域專(zhuān)業(yè)人士，共同探討光電技術(shù)的演進(jìn)趨勢，捕捉全球光電子產(chǎn)業(yè)的發(fā)展態(tài)勢。

  其中，5月15日下午分論壇一《AI大模型下短距光互聯(lián)技術(shù)》圍繞AI領(lǐng)域的短距光互聯(lián)需求變化、技術(shù)演進(jìn)和學(xué)術(shù)研究熱點(diǎn)等進(jìn)行討論，探討了短距光互聯(lián)的未來(lái)。來(lái)自中國信通院、京東、騰訊、快手、銳捷網(wǎng)絡(luò )、華為海思光電、華中科技大學(xué)和北京理工大學(xué)的行業(yè)專(zhuān)家及學(xué)術(shù)大咖進(jìn)行了深度的分析與探討。

趙文玉 中國信息通信研究院技術(shù)與標準所副所長(cháng)

  中國信息通信研究院技術(shù)與標準研究所副所長(cháng)趙文玉發(fā)表了主題為《AI時(shí)代短距光互聯(lián)發(fā)展態(tài)勢探討》的演講。AI催生了海量的算力需求，互聯(lián)的瓶頸問(wèn)題也隨即突出。單一的計算設備已經(jīng)無(wú)法滿(mǎn)足算力需求，分布式架構需要通過(guò)多個(gè)GPU節點(diǎn)并行訓練，但不同節點(diǎn)之間需頻繁同步模型參數，網(wǎng)絡(luò )通信性能成為制約系統性能的關(guān)健瓶頸。同時(shí)，Al與光互聯(lián)雙向賦能，短距光互聯(lián)也在持續加速演進(jìn)。

  趙文玉提到，隨著(zhù)數據中心、AI大模型等創(chuàng )新業(yè)務(wù)與應用的蓬勃發(fā)展，驅動(dòng)短距光互聯(lián)持續向高速率、低能耗、低時(shí)延、高集成等方向發(fā)展。在產(chǎn)業(yè)化方面，800G已批量部署，1.6T尚處于技術(shù)攻關(guān)和產(chǎn)業(yè)應用研究階段，而3.2T因其對低能耗方案需求更強，還處在探索階段。另外在低能耗/低時(shí)延方面，LPO成為關(guān)注熱點(diǎn)，1.6T LPO樣品已經(jīng)出現。在高集成方面，硅光在材料體系中占比提升，薄膜鈮酸鋰熱度上升，III-V集成與異質(zhì)集成技術(shù)持續發(fā)展。

  趙文玉還提到IPEC也在持續推動(dòng)高速光互聯(lián)技術(shù)及標準化工作，并取得了階段性成果。建議產(chǎn)學(xué)研各單位聚焦Al+算力基礎設施等高質(zhì)量發(fā)展需求，持續推動(dòng)高速光互聯(lián)技術(shù)產(chǎn)業(yè)創(chuàng )新，支撐我國新質(zhì)生產(chǎn)力發(fā)展！

陳琤 京東網(wǎng)絡(luò )架構師

  京東科技信息技術(shù)有限公司網(wǎng)絡(luò )架構師陳琤發(fā)表了主題為《高性能計算網(wǎng)絡(luò )中的光互連》的演講。

  陳琤提到，智算網(wǎng)絡(luò )光互連正在往高可擴展性、大帶寬、低成本、低功耗、低延時(shí)方向發(fā)展。關(guān)于GPU內部連接，連接問(wèn)題不突出，可實(shí)現超高帶寬；而GPU出口現有方案采用PCIe連接，是計算節點(diǎn)間互聯(lián)的帶寬瓶頸，并行多路光引擎OIO方案是未來(lái)的方向。GPU的時(shí)延來(lái)自?xún)蓚€(gè)方面——協(xié)議時(shí)延+數據鏈路。同時(shí)還提到，現如今硅光有了很好的介入點(diǎn)，AI是硅光光模塊發(fā)展的黃金時(shí)期，LPO方案在兼容互通方面還有很長(cháng)的路要走。

  總結而言，相較于傳統數通網(wǎng)絡(luò )，智算網(wǎng)絡(luò )帶寬的增長(cháng)更迅速。而低成本互聯(lián)非常有賴(lài)于新技術(shù)。不同的模型對延時(shí)的要求不一樣，優(yōu)化的方向也有所區別。

胡勝磊 騰訊光系統架構師

  騰訊控股有限公司光系統架構師胡勝磊發(fā)表了主題為《算力網(wǎng)絡(luò )中的光互聯(lián)技術(shù)趨勢探討》的演講。

  胡勝磊提到，光互聯(lián)的“春風(fēng)”正在吹來(lái)，由于A(yíng)IGC業(yè)務(wù)的興起，光互聯(lián)已成為數據中心網(wǎng)絡(luò )硬件主角?，F階段光模塊供不應求，光互聯(lián)技術(shù)送代加速，光互聯(lián)已站在“風(fēng)口”。同時(shí)硅光的重要性也凸顯了，可插拔批量占比攀升，CPO上無(wú)可取代；112G/224G有源銅纜（ACC）可支持單柜算力規模擴展。LRO的革新則需要支持互聯(lián)可插拔持續演進(jìn)到224G。此外，異構互通也不可避免，端口問(wèn)題感知明顯，協(xié)同度需要提升。

  最后，胡勝磊還提到一些發(fā)散思考：如光芯片考慮集成有利于診斷的功能；選擇弱FEC，提升BER性能，實(shí)現降低網(wǎng)絡(luò )延遲；相比傳統MZ，DFB-RING集成芯片可行性；可插拔形態(tài)演進(jìn)到OSFP-XD的16lane后，更多lane通道的封裝“單排16，雙排32”如何考慮布局等。

曹世偉 北京快手光網(wǎng)絡(luò )架構師

  北京快手科技有限公司光網(wǎng)絡(luò )架構師曹世偉發(fā)表了主題為《All in AI時(shí)代光互聯(lián)技術(shù)的應用探討》的演講。

  曹世偉提到，大模型分布式訓練對網(wǎng)絡(luò )架構設計提出了更高的要求，傳統的電交換方案在成本、能耗、時(shí)延等方面存在諸多挑戰，基于OCS的光電混合組網(wǎng)方案成為業(yè)界關(guān)注的焦點(diǎn)。

  曹世偉還提到，隨著(zhù)大模型訓練對算力需求的增長(cháng)，GPU集群也再朝著(zhù)更大規模方向演進(jìn)。由于單DC的規模受供電等諸多因素的限制，因此通過(guò)跨AZ、Region的多集群聯(lián)合訓練也將成為必然。IPoDWDM相比于傳統方案，其跨機房鏈路的轉換減少50%，同時(shí)節省了電層設備，在時(shí)延、功耗、成本方面收益明顯。

  最后總結提到，AI訓練對網(wǎng)絡(luò )的訴求：超大規饃超高帶寬、超低時(shí)延、超高穩定性；而基于大矩陣OCS的混合光電組網(wǎng)可以擴大GPU集群規模、提升交付效率，小矩陣OCS可以實(shí)現交換機保護，實(shí)現網(wǎng)絡(luò )故障的快速自動(dòng)恢復；單集群建設規模受限，未來(lái)會(huì )期待更多集群聯(lián)合訓練模式演進(jìn)；距離更短、頻譜效率高、低成本的IPoDWDM方案更具優(yōu)勢；城域全光網(wǎng)及全自研的管控平臺助力實(shí)現更高效、更穩定、更智能化的機房互聯(lián)。

蘇展 銳捷網(wǎng)絡(luò )光系統工程師

  銳捷網(wǎng)絡(luò )股份有限公司光系統工程師蘇展發(fā)表了主題為 《AI場(chǎng)景短距和超短距光互連發(fā)展趨勢分析和展望》的演講。

  蘇展開(kāi)篇介紹了業(yè)內通用短/中/長(cháng)距光互聯(lián)的情況，即隨波特率送代升級：?jiǎn)文Ｏ喔煞桨赶鲁翑D壓?jiǎn)文MDD方案；單模IMDD方案下沉擠壓多模VCSEL短距互聯(lián)應用；多模VCSEL光方案下沉擠壓電纜超短距互聯(lián)應用；從而總結出光方案下沉的整體趨勢，并詳細分析了光電互聯(lián)邊界。

  接下來(lái)，蘇展提到AI系統對光互聯(lián)提出低成本、低功耗、低延時(shí)、高可靠性和高密度幾大需求背景下，短距光互聯(lián)的幾大挑戰：多模產(chǎn)業(yè)鏈滯后效應、多模近封裝系統可靠性、單模共封裝方案面板密度；而且在光電聯(lián)合設計的章節中提到，LPO投入產(chǎn)出比隨速率演進(jìn)下降問(wèn)題和多模及單模WDM的LPO隨速率演進(jìn)傳輸距離壓縮問(wèn)題，最后得出線(xiàn)性架構未來(lái)向板內發(fā)展的趨勢性結論。

  最后，蘇展介紹了224G VCSEL Linear 10m超短距傳輸提案和與硅光CPO配合的直通可插拔AOC提案。

侯康 華為海思光電資深產(chǎn)品規劃經(jīng)理

  華為海思光電資深產(chǎn)品規劃經(jīng)理侯康發(fā)表了主題為《AI場(chǎng)景光互聯(lián)技術(shù)方案選擇與挑戰》的演講。

  侯康提到，隨著(zhù)AI蓬勃發(fā)展，算力網(wǎng)絡(luò )中的高速互聯(lián)成為提升算力的關(guān)鍵，而超大規模計算集群互聯(lián)即是AI算力提升的重要方向，也是提升系統集群算力的關(guān)鍵一環(huán)。同時(shí)還提到算力需求引領(lǐng)光互聯(lián)邁向Beyond 400G時(shí)代，國內以400G為主，800G主要需求來(lái)自海外；1.6T還只是在預熱。另外“更高更快更多通道”是光模塊實(shí)現大帶寬的關(guān)鍵技術(shù)路徑，在低功耗、低時(shí)延上，LPO具備相對優(yōu)勢，但持續演進(jìn)仍有待討論。

董建績(jì) 華中科技大學(xué)教授

  華中科技大學(xué)教授董建績(jì)發(fā)表了主題為《光電計算芯片與人工智能應用》的演講。

  董老師提到，隨著(zhù)人工智能技術(shù)的飛速發(fā)展和廣泛應用，光計算和光子集成技術(shù)、人工智能技術(shù)相結合有望解決傳統電學(xué)計算無(wú)法解決的難題，產(chǎn)生顛覆性和變革性技術(shù)和應用。董老師從學(xué)術(shù)界角度聚焦討論可重構光子神經(jīng)網(wǎng)絡(luò )芯片，可重構MZI光學(xué)矩陣運算、可重構片上衍射神經(jīng)網(wǎng)絡(luò )、可重構微環(huán)陣列光學(xué)矩陣運算等三類(lèi)典型的計算架構，及其在人工智能領(lǐng)域的應用。最后董老師提到光計算的核心是算力、能耗、精度、集成度、非線(xiàn)性等。

胡善亭 北京理工大學(xué)副研究員

  北京理工大學(xué)副研究員胡善亭發(fā)表了主題為《面向算力網(wǎng)絡(luò )Tbit光互連技術(shù)的超高速直接調制VCSEL研究》的演講。

  胡老師提到研究下一代Tbit光互連技術(shù)，對我國構筑高品質(zhì)算力網(wǎng)絡(luò )全光底座、促進(jìn)數字經(jīng)濟和智能社會(huì )的持續發(fā)展具有重要意義。而超高速直接調制VCSEL技術(shù)，是實(shí)現低成本、高能效、大容量光互連的重要解決方案，既是國內外光電子領(lǐng)域的研究熱點(diǎn)，也是我國亟待攻克的關(guān)鍵卡脖子技術(shù)之一。胡老師主要分析了VCSEL因其固有的優(yōu)勢，在數通領(lǐng)域大放光彩的過(guò)往。并介紹了課題組在VCSEL調制帶寬及能耗方面取得的研究結果。

觀(guān)眾提問(wèn)

分論壇1現場(chǎng)

  總 結

  AI大規模集群帶來(lái)更多的光互連需求，面對下一代短距光互聯(lián)技術(shù)，高性能、低時(shí)延、大容量和高密度已成為行業(yè)關(guān)注的共識。此外，AI訓練和推理對集群存在差異化需求，催化新的基礎設施建設，光互聯(lián)將迎來(lái)長(cháng)期增長(cháng)機遇。