分解云計算和高性能計算 (HPC) 基礎設施中的全光線(xiàn)路交換

  在全光線(xiàn)路交換(OCS)互連的全光網(wǎng)絡(luò )支持下，分解式網(wǎng)絡(luò )為人工智能和機器學(xué)習帶來(lái)全新網(wǎng)絡(luò )設計。

  云計算領(lǐng)域的超大規模企業(yè)和其他高性能計算 (HPC) 服務(wù)提供商必須構建和拓展其計算平臺，以滿(mǎn)足客戶(hù)對人工智能應用的需求，同時(shí)控制資本支出并降低能耗需求。特別是，所需的處理能力已經(jīng)提高了幾個(gè)數量級。

  資源分解是降低成本和能耗的關(guān)鍵

  不同于將這些平臺的構建塊緊密地、但不靈活地捆綁在一個(gè)相對單一的平臺(如標準服務(wù)器機箱)中，而“分解”必要的組件或子系統的過(guò)程避免了效率低下和一些關(guān)鍵底層資源利用率不足的風(fēng)險，更重要的是，如果簡(jiǎn)單地 “架設和堆疊”更多服務(wù)器，則不可避免地出現過(guò)度地能耗。

  在分解式架構中，這些資源(CPU、內存、存儲、各種形式的加速硬件)使用集成式高速數字收發(fā)器和基于適當傳輸介質(zhì)和交換技術(shù)的專(zhuān)用互連結構進(jìn)行互連，因此實(shí)現了靈活的組合。資源可以相互獨立地組合和適當擴展，滿(mǎn)足預期工作負載的需求。

  靈活利用資源

  資源分解原理如上圖所示。利用底層細粒度資源的公共池，所需資源以定制比率捆綁在一起，動(dòng)態(tài)“組合”形成占比靈活的“裸金屬主機”硬件主機。在這種情況下，關(guān)鍵構建塊是低級別的資源元素本身，例如 CPU、內存、存儲和各種加速器(GPU、TPU、FPGAs)。

  就可訪(fǎng)問(wèn)和可消耗的資源塊的細粒度，可以定義不同的分解級別。

  在細粒度最高的分解形式中，每個(gè)資源塊(例如一組 DRAM、一個(gè) CPU、一個(gè)加速器)都擁有板載硬件，以便于其資源與互連平臺進(jìn)行必要的高速、低延遲連接。

  細粒度稍低的資源分解形式與當前硬件實(shí)施更加兼容，可被視為促進(jìn)向完全分解平臺漸進(jìn)過(guò)渡的一種方式。其中包括：覆蓋在分組交換結構上的光互連和改變傳統服務(wù)器的用途。

  疊加在分組交換架構上的光互連

  在這種應用中，動(dòng)態(tài)互連的計算資源組件僅限于加速器硬件。通過(guò)單模光模塊，它們可以使用專(zhuān)用光交換結構，靈活、直接地與其他主機中的同類(lèi)組件互連，該專(zhuān)用光交換結構有效地疊加在包交換網(wǎng)絡(luò )上，這些包交換網(wǎng)絡(luò )已經(jīng)將集群中主機之間互聯(lián)起來(lái)。

  改變傳統服務(wù)器的用途

  除單獨對加速卡進(jìn)行互連外，還可以訪(fǎng)問(wèn)傳統服務(wù)器群中已經(jīng)存在的更多資源，配備專(zhuān)業(yè)的 SerDes 處理硬件和固件以及高密度、高速光收發(fā)器的專(zhuān)用 PCIe 互連卡充當機箱中與 PCIe 連接的計算資源和光互連結構之間的高性能網(wǎng)關(guān)。

  互聯(lián)結構

  這是一種采用透明全光線(xiàn)路交換的光互連結構，該結構提供了確定性、線(xiàn)路交換的固定帶寬數據路徑，非常適合硬件資源地互連，否則這些硬件資源將通過(guò)服務(wù)器主板上的專(zhuān)用線(xiàn)路或者PCI Express 等特定總線(xiàn)直連進(jìn)行固定的低級互連。

  與電交換網(wǎng)絡(luò )相比，它還能夠大幅降低網(wǎng)絡(luò )本身的功耗，顯著(zhù)降低與數據路徑相關(guān)的延遲，以及更好地對網(wǎng)絡(luò )架構進(jìn)行縱向和橫向擴展。由于全光交換網(wǎng)絡(luò )對與分解式資源元素相關(guān)聯(lián)的光收發(fā)器之間的序列化數據流量的格式和線(xiàn)路速率具有固有的透明性，因此面為未來(lái)帶寬升級更加友好。

  POLATIS DirectLight?

  全光交換機等損耗最低的全光線(xiàn)路交換機允許用多達四級或四級以上的交換來(lái)構建網(wǎng)絡(luò )架構，同時(shí)保持在使用分解式資源元素的典型光收發(fā)器的光損耗預算之內。

  分解計算的優(yōu)勢

  可以靈活快速地組建硬件計算平臺

  可將平臺擴展到適合在硬件運行的各種工作負載的可用資源類(lèi)型的任何大小和比率。

  在運行特定工作負載的過(guò)程中，可以隨資源消耗需求的變化調整平臺的大小。

  可以暫時(shí)關(guān)閉不需要的資源，節省運營(yíng)開(kāi)支 (OPEX)。

  借助分解網(wǎng)絡(luò )架構，運營(yíng)商能夠：

  為各種組件構建塊選擇一流的供應商。

  使用那些僅支持他們所需特定功能的資源。

  根據需要升級資源元素的不同類(lèi)型和/或塊。