NVIDIA與軟銀公司合作，利用Grace Hopper超級芯片建設面向生成式AI和5G/6G的軟銀下一代數據中心

  基于A(yíng)rm架構的超級芯片和BlueField-3 DPU帶來(lái)革命性的架構，以實(shí)現生成式AI驅動(dòng)的無(wú)線(xiàn)通信

  COMPUTEX——2023年5月29日——NVIDIA和軟銀公司今天宣布，雙方正在合作打造一個(gè)基于NVIDIA GH200 Grace Hopper 超級芯片、面向生成式AI和5G/6G應用的開(kāi)創(chuàng )性平臺。軟銀計劃在日本各地的全新分布式AI數據中心采用該平臺。

  為在全球范圍內快速部署生成式AI應用和服務(wù)鋪平道路，通過(guò)與NVIDIA合作，軟銀將打造能夠在多租戶(hù)通用服務(wù)器平臺上托管生成式AI和無(wú)線(xiàn)應用的數據中心，以降低成本和更節能。

  該平臺將使用全新NVIDIA MGX 參考架構和基于A(yíng)rm Neoverse的GH200超級芯片，有望提高應用程序工作負載的性能、可擴展性和資源利用率。

  軟銀公司總裁兼首席執行官Junichi Miyakawa表示：“隨著(zhù)我們進(jìn)入一個(gè)社會(huì )與AI共存的時(shí)代，對數據處理和電力的需求將不斷增長(cháng)。軟銀將提供下一代社會(huì )基礎設施，以支持日本的超級數字化社會(huì )。與NVIDIA的合作將幫助我們的基礎設施利用AI實(shí)現更高的性能，包括對RAN的優(yōu)化。我們期待這也可以幫助我們降低能耗，創(chuàng )建一個(gè)互連的數據中心網(wǎng)絡(luò )，用于共享資源并托管一系列生成式AI應用?！?

  NVIDIA創(chuàng )始人兼首席執行官黃仁勛表示：“對加速計算和生成式AI的需求正在推動(dòng)數據中心架構的根本性變革。NVIDIA Grace Hopper是一個(gè)革命性的計算平臺，專(zhuān)為處理和擴展生成式AI服務(wù)而設計。與以往富有遠見(jiàn)的其它舉措一樣，軟銀正在引領(lǐng)世界創(chuàng )建一個(gè)電信網(wǎng)絡(luò )來(lái)承載生成式AI服務(wù)?！?

  相比以往的數據中心，這些新數據中心的分布將更加均衡，并能夠同時(shí)處理AI和5G工作負載。這將讓它們更好地保持峰值運行，同時(shí)保持低時(shí)延并大幅降低總體能源成本。

  軟銀正在為自動(dòng)駕駛、AI工廠(chǎng)、增強現實(shí)和虛擬現實(shí)、計算機視覺(jué)和數字孿生開(kāi)發(fā)5G應用。

  虛擬RAN的吞吐量破紀錄

  NVIDIA Grace Hopper和NVIDIA BlueField -3 DPU將加速軟件定義的5G vRAN以及生成式AI應用，而無(wú)需定制硬件加速器或專(zhuān)用5G CPU。此外，配備BlueField-3的NVIDIA Spectrum以太網(wǎng)交換機將為5G提供高精度時(shí)間同步協(xié)議。

  該解決方案在NVIDIA加速的1U MGX服務(wù)器設計上實(shí)現了突破性的5G速度，根據公開(kāi)的5G加速器數據，它實(shí)現了業(yè)內吞吐量最高的36Gbps下行鏈路容量。運營(yíng)商一直難以通過(guò)行業(yè)標準服務(wù)器實(shí)現如此高的下行鏈路容量。

  全新參考架構

  NVIDIA MGX是一個(gè)模塊化參考架構，讓系統制造商和超大規模企業(yè)客戶(hù)能夠快速、經(jīng)濟地構建100多種服務(wù)器機型，適用于各種AI、HPC和NVIDIA Omniverse 應用。

  通過(guò)將NVIDIA Aerial 軟件引入到高性能的軟件定義的云原生5G網(wǎng)絡(luò )中，這些5G基站將允許運營(yíng)商動(dòng)態(tài)地分配計算資源，并實(shí)現比競品高2.5倍的能效。

  Arm首席執行官Rene Haas表示：“生成式AI的未來(lái)發(fā)展需要高性能、節能的計算，就像NVIDIA 基于A(yíng)rm Neoverse的 Grace Hopper超級芯片那樣。結合NVIDIA BlueField DPU，Grace Hopper使軟銀新的5G數據中心能夠運行最苛刻的計算和內存密集型應用，并為Arm上的軟件定義5G和AI帶來(lái)指數級的能效提升?！?