LC：人工智能毫無(wú)懸念主宰了2024年Hot Chips大會(huì )

  ICC訊  今年的年度Hot Chips會(huì )議代表了生成式人工智能（AI）炒作周期的頂峰。符合這一主題，OpenAI的Trevor Cai在他的主旨演講中強調了AI計算的重要性。然而，在一個(gè)以技術(shù)披露聞名的會(huì )議上，商用芯片供應商的展示令人失望；盡管有一系列精彩的演講，但幾乎沒(méi)有新的細節浮出水面。英偉達關(guān)于Blackwell的演講大多重復了之前公布的信息。不過(guò)，在“一張圖片勝過(guò)千言萬(wàn)語(yǔ)”的時(shí)刻，一張幻燈片上展示了下面所示的GB200 NVL36機架的照片。

  許多客戶(hù)更偏愛(ài)耗電較少的NVL36配置，而不是需要巨大電力支持（每機架120千瓦）的NVL72配置。對于讀者來(lái)說(shuō)，關(guān)鍵的區別在于，機架中間顯示的NVLink交換托盤(pán)具有前面板籠子，而用于NVL72的“不可擴展”NVLink交換托盤(pán)只有用于NVLink脊/背板的后面板連接器。盡管英偉達省略了布線(xiàn)細節，但外部NVLink線(xiàn)纜可能包括無(wú)源（DAC）和有源銅（ACC/AEC）以及可插拔光學(xué)器件。NVL36為布線(xiàn)創(chuàng )造了一個(gè)新的市場(chǎng)細分，盡管短期內主要針對銅纜。

  英特爾早在今年四月份就宣布了其Gaudi 3 AI加速器，但重溫一下它的網(wǎng)絡(luò )規格還是值得的。新芯片集成了24個(gè)200G以太網(wǎng)端口，使用48個(gè)112G SerDes。像微軟的Maia一樣，Gaudi 3芯片可以直接連接以進(jìn)行擴展，并通過(guò)交換機進(jìn)行集群擴展。集成網(wǎng)卡支持RoCE協(xié)議，實(shí)現低延遲RDMA數據傳輸。在另一個(gè)演講中，英特爾再次討論了4Tbps光計算互連（OCI）芯粒。演講者強調了激光集成的價(jià)值，并指出迄今為止已發(fā)貨的超過(guò)3000萬(wàn)個(gè)激光器所展現的0.1FIT可靠性。

  博通展示了其適用于帶光接口的人工智能計算ASIC的共封裝光學(xué)（CPO）技術(shù)。雖然演講的第一部分主要介紹了Bailly CPO交換機，但后半部分包含了一些有關(guān)XPU的CPO的新細節和概念。公司引入了“Oceanfront”這個(gè)概念，它不同于硅Beachfront。將光學(xué)引擎附著(zhù)到CoWoS封裝基板上，為CPO提供了比硅中介層更多的線(xiàn)性空間。演講還提出了在未來(lái)光學(xué)引擎中使用雙向（bidi）信號的概念，以將所需的光纖數量減少一半。

  也許商用芯片供應商在今年讓位于數據中心運營(yíng)商是合適的。畢竟，后者正在推動(dòng)對AI基礎設施的大規模投資。AI架構的多樣性應該有利于供應鏈，在英偉達定制的全棧解決方案之外創(chuàng )造機會(huì )。