ICC訊 據報道,字節跳動(dòng)正在開(kāi)發(fā)兩款專(zhuān)門(mén)用于人工智能領(lǐng)域的GPU,并計劃到2026年實(shí)現大規模量產(chǎn)。據悉,這兩款AI GPU將由臺積電負責制造,這將有助于字節跳動(dòng)降低對英偉達的依賴(lài),并且符合美國的出口管控法規。
目前,這兩款GPU正處于設計階段,一款專(zhuān)為AI訓練設計,另一款則用于A(yíng)I推理。預計它們將采用臺積電的先進(jìn)制程技術(shù)N4或N5生產(chǎn),與英偉達的Blackwell系列制程技術(shù)相似。字節跳動(dòng)期望在2026年實(shí)現這些GPU的大規模生產(chǎn)及部署。
今年,字節跳動(dòng)已經(jīng)投入超過(guò)20億美元購買(mǎi)超過(guò)20萬(wàn)臺英偉達H20 GPU,單價(jià)約為10000美元,其中許多訂單尚未交付。由于市場(chǎng)上英偉達GPU供不應求且價(jià)格高昂,字節跳動(dòng)決定開(kāi)發(fā)自家的人工智能硬件。
英偉達為了應對去年美國實(shí)施的出口管控政策,為中國市場(chǎng)特別設計了DGX H20等產(chǎn)品。盡管HGX H20的性能相比英偉達的高端H100有所削減,但它仍然配備了96GB的HBM3內存、最高4TB/s的內存帶寬和8路GPU互聯(lián)能力,因此在實(shí)際應用中仍然受到企業(yè)客戶(hù)的青睞。盡管字節跳動(dòng)的新GPU可能會(huì )受到美國出口管制的限制,無(wú)法在性能上超越HGX H20,但其成本將大幅降低。
字節跳動(dòng)在自主開(kāi)發(fā)AI GPU方面面臨的最大挑戰是,公司目前依賴(lài)英偉達的CUDA及相應軟件棧進(jìn)行AI訓練和推理。如果轉向自家GPU,字節跳動(dòng)將需要開(kāi)發(fā)新的軟件平臺,并確保軟件與硬件的兼容性。
此外,有消息稱(chēng),蘋(píng)果被曝與騰訊和字節洽談AI模型合作,騰訊不予置評,字節暫無(wú)回應。
12月19日,有報道稱(chēng)蘋(píng)果正在和騰訊和字節跳動(dòng)商談將兩家公司的人工智能模型整合到在中國銷(xiāo)售的iPhone中,但談判仍處于早期階段。12月19日,騰訊方面就此向記者表示:“不予置評?!弊止澨鴦?dòng)暫無(wú)回應。