NVIDIA和日本電信公司軟銀合作創(chuàng )建了一個(gè)基于NVIDIA的GH5 Grace Hopper Superchip的生成人工智能和6G/200G應用平臺。
軟銀計劃在日本建立數據中心，與英偉達一起，可以在共享服務(wù)器平臺上容納生成式人工智能和無(wú)線(xiàn)應用程序。這種多租戶(hù)解決方案有望降低成本并提高能源效率。
擬議的平臺將利用NVIDIA的全新MGX模塊化參考架構和GH200超級芯片，從而提高應用程序工作負載的性能。Grace Hopper架構采用72個(gè)Arm Neoverse V2處理器內核和LPDDR5X，包括用于加速計算的中央處理器和圖形處理單元的組合。
NVIDIA將在今年晚些時(shí)候推出MGX，軟銀是第一個(gè)測試該架構的客戶(hù)。
電信現代化需要加速計算
在過(guò)去的六十年中，大多數計算架構主要以CPU為中心。這些傳統設計用途廣泛，可以很好地適應各種工作負載，但現在正被加速計算所取代。
加速計算使用全棧，這意味著(zhù)它同時(shí)具有 CPU 和加速器協(xié)同工作以劃分處理任務(wù)。此方法經(jīng)過(guò)優(yōu)化，可處理不同的工作負載。這兩個(gè)元素之間的網(wǎng)絡(luò )對于保持最佳性能至關(guān)重要。
該聯(lián)合平臺還將利用NVIDIA的BlueField-3數據處理單元來(lái)加速5G虛擬化無(wú)線(xiàn)接入網(wǎng)絡(luò )和生成AI應用程序。預計它將在5 Gbps的下行鏈路容量范圍內實(shí)現36G速度。
與單一用途的5G虛擬RAN相比，這種方法的投資回報率約為四倍，因為數據中心也可以用于A(yíng)I，NVIDIA電信高級副總裁Ronnie Vasishta在與分析師的簡(jiǎn)報中解釋說(shuō)。
開(kāi)放式 RAN 可實(shí)現更高的敏捷性
直到最近，電信的主要模型還是專(zhuān)有的RAN，它是作為單個(gè)單片堆棧開(kāi)發(fā)的。這種方法提供高性能，但維護成本很高。許多公司已過(guò)渡到開(kāi)放式虛擬化 RAN，將其計算工作負載轉移到服務(wù)器架構。
但是，虛擬化RAN一直難以與專(zhuān)有RAN的性能相匹配。為了克服這個(gè)問(wèn)題，引入了專(zhuān)用加速器。然而，這些單一用途的加速器只能用于RAN工作負載，導致性能不佳和云經(jīng)濟性不佳。
“純粹用于5G的單一用途網(wǎng)絡(luò )必須針對高峰需求而構建。隨著(zhù)新的人工智能應用的出現，高峰需求將會(huì )增長(cháng)。電力需求將會(huì )增長(cháng)。計算需求也將增長(cháng)，“Vasishta說(shuō)。“我們看到正在建設的網(wǎng)絡(luò )利用率嚴重不足，5G的投資回報率相對較低。
NVIDIA 開(kāi)發(fā)了一種 GPU 加速的軟件定義架構，其中一個(gè)加速器可以同時(shí)運行 AI 任務(wù)和 RAN。這允許RAN和AI在數據中心內共存，數據中心可以是公共的、分布式的或本地的。這種方法本質(zhì)上允許5G作為AI云上的軟件覆蓋運行，硬件保持不變。事實(shí)上，隨著(zhù)6G算法的發(fā)展，它們可以被整合到現有的硬件中，而不需要部署新的硬件。
生成式AI是“iPhone時(shí)刻”
Vasishta稱(chēng)這是“AI的iPhone時(shí)刻”人工智能對數據中心的改變游戲規則的影響，類(lèi)似于iPhone如何徹底改變智能手機。
這一刻的特點(diǎn)是科技行業(yè)兩個(gè)變革因素的融合：計算架構的變化和生成式人工智能的出現。Vasishta說(shuō)，生成式AI需要橫向擴展架構，這推動(dòng)了對網(wǎng)絡(luò )化“AI工廠(chǎng)”或數據中心的巨大需求。聊天機器人和視頻會(huì )議等應用程序，通過(guò)生成式人工智能成為可能，正在對電信網(wǎng)絡(luò )產(chǎn)生巨大的需求。
NVIDIA正在通過(guò)使5G基礎設施不僅虛擬化，而且完全軟件定義來(lái)解決這個(gè)問(wèn)題。因此，可以在同一數據中心內運行高性能、高效的 5G 網(wǎng)絡(luò )以及 AI 應用程序。這為軟銀等電信公司開(kāi)辟了新的貨幣化機會(huì )，使他們能夠成為區域云服務(wù)提供商。通過(guò)建立AI工廠(chǎng)，他們還可以提供RAN服務(wù)，從而更有效地使用他們購買(mǎi)的頻譜。
軟銀正在探索5G在各個(gè)領(lǐng)域的應用，包括自動(dòng)駕駛、增強現實(shí)和虛擬現實(shí)、計算機視覺(jué)和數字孿生。與 NVIDIA 的合作是數據中心發(fā)展的重要一步，其中對加速計算和生成式 AI 的需求推動(dòng)了根本性的變化。
