Nvidia 下一代 GB300 AI 服務(wù)器規(guī)格增強

業(yè)界來源：SiliconANGLE 2024-12-29 06:11:58

媒體泄露了英偉達(dá)公司下一代人工智能服務(wù)器GB300平臺的詳細(xì)信息，預(yù)計該平臺將在內(nèi)存、性能、連接性和散熱方面有重大改進(jìn)。

這家全球最有價值的芯片制造商預(yù)計將在其年度 GTC 活動上發(fā)布 GB300 AI 服務(wù)器，該活動定于 2025 年 3 月舉行，但如果它希望在此之前對新平臺保密，那么它似乎未能做到這一點。

媒體網(wǎng)站 UDN稱，供應(yīng)鏈消息人士透露了新服務(wù)器的詳細(xì)規(guī)格。據(jù)報道，GB300 將采用 Nvidia 最先進(jìn)的Blackwell 圖形處理單元，內(nèi)存將大幅提升，達(dá)到 288 GB 的 HBM3e 隨機存取內(nèi)存，而其前身GB200 AI 服務(wù)器只有 192 GB?。

此外，Nvidia 將架構(gòu)從 8 層改為 12 層，而計算主板現(xiàn)在使用低功耗壓縮附加內(nèi)存模塊。

GB300 的核心——Nvidia B300 芯片需要 1,400 瓦的功率，而從 ConnectX 7 切換到 ConnectX 8 后，網(wǎng)絡(luò)速度也得到了升級，帶寬從每秒 800 千兆比特擴(kuò)展到每秒 1.6 太比特。

報告還提到，與 GB200 相比，F(xiàn)P4 性能提高了 50%。決定使用 FP4（代表每次操作四位浮點精度）顯然是人們對 GB300 如此興奮的主要原因之一。通過轉(zhuǎn)向 FP4 獲得的精度降低意味著更快的計算、更少的數(shù)據(jù)移動和更低的功耗，使其更適合 AI 推理工作負(fù)載。

還有其他升級，包括使用 GB300 服務(wù)器中即將引入的新“插槽設(shè)計”和新的電容器托盤。

UDN 表示，此次升級意味著 GB300 服務(wù)器的性能將在“各個方面”優(yōu)于 GB200。它還補充說，該服務(wù)器將成為 Nvidia 的“下一個搶占市場的武器”。

不過，這些改進(jìn)的規(guī)格需要付出相當(dāng)大的成本，這并不令人意外，GB300 的價格可能會令人難以置信。據(jù) UDN 稱，其供應(yīng)鏈消息人士估計，GB300 中單個超級電容器的總生產(chǎn)成本將在 20,000 至 25,000 美元之間。由于 GB300 的 NVL72 AI 服務(wù)器機柜需要 300 多個超級電容器，亞馬遜網(wǎng)絡(luò)服務(wù)公司、微軟公司和谷歌有限責(zé)任公司等客戶預(yù)計將支付至少 750 萬美元來填充一個超級電容器。

目前尚不清楚 GB300 何時投入量產(chǎn)。其前身 GB200 的產(chǎn)量尚未達(dá)到頂峰，預(yù)計出貨量要到明年年中才會達(dá)到頂峰，原因是Blackwell GPU 的后期設(shè)計缺陷（據(jù)報道導(dǎo)致過熱問題）導(dǎo)致生產(chǎn)延遲。

這些挫折意味著 Nvidia 的訂單積壓了大約一年。這是因為人工智能熱潮導(dǎo)致對計算能力的需求旺盛，而 Nvidia 的 GPU 被普遍認(rèn)為是業(yè)內(nèi)最好的。因此，Nvidia 的市值已上漲超過 3 萬億美元，成為全球最有價值的三家公司之一。

盡管迄今為止的重點一直是企業(yè)，但 Nvidia 也將推出其首款消費級 Blackwell GPU，業(yè)內(nèi)人士表示，我們可能會在下個月的消費電子展上聽到更多有關(guān)該 GPU 的消息。