|
NVIDIA B200服務(wù)器GPU算力租賃是一個統(tǒng)一的人工智能平臺，適用于任何規(guī)模的企業(yè)在人工智能旅程的任何階段進行開發(fā)到部署的管道。NVIDIA DGX B200配備了八個與第五代NVIDIA® NVLink™互連的NVIDIA Blackwell GPU，其訓(xùn)練性能是上一代系統(tǒng)的3倍和15倍的推理性能。利用NVIDIA Blackwell架構(gòu)，DGX B200可以處理各種工作負(fù)載，包括AI大模型、推薦系統(tǒng)和聊天機器人，使其成為希望加速人工智能轉(zhuǎn)型的企業(yè)的理想選擇。
NVIDIA B200的GPU算力租賃系統(tǒng)基于Blackwell架構(gòu)，配備8個B200 Tensor Core GPU和2個第六代英特爾Xeon處理器，搭載8個ConnectX-7網(wǎng)卡與2個BlueField-3 DPU，支持400 Gb/s網(wǎng)絡(luò)帶寬，采用Quantum-2 InfiniBand及Spectrum-X以太網(wǎng)技術(shù)。其FP4精度計算提供144 petaflops AI算力，配備1.4TB顯存及64TB/s帶寬，萬億參數(shù)模型實時推理性能較前代提升15倍。軟件層面集成NVIDIA AI Enterprise平臺，包含預(yù)訓(xùn)練基礎(chǔ)模型、開發(fā)框架及NIM微服務(wù)，覆蓋從數(shù)據(jù)準(zhǔn)備到推理部署的全流程AI工作負(fù)載。
NVIDIA B200是一個完全優(yōu)化的硬件和軟件平臺，包括完整的NVIDIA AI軟件堆棧，，豐富的第三方支持生態(tài)系統(tǒng)。
Nvidia英偉達B200人工智能服務(wù)器GPU算力租賃配置：
CPU:2*intel Xeon 6972P_2.4 GHz_96C;
GPU:NVIDIA HGX B200 8-GPU 180GB HBM3e
內(nèi)存：24*96GB_DDR5
系統(tǒng)盤：960GB
數(shù)據(jù)盤：3.84TB*4
網(wǎng)卡：8*ConnectX-7、2*BlueField-3 DPU
|
