NVIDIA GTC 2024大會重點介紹了新一代GPU架構(gòu)Blackwell及其產(chǎn)品B100、B200。SXM架構(gòu)相比PCIe在帶寬和多GPU互聯(lián)方面具優(yōu)勢,適合大模型AI計算中心。B200是兩顆B100 Chiplet化,提升全方位,特別是顯存容量達(dá)到192GB。Blackwell架構(gòu)新增FP4和FP6精度,B200在算力上相對B100有全面提升,但非理想倍數(shù)增長,顯示NVIDIA有所保留。
NVIDIA GTC 2024大會發(fā)布新一代GPU架構(gòu)Blackwell,特點為MCM設(shè)計,集成2080億晶體管,采用4NP TSMC工藝。Blackwell架構(gòu)提供顯著算力提升,低精度推理優(yōu)化,以及高互聯(lián)帶寬,特別適合大模型訓(xùn)練和推理。新架構(gòu)搭載產(chǎn)品包括B100、B200、GB200,未來RTX50系列也將采用。性能提升包括5倍AI性能,4倍顯存,以及更高的顯存帶寬和NVLink速度。