用于連接 GPU 服務(wù)器中的 8 個 GPU 的 NVLink 交換機(jī)也可以用于構(gòu)建連接 GPU 服務(wù)器之間的交換網(wǎng)絡(luò)。Nvidia 在 2022 年的 Hot Chips 大會上展示了使用 NVswitch 架構(gòu)連接 32 個節(jié)點(或 256 個 GPU)的拓?fù)浣Y(jié)構(gòu)。由于 NVLink 是專門設(shè)計為連接 GPU 的高速點對點鏈路,所以它具有比傳統(tǒng)網(wǎng)絡(luò)更高的性能和更低的開銷。
AI系統(tǒng)目前在整個網(wǎng)絡(luò)交換潛在市場中的占比“遠(yuǎn)低于10%”,而且其中約九成部署的都是英偉達(dá)/Mellanox的InfiniBand,而非傳統(tǒng)以太網(wǎng)。這些部署將英偉達(dá)的網(wǎng)絡(luò)收入拉升至每年100億美元,也使其成為該領(lǐng)域內(nèi)的第二大參與者,成功反超瞻博和Arista。