用于連接 GPU 服務(wù)器中的 8 個(gè) GPU 的 NVLink 交換機(jī)也可以用于構(gòu)建連接 GPU 服務(wù)器之間的交換網(wǎng)絡(luò)。Nvidia 在 2022 年的 Hot Chips 大會(huì)上展示了使用 NVswitch 架構(gòu)連接 32 個(gè)節(jié)點(diǎn)(或 256 個(gè) GPU)的拓?fù)浣Y(jié)構(gòu)。由于 NVLink 是專門設(shè)計(jì)為連接 GPU 的高速點(diǎn)對(duì)點(diǎn)鏈路,所以它具有比傳統(tǒng)網(wǎng)絡(luò)更高的性能和更低的開(kāi)銷。
AI系統(tǒng)目前在整個(gè)網(wǎng)絡(luò)交換潛在市場(chǎng)中的占比“遠(yuǎn)低于10%”,而且其中約九成部署的都是英偉達(dá)/Mellanox的InfiniBand,而非傳統(tǒng)以太網(wǎng)。這些部署將英偉達(dá)的網(wǎng)絡(luò)收入拉升至每年100億美元,也使其成為該領(lǐng)域內(nèi)的第二大參與者,成功反超瞻博和Arista。